Excelente texto da IBM Developer Works sobre gerenciamento de memória no OS e gerenciamento de memória de uma JVM.