Java虛擬機器在執行Java程式的過程中會把它所管理的記憶體劃分為若干個不同的資料區域。
程式計數器
程式計數器是一塊較小的記憶體空間，它可以看做是當前執行緒所執行的位元組碼的行號指示器。在虛擬機器的概念模型裡，位元組碼直譯器工作時就是通過改變這個計數器的值來選取下一條需要執行的位元組碼指令。
由於Java虛擬機器的多執行緒是通過執行緒輪流切換並分配處理器執行時間的方式來實現的，在任何一個確定的時刻，一個處理器都只會執行一條執行緒中的指令。因此為了執行緒切換後能恢復到正確的執行未知，每條執行緒都需要有一個獨立的程式計數器，各條執行緒之間計數器互不影響，獨立儲存，我們稱這類記憶體區域為“執行緒私有”的記憶體。
執行Java方法的時候，計數器記錄的是正在執行的虛擬機器位元組碼指令的地址；執行Native方法的時候，計數器值為空。此記憶體區域是唯一一個在Java虛擬機器規範中沒有規定任何OOM情況的區域。
Java虛擬機器棧
虛擬機器棧是執行緒私有的，它的生命週期與執行緒相同。虛擬機器棧描述的是Java方法執行的記憶體模型：每個方法在執行的同時都會建立一個棧幀用於儲存區域性變數表、運算元棧、動態連結、方法出口等資訊。每一個方法從呼叫直至執行完成的過程，就對應著一個棧幀在虛擬機器棧中入棧到出棧的過程。
區域性變數表存放了編譯器可知的各種基本資料型別（boolean、byte、char、short、int、float、long、double）、物件引用（reference型別，它不等同與物件本身，可能是一個物件物件起始位置的引用指標，也可能是指向一個代表物件的控制程式碼或其他與此物件相關的位置）和returnAddress型別（指向了一條位元組碼指令的地址）。
其中64位長度的long和double型別的資料會佔用兩個區域性變數空間（Slot），其餘的資料型別只佔用1個。區域性變數表所需的記憶體空間在編譯期間完成分配，當進入一個方法時，這個方法需要在幀中分配多大的區域性變數空間是完全確定的，在方法執行期間不會改變區域性變數表的大小。
如果執行緒請求的棧深度大於虛擬機器所允許的深度，將會丟擲StackOverFlow異常；如果虛擬機器棧可以動態擴充套件，如果擴充套件時無法申請到足夠的記憶體，就會丟擲OOM異常。
本地方法棧
本地方法棧與虛擬機器棧所發揮的作用是非常相似的，它們之間的區別不過是虛擬機器棧為虛擬機器執行Java方法服務，而本地方法棧則為虛擬機器使用到的Native方法服務。與虛擬機器棧區域一樣，本地方法也會丟擲StackOverFlow異常和OOM異常。
Java堆
Java堆是Java虛擬機器所管理記憶體中最大的一塊，Java堆是被所有執行緒共享的一塊記憶體區域，在虛擬機器啟動時建立。幾乎所有的物件例項都在這裡分配記憶體，但是隨著JIT編譯器的發展與逃逸分析技術逐漸成熟，棧上分配、標量替換優化技術將會有些改變。
Java堆是垃圾收集器管理的主要區域。從記憶體回收的角度來看，由於現在收集器基本都採用分帶收集演算法，所以Java堆中還可以細分為：新生代和老年代；新生代又可以細分為Eden空間、S0空間、S1空間。從記憶體分配的角度來看，執行緒共享的Java堆中可能劃分出多個執行緒私有的分配緩衝區（Thread Local Allocation Buffer，TLAB）。
Java堆通過-Xms和—Xms來控制大小。如果堆中沒有記憶體完成例項分配，並且堆也無法在擴充套件時，將會丟擲OOM異常。
方法區
方法區與Java堆一樣，是各個執行緒共享的記憶體區域，它用於儲存已被虛擬機器載入的類資訊、常量、靜態變數、即時編譯器編譯後的程式碼等資料。
對於習慣在HotSpot虛擬機器上開發、部署程式的開發者來說，很多人都更願意把方法區成為永久代，本質上兩者並不相等，僅僅是因為HotSpot虛擬機器的設計團隊把GC分代收集擴充套件至方法區，或者說使用永久代來實現方法區而已，這樣HotSpot的垃圾收集器可以像管理Java堆一樣管理這部分記憶體。JDK1.8中已經取消了永久代，改為元空間。
相對而言，垃圾收集行為在這個區域是比較少出現的，但資料並非用久存在了，這個區域的記憶體回收目標主要是針對常量池的回收和型別的解除安裝。
當方法區無法滿足記憶體分配需求時，將丟擲OOM異常。
執行時常量池
執行時常量池是方法區的一部分。Class檔案中除了類的版本、欄位、方法、介面等描述資訊外，還有一項資訊是常量池，用於存放編譯期間生成的各種字面量和符號引用，這部分內容將在類載入後進入方法區的執行時常量池中存放。
直接記憶體
直接記憶體並不是虛擬機器執行時資料區的一部分，也不是Java虛擬機器規範中定義的記憶體區域。但這部分記憶體也被頻繁的使用，也可能導致OOM異常。
在JDK1.4中新加入了NIO類，引入了一種基於通道與緩衝區的I/O方法，它可以使用Native函式庫直接分配堆外記憶體，然後通過一個儲存在Java堆中的DirectByteBuffer物件作為這塊記憶體的引用進行操作。