Java主要靠Java虛擬機（JVM）在目標碼級實現平臺無關性。JVM是壹種抽象機器，它附著在具體操作系統之上，本身具有壹套虛機器指令，並有自己的棧、寄存器組等。但JVM通常是在軟件上而不是在硬件上實現。（目前，SUN系統公司已經設計實現了Java芯片，主要使用在網絡計算機NC上。另外，Java芯片的出現也會使Java更容易嵌入到家用電器中。）JVM是Java平臺無關的基礎，在JVM上，有壹個Java解釋器用來解釋Java編譯器編譯後的程序。Java編程人員在編寫完軟件後，通過Java編譯器將Java源程序編譯為JVM的字節代碼。任何壹臺機器只要配備了Java解釋器，就可以運行這個程序，而不管這種字節碼是在何種平臺上生成的（過程如圖1所示）。另外，Java采用的是基於IEEE標準的數據類型。通過JVM保證數據類型的壹致性，也確保了Java的平臺無關性。
Java的平臺無關性具有深遠意義。首先，它使得編程人員所夢寐以求的事情（開發壹次軟件在任意平臺上運行）變成事實，這將大大加快和促進軟件產品的開發。其次Java的平臺無關性正好迎合了 "網絡計算機 "思想。如果大量常用的應用軟件（如字處理軟件等）都用Java重新編寫，並且放在某個Internet服務器上，那麽具有NC的用戶將不需要占用大量空間安裝軟件，他們只需要壹個Java解釋器，每當需要使用某種應用軟件時，下載該軟件的字節代碼即可，運行結果也可以發回服務器。目前，已有數家公司開始使用這種新型的計算模式構築自己的企業信息系統。