計算機體系結構國家重點實驗室設立五個主要研究方向，即高端計算機體系結構和設計方法、微體系結構、編譯和編程、VLSI與容錯計算、非傳統計算機體系結構。圍繞五個研究方向，結合實驗室現有的基礎和未來的發展規劃，下設五個實驗室（先進計算機系統實驗室、微體系結構實驗室、編譯與編程實驗室、集成電路實驗室、並行算法實驗室）和四個研究組（處理器設計研究組、操作系統研究組、存儲體系結構研究組、量子計算研究組）。
以計算機系統結構的學科優勢為依托，圍繞超並行計算機系統和多核處理器開展基礎研究和高技術前沿探索。主要研究方向包括：高性能計算機系統設計理論，微處理器設計的新原理、新結構和新方法。通過研究新型高性能計算機的體系結構，面向新型體系結構的模擬仿真、操作系統、應用建模和優化技術，高端處理器的微體系結構，跨平臺多系統虛擬化技術、大規模片上多核並行處理器設計方法、可擴展可重構處理器設計方法，並行程序設計模型、語言、編譯，先進微處理器的代碼生成與優化，計算機體系結構及微體系結構可靠性設計，多核處理器的自測試、自診斷、自修復設計，VLSI測試和設計驗證方法，為高性能計算機系統和高性能處理器設計領域的發展持續提供創新方法和關鍵技術。解決本領域國家急待解決的重大關鍵問題，推動計算機系統結構學科的科技進步。