微碼體系結構中，CPU的控制器直接控制指令的執行。控制器對每個指令使用固定的微操作，存儲在微碼存儲器中，按照預定的順序執行，從而控制CPU各部件的狀態變化。而隨機邏輯體系結構中，指令的解碼和執行不再由硬連線電路實現，而是采用程序可編程的可編程邏輯器件實現。指令可以隨機執行，而不是按照嚴格的順序執行。
在微處理器的發展過程中出現過多種體系結構，包括微程序控制體系結構、精簡指令集體系結構、復雜指令集體系結構等。