總的來說，編程的定義就是通過專門的語法結構組成指令去完成壹個目標。
最底層的機器代碼就是由0和1組成的二進制代碼。簡單的去理解，這種二進制方式的實現其實是利用了矽的半導體特性，使得壹個半導體晶體管能輸出代表0的電壓和代表1的電壓。許許多多的晶體管按照設計好的電路連接起來，就能成為各種芯片了，比如cpu芯片就是工藝最復雜的壹種矽半導體集成電路。目前，還沒有更好的能替代矽來實現2進制集成電路的材料，所以現在的芯片都是矽芯片。
0和1組成的二進制代碼沒有任何可讀性，是難以被人為編程的，所以在硬件界面之上，又架構了壹層編譯機制，就是匯編語言，其中規定了基本語法格式，讓編程人員可以通過指令訪問芯片電路中各種運算功能。匯編語言就是直接對芯片進行編程，比如機器人工程就屬於這類。這是最底層的編程，俗稱低級編程。
但是匯編語言也比較生澀，都是基於硬件的基本操作，要完成稍微大壹點的任務就要做非常繁雜的編譯工作。於是人們又開發出再高壹級別的編譯架構，於是有了C語言這樣的基本的編程語言。這壹層級別的語言就非常好懂了，編程人員可以拋開繁雜的硬件結構，專心去設計針對應用層面的結構了。
現在更多高級的語言諸如C++, C#，JAVA 等都已經廣泛應用。可以說現在的軟件編程跟硬件的關聯已經越來越遠，但本質上又是密不可分的。就像現在的人開車，只管握方向盤踩油剎車，壹般都不會去了解發動機的基本原理了，也沒必要去了解。