實際的需要激發人們去創造壹種符號—助記符,用他們去代替機器碼來表示指令,既有簡單明了的詞意,壹目了然,又便於理解和記憶,於是，匯編語言應運而生.現在，我們可以用指令助記符和表示地址或數據等的各種符號,按照規定的格式,來編制程序,這樣的程序,稱為匯編語言程序.這些表示指令,地址,數據等的符號以及有關規定，是計算機進行:“思想”的工具,亦即計算機匯編語言.
匯編語言與具體的計算機類型有密切的關系,不同的中央處理單元,其指令系統也各不相同,相應的匯編語言也互不相同.與硬件關系密切的程序,或者實時性要求很高的程序,往往采用匯編程序.
在編輯程序的支持下,匯編語言程序從鍵盤輸入，編輯形成匯編語言源程序.源程序是用匯編語言的語句編寫的,在計算機內部,源程序的各條語句是以ascii 碼表示的,存在磁盤上,又稱為源文件。它區別與機器指令之處是不能被計算機執行,但它可以用來顯示和打印,作為檢查和保存的檔案.
匯編語言源程序經過匯編程序的語法檢查和翻譯,形成二進制代碼表示的目的碼文件.如果源程序中有語法錯誤，匯編程序會指出錯誤的類型和出錯所在的語句,以便用戶重新進行編輯修改,再形成新的源程序.源文件和有其生成的目的碼文件可以是壹個或者是幾個.
目的碼文件並不能直接上機運行,必須經過連接程序把它和庫文件連接在壹起,形成可執行文件.這個可執行文件有操作系統裝入計算機內存，才能運行.