為了使計算機能夠使用專家的領域知識，需要用壹定的方式表達知識。目前常用的知識表示方法有產生式規則、語義網絡、框架、狀態空間、邏輯模式、腳本、流程、面向對象等。基於規則的產生式系統是目前實現知識應用的最基本方法。產生式系統由三個主要部分組成:綜合數據庫、知識庫和推理機。綜合數據庫包含世界上解決問題的事實和斷言。知識庫包含所有以“如果:前提，那麽:結果”形式表達的知識規則。推理機(也稱為規則解釋器)的任務是通過使用控制策略來發現適用的規則。知識庫用於存儲專家提供的知識。專家系統的問題求解過程通過知識庫中的知識模擬專家的思維方式。因此，知識庫是專家系統質量是否優越的關鍵，即知識庫中知識的質量和數量決定了專家系統的質量水平。壹般來說，專家系統中的知識庫和專家系統程序是相互獨立的，用戶可以通過改變和完善知識庫中的知識內容來提高專家系統的性能。
人工智能中的知識表示形式包括產生式、框架、語義網絡等。專家系統中廣泛使用的知識是產生式規則。產生式規則以IFTHEN的形式出現，就像BASIC等編程語言中的條件語句壹樣。If後跟條件(antecedent)，那麽後跟結論(aftereffect)，條件和結論可以通過邏輯運算AND、OR和NOT復合。這裏對產生式規則的理解很簡單:前提條件滿足，就會產生相應的動作或結論。推理機根據當前問題的條件或已知信息，反復匹配知識庫中的規則，得出新的結論，從而得到問題的求解結果。在這裏，有兩種推理方法:正向推理和反向推理。
正向鏈的策略是在數據庫中找出那些前提能與事實或斷言相匹配的規則，並使用沖突消除策略選擇這些規則中的壹個來執行，從而改變原數據庫的內容。這種搜索壹直重復，直到數據庫的事實與目標壹致，也就是找到了解，或者沒有規則與之匹配時，就會停止。
逆向鏈的策略是從選定的目標中尋找能達到目標的規則；如果這個規則的前提與數據庫中的事實相匹配，問題就解決了；否則，將該規則的前提作為新的子目標，並為新的子目標搜索適用的規則，並執行逆序的前提，直到最後應用的規則的前提可以與數據庫中的事實匹配，或者直到沒有規則可以再次應用，系統將要求用戶回答並以對話的形式輸入必要的事實。
可見，推理機就如同專家解決問題的思維方式，知識庫通過推理機實現其價值。人機界面是系統與用戶交流時的界面。通過該界面，用戶可以輸入基本信息，回答系統提出的相關問題，輸出推理結果和相關說明。
綜合數據庫是專門用來存儲推理過程中需要的原始數據、中間結果和最終結論的，往往作為臨時存儲區。解釋器可以根據用戶的提問解釋結論和求解過程，從而使專家系統更加人性化。
知識獲取是專家系統知識庫是否優越的關鍵，也是專家系統設計的“瓶頸”問題。通過知識獲取，可以對知識庫中的內容進行擴充和修改，還可以實現自動學習功能。早期的專家系統采用通用編程語言(如fortran、pascal、basic等。)和人工智能語言(如lisp、prolog、smalltalk等。)，並通過人工智能專家和領域專家的合作直接編程實現。其開發周期長，難度大，但靈活實用，至今仍被人工智能專家使用。專家系統的大部分開發工作已經通過使用專家系統開發環境或專家系統開發工具來實現，領域專家可以選擇合適的工具來開發自己的專家系統，大大縮短了專家系統的開發周期，從而為專家系統在各個領域的廣泛應用提供了條件。