起初，中國的檢徽曾經設計為兩把交叉的利劍。也許是因為容易讓人聯想到血腥與殘暴，後來就不再使用該標誌了。檢察官在執行公務時只好佩戴國徽，理由是檢察官是代表國家來依法行使檢察職權的。這樣做顯然沒能體現出檢察官的法律職業特色。
從歷史發展來看，大陸法系所創設的檢察官制，當初既未采取政府代言人的壹般行政官模式，也未采納完全獨立自主的雙法官模式，因而，自始具有居間的雙重性質；從創設的目的來看，檢察官向來居於法官與警察、行政權與司法權兩者之間的中介樞紐。
現行的檢徽設計突出了代表國家利益的特征，無論是對刑事案件的公訴，還是對民事行政條件的抗訴或提出檢察建議，均體現國家利益在司法領域代言人的象征意義。同時，這壹設計理念還契合了檢察機關承擔維護法律公正的客觀義務，即從刑事政策的角度對不起訴履行壹定的自由裁量權或者就起訴案件行使壹定的量刑建議權。