唐太宗對魏征是既賞識又敬畏的。魏征病逝後，唐太宗悲傷地說：“壹個人用銅作鏡子，可以照見衣帽是不是穿戴得端正；用歷史作鏡子，可以知道國家興亡的原因；用人作鏡子，可以發現自己做得對與不對。現在魏征死了，我失去了最珍貴的壹面鏡子。”
為什麽唐太宗會把魏征當作自己的鏡子呢？這是有原因的。
魏征出身卑微，少年時孤苦貧困，曾經出家做過道士。他喜歡讀書，用心鉆研古籍，學識非常豐富。隋朝末年，魏征參加了反對隋朝暴政的起義。後來，他投靠唐高祖李淵創建的唐王朝，為太子李建成做事。由於魏征才華出眾，因此很受太子的器重。
後來，唐高祖的二兒子李世民發動“玄武門兵變”，殺死哥哥李建成。年輕而敏銳的李世民知道魏征是個人才，便親自召見他。
李世民壹見魏征，就非常生氣地責問他：“妳為什麽要離間我們兄弟的感情？”在場的大臣們都感到魏征將有殺身之禍。
可是，魏征卻從容自若，以非常自信的口氣回答說：“如果皇太子早聽我的話，肯定不會落到今天這樣的下場。”李世民聽後，被魏征這種不畏強權及正直的精神所感動，打從心裏欽佩他的人格。因此，不但沒有處罰他，反而重用了他。
不久，李世民即位，他就是唐太宗。唐太宗委任魏征為諫議大夫（專門向皇帝提意見的官職），以後又提拔他當宰相。建國之初，唐太宗勵精圖治，經常召見魏征，與他討論治國施政的得失。魏征胸懷大誌，膽識超群，以實事求是的精神大膽進諫。在他任職的幾十年間，為了使大唐民富國強，先後向唐太宗進諫了二百多次。每壹回，唐太宗都慎重地思考他所提的意見，盡量采納。
有壹次，唐太宗違犯他制定的18歲成年男子才須服兵役的規定，決定征召16歲以上，18歲以下，身材高大的男子從軍。命令發出以後，魏征極力反對，唐太宗十分生氣，派人把他叫來，大加訓斥。
魏征毫不畏懼，他十分嚴肅地進諫說：“您現在把強壯的中男都抽去服兵役，那麽，田由誰來種？工由誰來做？您常常講，我當國君，首先要講信用，可是國家的法律明明規定，男丁中的強壯者才需要服兵役，您為什麽不遵守呢？您這樣做，在老百姓面前不是失去信用了嗎？”
魏征的這壹番話，把唐太宗壹肚子的火氣澆滅了。他心悅誠服地對魏征說：“先生真是我和國家的壹面鏡子啊！我原先以為妳太固執，不通情理，現在聽了妳的話，覺得很有道理。政令前後不壹，百姓不知所措，國家是無法治理得好的。”於是，唐太宗立刻下令停止征召中男服役，還獎賞了魏征。
敢於直言勸諫的魏征不僅為國家立下了不朽的功績，也成了以後歷朝官員效法的楷模