魏征580年生于贫寒流的乡下人家，幼时失父，生活更为清贫，不久出家做了道士。隋朝末年，时局动荡，寺观也非世外净土，魏征参加了李密领导的瓦岗起义军；李密为李渊、李世民所败，瓦岗军归顺大唐；在与窦建德部作战中，瓦岗旧部失抻，补窦建德收编，魏征被封为起居舍人；不久，窦建德复被唐打败，魏征等归唐为好，替太子洗马；太子发现魏征奇才，对他破格重用，倚为心腹谋士，魏征投桃报李，为太子与李世民争夺天下继承皇位出谋划策；后经玄武门之变，李世民用政变形式夺取皇权，打败太子，继位为唐太宗。魏征本来应被处死，但太宗欣赏他的耿直与才华，升他为谏议大无，后记至宰相，郑国公。

魏征敢于直谏，先后向太宗陈谏200多条，成为谏臣典荡。太宗问魏征，人君怎样才能明，怎样才是暗？魏征回答他"兼听则明，偏信则暗"劝太宗兼听广纳；唐政权稳定后，他又提醒太宗，"居安思危""慎终如始"；他犯颜直谏，不留情面，只要皇上有错，决不姑息；一次，太宗被他说得恼羞成怒，退朝后恨恨地说："总有一天我要杀死这个乡巴佬！"长孙皇后忙问究竟，他说："魏征常常当众侮辱我，让我下不了台！"长孙皇后连忙向他道贺："主明臣直，魏征如此忠直，是因为陛下是明主。"

魏征63岁时不幸病故，太宗闻讯后痛哭流涕地说："用铜作镜，可以整衣帽；用史作镜，可以见兴亡；用人作镜，可以知得失。魏征死，我就失去了一面镜子。"可见君臣感情相当深厚。

魏征的治国言论见于《贞观政要》。他还写有《隋书》总序和《梁书》、《陈书》、《齐书》的总论，主编过《群书治要》。他的治国思想和忠直的精神，传为后人楷模。