魏徵备经丧乱，仕途坎坷，阅历丰富，因而也造就了他的经国治世之才，他对社会问题有着敏锐的洞察力，而且为人耿直不阿，遇事无所屈挠，深为精勤于治的唐太宗所器重。太宗屡次引魏徵进入卧室，“访以得失”，魏徵也“喜逢知己之主，思竭其用，知无不言”，对于朝政得失，频频上谏。

唐太宗曾褒奖他说：“卿所陈谏，前后二百余事，非卿至诚奉国，何能若是？”不久，迁任尚书左丞。贞观三年（629年）即以秘书监参知国政，进封郑国公。魏徵的直言极谏是著名的，当时以“识鉴精通”而闻名的宰相王珪曾高度评价他说：“每以谏诤为心，耻君不及尧、舜，臣不如魏徵。”据《贞观政要》记载统计，魏徵向太宗面陈谏议有五十次，呈送太宗的奏疏十一件，一生的谏诤多达“数十余万言”。其次数之多，言辞之激切，态度之坚定，都是其他大臣所难以伦比的。

魏徵的谏诤涉及面很广，朝廷军国大事的失误自然是他上谏的主要内容。为了医治隋末战乱的创伤，他规谏太宗要与民休养生息，一改隋炀帝奢靡之风，反对营造宫室台榭和对外穷兵黩武；为了社会的安定，他规谏太宗要废除隋的严刑峻法，代之以宽平的刑律；为了清明，他规谏太宗用人要“才行俱兼”，对官吏中的贪赃枉法之徒要严惩不贷。

在刑赏问题上，他认为刑赏之本在于劝善惩恶，在王法面前，“贵贱亲疏”一律对待；在君主的思想作风上，他规谏太宗要兼听广纳，认为“兼听则明，偏信则暗”，以防止贵臣壅蔽，下情不得上达。他规谏太宗要以“亡隋为戒”，接受历史教训，居安思危，力戒骄奢淫逸。对这些有关国家治乱、社稷存亡的大问题，魏徵在上谏时一向是坚持原则，据理力争，对唐太宗的失误批评也是尖锐的。

他提倡上书言辞激切，无所顾忌。贞观八年（634），陕县丞皇甫德参上书说：“修洛阳宫，劳人；收地租，厚敛。”太宗看后大怒，要给他定以讪谤之罪。魏徵马上劝谏说，昔日贾谊给汉文帝上疏说：“可为痛哭者三，可为太息者五。”自古上书，都是言辞激切，不这样就不能引起皇帝的警觉，激切并不是讪谤。太宗听后有所悔悟说：“朕初责此人，若责之，则谁敢言之。”魏徵对唐太宗常常是面折廷诤，有时弄得他面红耳赤，甚至下不了台。一次罢朝后，太宗曾余怒未息地说：“会须杀此田舍翁。”又说魏徵“每廷辱我”。不难看出，魏徵的犯颜直谏，往往是一针见血，甚至到了太宗难以忍受的程度。

除了军国大事外，魏徵对太宗其他一些不合义理的做法也提出善意的批评。贞观六年（632）八月，长乐公主下嫁，太宗以公主是长孙皇后所生，敕令资妆要倍于永嘉长公主。魏徵上谏，以为长公主尊于公主，公主之礼不应超过长公主。长孙皇后听到此事后，十分钦佩魏徵的刚直敢谏，颇有感触地对太宗说：“尝闻陛下重魏徵，殊未知其故。今闻其谏，实乃能以义制主之情，可谓正直社稷之臣矣。妾与陛下结发为夫妇，曲蒙礼待，情义深重，每言必候颜色，尚不敢轻犯威严，况在臣下，情疏礼隔，故韩非为之《说难》，东方称其不易，良有以也。”之后，便亲自去魏徵家，赐帛五百匹。魏徵的直言极谏，甚至说出了连长孙皇后也不敢轻易说出的话。

尽管太宗对魏徵的尖锐批评一时难以接受，但他毕竟认识到魏徵是忠心奉国，有利于国家长治久安，对他的犯颜直谏曾感叹说：“人言魏徵举动疏慢，我但觉妩媚，适为此耳。”当然，唐太宗的开明是魏徵屡次极言直谏的重要原因，因此他回答说：“陛下导之使言，臣所以敢谏，若陛下不受臣谏，岂敢数犯龙鳞？”这一番话也并不只是谦逊之辞。

魏徵对朝政失误的批评，对贞观纠谬补缺，多所裨益。太宗已感到自己不可一日离开他。太宗曾把魏徵比作良匠，自己比作金子，金子原在矿石里，它之所以称贵，是由“良冶锻而为器，便为人所宝”。史家高度评价魏徵说：“臣尝阅《魏公故事》，与文皇讨论政术，往复应对，凡数十万言。其匡过弼违，能近取譬，博约连类，皆前代诤臣之不至者。”