卫臻，字公振，是河南睢县（陈留襄邑）人。他因其父亲卫兹随曹操战死而受到曹操器重。开始担任黄门侍郎，后转任丞相府户曹掾，加封关内侯。魏文帝继位后晋封安国亭侯，并任尚书、侍中、吏部尚书。到魏明帝时，他出任尚书右仆射，晋封康乡侯。在抗击诸葛亮期间，他出任征南将军。之后历任光禄大夫、司空、司徒，并被晋封长垣侯。

在早年的经历中，卫臻的父亲卫兹以节操高尚著称，在三公征召时拒绝接受。他对曹操说：“平天下的必是此人。”这让曹操印象深刻，不断去他那里商议大事。当卫兹跟随曹操讨伐董卓并战死荥阳之地，曹操每次路过陈留都会派使者祭扫他的陵墓。

夏侯惇当上陈留太守，将卫臻举荐为计吏。一次夏侯惇命他带夫人参加宴会，但由于认为这是末世才有的败俗之举，不合正礼，被抓起来不久又释放。此后，他做了汉朝的黄门侍郎。当东郡朱越谋反，其供词指控卫臻参与其中时，尽管如此，曹操仍然提拔重用他，因为有信心于他的忠诚。

在处理国家事务方面，由于明于事理和善断军事，对诸多重要决策都给予了意见和建议，如阻止蜀汉丞相诸葛亮北伐，以及劝阻宫殿盖造引发的大量土木工程等。此外，他还曾成功预言孙权进攻合肥实际上只是作秀，并非真正要与吴军交战。

在晚年，他迁任司空和司徒，又被进爵长垣侯，并赐宅位特进秩如三司去世后追赠太尉谥敬侯。关于他的评价，有“陈、徐、衛、盧久居斯位”、“王蒙隶章草陶侃亚也”，以及“或仰则钟瑶，或平视衛臻”。

家族成员中，有父親衛遵與曺操作交好，並且在荊陽戰役中戰死；兒子們包括衛烈嗣子官至光祿勳，以及弟弟京及楷均為二千石官；孫兒權則於晉惠帝時擔當尚書郎一職。