言偃在孔子的门下学习极为勤奋，遇到难题时常向孔子请教；孔子视言偃为心仪的弟子之一，在多次对话中向他阐述了理想社会的蓝图。有一次，他们共同参与腊祭后，步出宗庙，一座高耸的建筑物旁，孔子深情地叹息。言偃好奇询问，其实是由于对未能赶上大道之行和三代英主治国时代的一种向往。随后，他详细描述了一个没有盗贼、外户不闭的大同世界，这一景象在言偃心中留下了深刻印象。他后来成为鲁国武城宰相，以礼乐教化人民取得成绩。

一次，孔子访问武城听到四处传来的弦歌声，便微笑着对迎接他的言偃说：“割鸡焉用牛刀？”意指此地治理是否需要过度严苛？言偃恭敬回答：“老师曾教导我，只要做官的人能够学以致用，就会产生仁爱之心；百姓也易于教育而听从命令。这教育确有其价值。”这番回答令孔子满意。他解释说，其前句话不过是开玩笑罢了。这表明言偃不仅理解了孔子的思想，而且将其付诸实践。

接着，孔子又询问：你在这里得到什么人才不足吗？言偃提及了一位名叫澹台灭明的人，此人行止端正，不私自进出公事，也不私交上司，是一名可重用的人才。这说明尽管当官之后，有些人可能偏好听取赞美，但语言毕竟识别出了真正值得信赖的人才。