张释之担任谒者仆射跟随汉文帝出行，与汉文帝登上上林苑观看养虎的虎圈。

汉文帝询问上林尉飞禽走兽登记在目有多少，前前后后问了十多种问题，上林尉左右看，上林尉都答不上来。虎圈啬夫跟随在旁边代替上林尉回答。

汉文帝详细询问禽兽登记在册情况，想要以此观看啬夫才能；随口应对回答敏捷，没有被难住。

汉文帝说：“官吏不应该像是这样吗！上林尉不中用！”

乃下诏让张释之官拜啬夫为上林令。张释之走到汉文帝面前，说：“陛下以为绛侯周勃人怎么样？”

汉文帝说：“他是长者。”

又再询问说：“东阳侯张相如人怎么样？”

汉文帝再说：“他是长者。”

张释之说：“绛侯周勃、东阳侯张相如都被人们称作长者，这两人诉说事情曾经也不能说出口，怎么能效仿啬夫能言善辩滔滔不绝应对敏捷呢！况且秦任用刀笔吏，以苛刻烦琐为明察互相争高低。

其中损害，仅仅有文条而没有实际价值，陛下听不到过失，国家衰败以至于土崩瓦解。现在陛下因为啬夫口才好而越级擢升啬夫，臣恐怕天下人随波逐流，争着去做巧言善辩而没有实际能力。

在下位的人受到上位人感化，如影随形响应声生音如同闪电之光。天子举动不可不慎重。”

汉文帝说：“对。”

乃不官拜啬夫。汉文帝登上车，下诏张释之作为参乘陪坐。马车缓慢前行，询问张释之秦国弊端，全部如实回答。到达宫中，汉文帝官拜张释之为公车令。

过了不久，太子与梁王一同乘坐马车入朝，一般来说到了司马门，必须下车下马。要通过司马门必须审查和宫中记录一致才能放行。

太子与梁王到了司马门不下车。于是张释之追上太子、梁王，不许再让前行进入殿门，于是弹劾“不下公门，大不敬”，奏上一本。薄太后听说；汉文帝脱帽谢罪，谢罪教育儿子不严。

薄太后乃让使者奉圣旨赦免太子、梁王，然后才得以进入殿门。汉文帝更惊奇欣赏张释之，官拜为中大夫；不久，官至中郎将。

张释之跟随汉文帝到达霸陵，汉文帝对群臣说：“嗟乎！我的陵墓用北山石为外椁，用麻絮切断塞在缝隙中，再用漆粘合为一体，如此坚固，难道还可以打开吗！”

左右都说：“对。”

张释之说：“让陵墓中有让人引起贪欲的宝贝，即使被铜铁铸塞的南山仍然有缝隙；让陵墓中不能引起贪欲，即使没有石制的外棺，又有什么忧愁呢！”汉文帝表示赞同。

这一年，张释之被任用为廷尉。汉文帝外出经过中渭桥，有一人从桥下走过，惊动皇帝车驾的马匹。于是让骑兵搜捕，把任务交给廷尉张释之。

张释之判罪说：“此人冲犯皇帝车驾，应当罚款。”

汉文帝勃然大怒说：“此人自己京东我的马，马信赖宽和柔顺，如果换成其他马匹，难道不让我受伤吗！而廷尉说应当此人罚款。”

张释之说：“法律，众人共有的。现在法令就是这样，如果罪名更加严重，是法律失信于百姓。况且如果是惊动皇帝车驾的时候，陛下让使者诛杀此人便罢了。现在已经递送廷尉。廷尉天下天平，一旦倾斜，天下用法都变为可轻可重，百姓如何安放手脚！希望陛下明察。”汉文帝沉吟良久说：“廷尉是对的。”