张辽本是聂壹的后人，聂壹乃马邑之谋的发起者，马邑之谋直接导致了匈奴拒绝与大汉继续和亲，开始不断侵扰大汉的边境。

马邑之谋虽然失败，却拉开了汉匈大规模战争的序幕。

汉武帝开始不断派遣帝国双壁卫青、霍去病北伐匈奴，卫青七战七捷，收复河套平原南部区域。

霍去病封狼居胥，禅于姑衍，饮马瀚海，他通过灵活的战术和战略，为汉朝开辟了西域的通道，极大地削弱了匈奴的实力。匈奴在霍去病的威慑下，最终远遁漠北，致使漠南无王庭。

张辽先祖聂壹出身关外豪族，乃当地有名的商人，因马邑之谋而得罪匈奴，又因此计失败，并没有得到汉朝的封赏，最终其家族为了躲避匈奴的怨恨而改为张姓。

自此之后，生意一落千丈，最终家道中落，到了张辽这一代，依靠祖上的积蓄，虽然比起普通百姓还是强上不少，却早已不能与当年豪族的身份相提并论。

张辽出生时，塞外的胡人已经在檀石槐的统治下而变得非常强盛。因此，张辽所在的雁门郡经常遭到胡人的杀掠洗劫，张辽从小就养成了勇武好战的性格。

熹平六年（公元177年），雁门郡的军民曾与一些匈奴人联合反攻檀石槐，却大败而还，死伤惨重。

张辽的族人在此战中损失颇多，年幼的张辽不但没有伤心，却更加坚定了张辽对抗敌人的决心。

经此之后，张辽无论习武还是学习兵法更加的刻苦，在少年时便成为雁门郡的郡吏。

中平五年（公元188年）三月，并州刺史张懿在抵御胡人的进攻时，战败被杀。

继任为并州刺史的丁原因为张辽武力过人，素知兵法，召其为从事。

正好当时大将军何进召边疆大吏带兵进京对抗十常侍为首的宦官集团，丁原命令张辽带兵赶赴京城，去接受大将军何进的领导。