张辽从打京城出来与吕布分手之后，带着人马回家乡河内招募将士，手下已增加到万余人马。

张辽本是聂壹的后人，其家族为了避怨而改张姓。张辽少年时便已举郡吏。

东汉末年，并州刺史丁原以张辽武力过人，召其为从事，命他带兵往赴京都。何进又遣张辽往河北募兵，共得三千余人。可是当张辽募兵尚未还时，京中的何进已因剿宦失败而死，因此张辽所领兵尽归董卓所有。董卓死时，张辽统兵归属于吕布，迁任骑都尉，地位略低于将军。张辽是聂壹之后，以避怨变姓。张辽的先祖聂壹，就是汉武帝时期著名的“马邑之谋”的始作俑者。在西汉元光元年(即公元前134年)，雁门马邑一带的豪商聂壹出于对匈奴的熟悉和对西汉王朝边患不息的焦虑，通过人向汉武帝建议:和亲之后汉朝已经取信于匈奴，只要诱之以利，必定能将之击溃。于是聂壹奉命以自身作饵，亲到匈奴阵营，向当时的军臣单于诈降，更称自己能斩杀马邑县令，迫使马邑举城投降，然后可尽得该城财物。单于信其言，又贪其利，便立刻策划起兵。聂壹回汉后，以一名罪犯的首级讹称为马邑长吏之头，以示时机已至，引诱匈奴军深入重地。汉武帝派出五位将军连同车骑步共三十万在马邑设伏。这五位将军是卫尉李广骁骑将军，太仆公孙贺轻车将军，大行王恢将屯将军，太中大夫李息材官将军，御史大夫韩安国护军将军。各位领军都隶属韩安国，约定在单于进入马邑时纵兵出击。计划本来顺利进行，岂料单于走到左云一带时，发现城野之间只见牲畜，不见一人，于是起了疑心。他派兵攻下一个碉堡，俘虏了一名尉史。该尉史揭穿了早已有三十多万汉军埋伏在马邑附近的真相，悉破阴谋的单于大惊退军，汉军设伏全无用武之地。“马邑之谋”亦以失败告终。聂壹一片丹心付于荒草，不但无功，还成了汉、匈两方都怀疑的人。为了避祸，他改姓为“张”三百年后，老张家有一个男娃出世了，他便是张辽。

张辽年轻时，曾经做过郡吏。东汉末年，因其武力过人，被并州刺史丁原召为从事，并派他带兵到京城。那时吕布仍然只是丁原身边的护卫，身份不及张辽。

张辽在并州时娶了吕布的jiejie，姐夫小舅子的关系不错。张辽非常佩服吕布的本事，所以也就真心实意听他。吕布杀了丁原之后，张辽归附董卓。董卓被吕布所杀，张辽又带着手下的将士们归附吕布，并担任骑都尉。董卓死后李傕围困京城，吕布带领众人逃出京城时，张辽坚决不去投奔袁术，因此回到家乡来招募人马。

姐夫小舅子再次相具。两人都很高兴，张辽赶快命手下设宴招待吕布一行。