张绣是凉州军阀张济的侄子，张济当时又是董卓手下的大将。张绣年轻的时候便以胆略义气闻名，成为了家乡豪杰的首领。初平三年(192年)，董卓被吕布所杀，张绣便跟随张济、李傕、郭汜、樊稠等人一起反攻长安，成功地控制汉献帝。随后张绣被封为建忠将军，封宣威侯。
后来张济被安排在战略要道弘农郡驻守，献帝东迁时，张济护送之功，被官拜骠骑将军。建安元年(196年)，军中缺粮的张济自关中引兵入荆州界，侵犯了荆州牧刘表的地盘，死在了进攻穰城时中流箭下。
张济死后，张绣便继承了家业。张济的遗孀邹夫人及家属也暂时跟着张绣，接管张济手下的军队后，张绣开始与刘表讲和，双方结成联盟，之后刘表派人招有张济的余部，刘表提供粮食和城池，张绣便驻守在宛城替他抵御外敌。而当时已将献帝迁至许都的曹草已经开始忌惮内有三国第一“毒士”贾诩和猛将牛金，外有刘表为援手的张绣。
建安二年(197年)，曹草南征，攻打张绣，长子曹昂、次子曹丕等人皆随军出征，张绣不战而投降曹草。曹草占据了宛城后不仅公然霸占张绣的寡婶邹夫人，还加意策反张绣的干将牛金，得知消息后的张绣羞愤交加，秘密准备杀掉曹草。这场出其不意的兵变令曹草死伤惨重，失去了长子曹昂、侄子曹安民、大将典韦，张绣开始引兵追击，被曹草击退，又再次与刘表联盟。
建安三年(198年)三月，曹草再次南征张绣，后来收到袁绍将偷袭许都的消息，只能被迫撤兵，之后刘表与张绣开始夹击曹军，在回师途中败于张绣的追兵。
建安四年(199年)，张绣向曹草投降。但是曹草面对张绣却没有再计较杀子之仇，反而对他刻意厚待，还为自己的儿子曹均娶了张绣的女儿，并封张绣为扬武将军。在归降的8年时间里，张绣参加了官渡之战，力战有功，升为破羌将军。又于建安十年(205年)，在南皮击破袁谭后，增加食邑一共2000户。当时天下久经战乱，户口剧减，在曹营将领中唯独张绣得到2000户，可以想象到张绣有多么受重视。
建安十二年(207年)，张绣跟随曹草去柳城征讨乌桓时，在中途“离奇”病死。张绣死后张泉袭爵，封长乐卫尉。后来被卷进了魏讽的谋反事件，视为同党诛戮。
张绣的离奇死亡在史书上记载着，是被曹丕B死的。因为当年杀死曹昂一事，曹丕对张绣很不满，而张绣心中不安，不久之后便自杀。
