伍子胥的父亲伍奢在楚国做太傅，当时与他一起当朝为官的费无忌是个心术不正的小人。他为了讨好楚平王，把本来要给太子建迎娶的秦国美女转而献给了楚平王。
费无忌做完这事有些后怕，他担心太子建日后继位报复自己，于是便向楚平王诬告太子建谋反。伍奢为人很正直，他对楚平王说：“大王，不是谁的话都能听的，说太子谋反好像不合请理，他可是您定下来的接班人，有谋反的必要吗?”
费无忌却从中调唆说：“大王，您可别听老伍的，他和太子建不是一般的关系，没事儿他们总在一起喝酒，太子肯定是他给教坏了。他们的音谋要是得逞了，大王您可就惨了。”说完还做了一个抹脖子的动作。楚平王刚得了美女，处处听费无忌的，便把伍奢关进了监牢。
费无忌又说了：“大王您可别忘了，老伍可还有两个儿子呀，那可都不是一般的人，如果不把他们杀掉，将来他们肯定要找您的麻烦。大王可以拿他们的父亲做人质，召他们回来斩草除根。”楚平王便派人去召伍子胥和他的哥哥伍尚，说只要他们回来就放了伍奢。
伍尚得知父亲被抓起来了，想立即赶回去。伍子胥说：“哥呀，楚平王叫我们回去，并不是真的要让父亲活命，只不过是怕我们逃跑了，以后找他的麻烦，因此用父亲做人质骗我们回去。只要我们哥俩一到都城，就会一起被杀，连个报仇的机会都没有了。我们不如一起投奔到别的国家，借助他们的力量为父亲报仇。”
伍尚说：“我也知道回去救不了父亲，但我怕今天父亲叫我回去我没有回去，以后也没能为父亲报仇，那会被人笑话的。”他对伍子胥说：“你赶快逃走吧，以后为我和父亲报仇。我现在就回去，陪父亲一起去死，我不能让人家说我们老伍家的儿子不孝。”
伍子胥说：“你回去这是自投罗网，白白地搭上一条新命，何苦呢?”
伍尚说：“兄弟，别劝了，我拿定主意了，别忘了给我们报仇就行!”伍尚说完就走了。当使臣前来逮捕伍子胥时，伍子胥张弓搭剑对准使者说：“不要命的就上来吧!”使者一看这阵势吓得尿了裤子，一个劲儿地说：“别，我不是来抓你的，别误会!”
伍子胥便乘机逃跑了。他听说太子建在宋国，便逃奔到了那里。伍子胥的父亲伍屠听说自己的儿子子胥已逃离了楚国，便叹息道：“楚国的君臣这回可要遭罪了，我这个儿子可不是省油的灯!”不久，楚平王便把伍奢和伍尚给杀了。
伍子胥逃到宋国，正赶上宋国发生*，他又和太子建逃到了郑国。太子建受晋顷公指使想在郑国举事，因事请泄露，苦命的太子建被杀死。伍子胥见大事不好，又汗流浃背地跑到了吴国。
在过楚、吴交界的昭关时，守卫昭关的将士想逮捕他，幸亏伍子胥从小就跑得快，要不就被抓住了。他跑到一条大江旁边，再也无路可走。他站在那里哀叹道：“苍天啊，难道今天就让我喂王八了吗?我可是大仇还没报呢!”
这时江面上驶来一只小渔船，这个船夫是个见义勇为的人，他知道站在江边的是受到楚国通缉的要犯伍子胥，就把他渡过江去。伍子胥感动得鼻涕一把眼泪一把的，解下身上的宝剑递给渔夫说：“恩人呀，你看这把宝剑不错吧?能值一百两黄金，您拿去，买个好房子住住，要是不买房子你就买地，当个地主挺不错的。”
渔夫不肯接受伍子胥的宝剑，说：“去去，别恶心我好不好?楚国一直悬赏捉拿你，说谁能抓到伍子胥，赏给他5万石粮食，还封他为爵，不止一百两黄金吧?我救你是因为知道你是冤枉的，虽然我挺穷的，可是咱人穷志不能短呀，是不是?”
伍子胥伸出大拇指说：“你行，要是楚国人都像你这样，我也不至于落到这个地步啊!唉!做人的差距真是太大了。”伍子胥就这样保住了新命，可是他还没有走到吴国都城就病倒了，只好在半路上停下来。为了活命，他端着一只破碗去要饭，有时还要挨小流氓的欺负，那个罪遭得就别提了。后来，伍子胥终于到达了吴国都城，通过公子光见到了吴王僚。
这个时候，正赶上吴国和楚国因为边界问题打了起来。吴王命令公子光率领军队攻打楚国。攻克了两座县城后，公子光收兵回国。伍子胥对吴王说：“大王，先别收兵呀，楚国没什么了不得的，您派公子光继续追击，活捉楚平王。”
公子光却对吴王僚说：“父王，您别听老伍的，他父亲、哥哥都被楚王杀了。他劝您攻打楚国，只不过是想利用我们报他的私仇而已。现在进攻楚国我觉得还不是时候。”
伍子胥是个聪明人，他看出来这个公子光怀有野心，他想杀掉吴王僚自己当老大，在这种请况下再劝吴王对外用兵是不明智的。要想早日借吴国的力量摆平楚国，必须帮助公子光当上国王。于是伍子胥就把一个叫专诸的勇士推荐给了公子光，让他帮助公子光刺杀吴王僚夺取王位。有了伍子胥的帮助，公子光的政变成功了，他登上了王位，即吴王阖闾。
吴王阖闾当然忘不了伍子胥的帮助，让他参与国家政事。伍子胥帮助吴王改革政治，发展生产，草练兵马，励经图治，加强国力，并向阖庐推荐经通兵法的孙武为兵马大元帅。他与孙武统观全局，为阖闾制定了“西破强楚，北威齐晋，南服越人”的争霸方略。
鉴于楚强吴弱的客观形势，伍子胥提出了一个疲惫楚军的谋略，他说：“楚国的部队虽然人多，但是他们没有几个好将领，大部分都是平庸之辈，平常窝里斗很厉害，干正经事就不行了。如果把吴军分为三部分，轮番去袭扰楚军，哪支部队出击，楚军都要出来应战。他们出来，我们就撤回来，他们回去，我们再出动。这样一来楚军必然疲于奔命。”吴王按照伍子胥这个计谋去办了，果然很有效果。《左传》记载：昭公三十一年(前511)秋，吴国入侵楚国，攻打夷地，侵袭潜地(今安徽霍山南)、六地(今安徽六安北)。楚国将领沈尹戍率军前往潜地救援，楚军一到，吴军便迅速退回。
楚军把潜地百姓迁移到南冈(今安徽霍山北)之后就全军撤退了。紧接着，吴军包围了楚邑弦地(今河南潢州西北)，楚军左司马沈尹戍、右司马稽又率军前往救援，到达了豫章。待楚军一到，吴军又迅速撤军。经过长时间的疲于奔命，楚军队伍里伤病严重。
伍子胥和孙武还向吴王献策说：“楚将囊瓦这个家伙巨贪，唐国、蔡国都很恨他。大王如果想大举伐楚，一定要先得到唐、蔡这两个小国的帮助才行。”阖闾依计，并联合唐、蔡，孤立了楚国。
吴王阖闾九年(前506)，伍子胥与孙武等率大军攻破楚国郢都(今湖北江陵纪南城)。这时，楚平王已经死了，伍子胥派人挖掘了楚平王的坟墓，把楚平王的尸体拖出来，狠狠地鞭笞了300下才住手。
摆平了西方的强敌之后，吴国东边的近邻越国强大起来了。越国和吴国素来有仇，公元前496年，吴王阖闾在一次和越国的战斗中负伤而死。两年后(前494)，吴王夫差带兵伐越，大败越军。越王勾践带着5000残兵败将退到会稽山，派大夫文种带着厚礼去请和，请求允许越作为吴的属国。伍子胥看出这是越国的缓兵之计，因此劝夫差不要答应越国的请求。他对夫差说：“越王勾践这个人是个老滑头，他现在装孙子，但如果你现在不消灭他，会后患无穷的。”但夫差这个时候被胜利冲昏了头脑，他认为越国已经被打服了，就答应议和，率军回国了。
伍子胥气得说：“今后越国用10年的时间休养生息、聚敛财物，再用10年的时间对它的臣民进行教化并加以训练，这样20年之后，吴国就要被吃掉了!”
此后越王勾践卧薪尝胆，表面上在夫差面前点头哈腰，暗地里却不断地发展自己的力量。而吴王夫差一点儿也没有察觉，一心想向北攻占齐国。伍子胥多次劝说吴王注意那个装孙子的勾践，但吴王夫差仍不以为然。
公元前484年，齐景公死了，大臣们为争权夺利打破了脑袋，吴王便趁机兴师伐齐。最后在艾陵(今山东莱芜东北，一说是在今山东泰安东南)打败了齐国的军队。此后，吴王夫差的脑袋更不清醒了，伍子胥再提勾践装孙子的事他转身就走。
此后4年，吴王准备攻打齐国。越王勾践采用子贡的谋略率领军队援助吴国，并用贵重的宝物贿赂宰相伯嚭。伯嚭便一个劲儿地在吴王面前替越王说好话。伍子胥规劝吴王夫差不要被越国表面上的顺从所哄骗，应该赶快灭掉越国，但是吴王夫差还是不听伍子胥的忠言。
宰相伯嚭在吴王面前进谗言说：“大王，伍子胥这个人可是个危险分子啊，我们必须防备他造反作乱。上次大王准备攻打齐国，他就极力阻拦，还散布谣言说大王是个糊涂的人，希望吴国打败仗来说明他是对的。如今大王您要亲率军队讨伐齐国，这个伍子胥却躲在家里装病，恐怕他很快就要造反了。另外我派人暗中观察伍子胥，发现他趁出使齐国的时候，把儿子托付给齐国人鲍牧。作为一个臣子，在国内稍微有点不痛快就里通外国，仗着是先王的老臣，因为一时没被重用就心怀不满，这样的人大王应该尽早采取措施啊!”
吴王夫差说：“是啊，这家伙鬼点子挺多的，我也早就怀疑他了。”于是，吴王派人给伍子胥送去一把剑，说：“你就用这把剑自裁吧!省得你看什么都不顺眼。”
伍子胥接过宝剑，仰天长叹道：“大王啊，我曾经辅佐你父亲成为诸侯中的霸主;当年许多皇子都争着当太子，是我在先王面前冒死保举你。你当了吴王之后，要把吴国分一部分给我，我都没要。没想到今天你听信了间臣的挑拨要处死我，我可真冤啊，死了都闭不上眼睛!”
伍子胥告诉他的手下人说：“我死了之后，你们要在我的坟上种上梓树，长大了可以给他们做棺材;把我的眼珠挖下来挂在吴国国都的东门上，我要亲眼看到越国灭掉吴国。”说完挥剑自杀了。
后来的事就像料想的那样，夫差争霸心切，于公元前482年率全国经锐部队北上黄池(今河南封丘西南)会盟。越王勾践伺机调集4~9万大军兵分两路，一路断吴退路，直捣吴都。
