逃离楚国后，伍子胥怀着丧父失兄的深仇血恨流落四方。他首先逃奔到宋国，不久又避难于郑国，最后辗转乞食，约在公元前522年来到吴国。伍子胥来到吴国后，先投在吴国宗室公子光的门下做了宾客。当时，公子光正在网罗人才，他看到伍子胥文韬武略兼备，又逃难异域，急于为其父兄报仇，正是可用之人，而伍子胥也看出了公子光有远大抱负，为了在吴国立足，进一步借公子光的力量报仇，所以常主动为他出谋划策，并很快成为公子光的心腹谋士。伍子胥还通过公子光的引见拜见了吴王僚，建议吴王僚发兵伐楚，然而却为公子光断然否定，认为他的建议是出于报私仇，此刻攻伐楚国定是凶多吉少。公子光的这番梗阻，使得伍子胥有些尴尬，但他并不泄气，因为他从中觉察到公子光的隐秘，那就是图谋刺杀吴王僚而自立为王。
推究事件的原由，还应从公子光和吴王僚的祖父吴王寿梦说起。吴王寿梦生有四子，依次为诸樊、余祭、夷昧、季扎。寿梦认为小儿子季扎德才兼备，欲传位于他。便季扎不愿占夺按传统应属于长兄的王位，寿梦只好仍立嫡长子诸樊为太子。诸樊继位后，为了实现其父生前的愿望，不立太子，而传位于余祭，令余祭传位于夷昧，夷昧再传位于季扎，这样总有一天季扎会顺理成章的成为吴王。但怎料直到夷昧死后，季扎仍坚辞不就王位，这样夷昧之子僚便乘机继承了王位。公子光原是诸樊的长子，他认为自己的父亲不将王位传给自己，本是为了叔叔季扎，而今季扎既然不愿即位，那就应溯本求源，由他这个寿梦的嫡长孙继位。只是由于吴王僚父子两代相继，朝中大臣多是僚的心腹，所以即使他有所不满，一时也不敢公开。公子光便通过私下收买人心，网罗人才，积极筹划，准备一旦时机成熟，即发动政变。
伍子胥在洞察到公子光的这一心理后，就把自己所结识的勇士专诸推荐给公子光，让专诸去为公子光完成谋刺夺位的大事。
专诸是出了名的孝子，一次在街头和一个大汉厮打，众人都劝止不住，其母一唤，他马上停手，正好被路过的伍子胥看到，于是与之结交，并推荐给公子光。公子光厚待专诸，并敬其母。专诸感其恩，以死相许，并献计，投王僚爱“鱼炙”之好，藏剑鱼肚，伺机行事。为此，专诸特意前往太湖边学烧鱼的技术，练得一手炙鱼的好手艺，然后见公子光，公子光将专诸于家中，勤练那一刺的威力，等待暗杀的时机的到来。
此后，伍子胥暂时隐居在野，从事农耕和读书，以等待吴国政局的变化。据宋代谈钥《嘉泰吴兴志》记载，在乌程县（今浙江吴兴县南）伍林村有个伍子胥宅，“昔子胥逃筑于此，旧基尚存。”
吴王僚十二年（公元前515年）春，吴王僚乘楚昭王新立之际，发吴师大举攻楚，但是吴军作战不利遭遇楚军的前后夹击，陷入进退失据的窘境。而吴师的远征，又造成吴国国内兵力空虚、能臣羁旅。公子光分析形势后，认定这正是自己夺取王位的最佳时机，禁不住激动万分，兴奋的表示，“此时也，弗可失也”，并紧锣密鼓的开始实施自己的计划。
时机已成熟，公子姬光入见王僚，说：“有庖人从太湖来，善炙鱼，味甚鲜美，请王辱临下舍尝之。”
王僚欣然允诺，答应来日便去。公子光连夜预伏甲士于地下密屋中，又命伍子胥暗约死士百人，在外接应。
王僚虽答应，但恐公子光有阴谋，赴宴时戒备森严，从王室到公子光家厅堂内外布满甲士，操长戟，带利刀，王僚身穿三重盔甲，亲信更是不离左右。
酒过数巡，公子光托言脚痛难忍需用帛裹紧，便躲入地下密屋。过了一会儿，专诸进献鱼炙，手托菜盘，两列武士夹专诸赤膊跪地用膝盖前行，专诸已将锋利的“鱼肠”剑（是铸剑大师欧冶子亲手所铸五大名剑中的三把小型宝剑之一）暗藏于烧好的鱼肚之中，行至王僚座前，忽地抽出匕首，猛刺王僚，力大透过三重盔甲又刺穿脊背，王僚大叫一声，立即死亡。旁边卫士一拥而上，刀戟齐下，将专诸砍为肉酱。
公子光见行刺得手，立即出动伏兵格杀王僚的亲信和卫士，将他们悉数歼灭。大功最终告成，公子光登上国君之位，号吴王阖闾（一作“阖庐”），掀开了吴国历史发展新的一页。
阖闾封专诸的儿子为上卿。将鱼肠剑函封，永不再用。相传无锡市大娄巷的“专诸塔”，是阖闾替他葬的优礼墓。因专诸曾在太湖边学烧鱼之术，后人把他奉为“厨师之祖”。
伍子胥因帮助阖闾谋刺有功，被阖闾封为客卿。阖闾是一位有勇有谋、雄心勃勃的政治强人。登上王位之后，他大权在握，便着手实现自己革新图强、争霸天下的政治抱负。首先是铲除王僚的残余势力。
吴王僚被刺死之后，其子庆忌逃出吴国，暗中组建自己的武装力量，并周游诸国，希望联合诸侯，共同出兵讨伐阖闾。庆忌此人有“万人莫当之勇”，可“走追奔兽，手接飞鸟，骨腾肉飞，拊膝数百里”。阖闾曾派骑兵追杀他，竟追之不及，又命人乱箭齐射，却被庆忌空手接住或打落。如此看来，庆忌可当“天下第一勇士”之称。而且庆忌也不仅仅是个头脑简单的武夫而已，阖闾评价他是“明智之人，归穷于诸侯，不下诸侯之士”。对这么一个可怕的对手，阖闾自然会感到非常不安，于是又与伍子胥商量对策。伍子胥便向他推荐了要离。
要离生得身材瘦小，仅五尺余，腰围一束，形容丑陋，但智术非凡，有万人之勇，是当地有名的击剑能手。
要离尽忠义之心，献用苦肉之计。一日在朝与阖闾斗剑，先用竹剑刺伤公子光的手腕，再取真剑斩断自己的右臂，投奔卫国找庆忌去了。要离走后，阖闾还依计杀掉了他的妻子和儿子。庆忌探得事实，便对要离深信不疑，视为心腹，委他训练士兵，修治舟舰，常在左右，同谋举事。
不久，庆忌领军渡江，准备攻打吴王阖闾。要离趁其不备，左手持矛从庆忌身后狠狠刺去，当即刺穿庆忌胸膛。不料庆忌竟不得就死，返身一把抓住要离，抓住他的小腿将其头下脚上倒提起来，大笑着将他浸入江中三次，又坐下将要离放在膝上笑道：“嘻嘻哉！天下之勇士也，乃敢加兵刃于我。”左右欲杀要离，庆忌却阻拦道：“岂可一日而杀天下勇士二人哉！命令放要离还吴，自己却拔出长矛，喋血而死。”
庆忌死后，左右欲释放要离。要离不肯行，对左右说：“吾有三宗罪不容于世。”众问曰：“何谓三宗罪？”要离说：“为给国君做事而牺牲我的妻子，不仁；为新国君而杀故国君之子，不义；为了成别人之事，而使我残身灭家，不智。有此三罪，何面目立于世哉！”说完，遂投身于江。舟人捞救出水，要离说：“捞我何意？”舟人说：“你回国后，必有爵禄，何不欣然接受？”要离大笑说：“吾不爱室家性命，何况爵禄？你等带我的尸体归国，可取重赏。”于是夺从人佩剑，自断其足，复刎喉而死。他这样做，一方面是告诉吴王已经完成了自己的使命，另一方面是感谢庆忌的知遇知恩，所以他只有死了，凄凉而又悲壮。
太史公司马迁在《史记·刺客列传》专门为专诸等人立传，说：“自曹沫至荆轲五人（这五位刺客是曹沫、专诸、豫让、聂政和荆柯），此其义或成或不成，然其立意较然，不欺其志，名垂后世，岂妄也哉！”而专诸、聂政、要离、荆柯又被后世公认为四大刺客。
除掉庆忌后，阖闾又用军事手段除掉了逃亡在外的王僚之弟公子掩余和公子烛庸，排除了对自己王位的最大威胁；为了赢得民心，他颁布和实行了一系列有利于吴国经济发展的政策法令，兴修水利，奖励农桑，发展生产，增殖国力；选贤任能，擢以不次；自己以身作则，崇俭去奢，亲众爱民，体恤民情，不贪美味，不听淫乐，不近女色，注意发展生产，积蓄粮食，建筑城垣，训练军队，因而大得民心，吴国呈现出一派欣欣向荣的景象。阖闾又注重搜求各种人才，立志要使吴国更加强盛，时而向长江中游发展，灭楚称雄。用《国语·楚语》中的话说，便是“口不贪嘉味，耳不乐逸乐，目不淫于色，身不怀于安，朝夕勤志，恤民之羸，闻一善若惊，得一士若赏，有过必悛，有不善必惧，是故得民，以济其志。”
在当时列国逐鹿、霸权迭兴的情况下，人才的网罗和作用，密切关系着国家的兴亡、霸业的兴衰，所谓“得士则昌，失士则亡”。阖闾的英明之处，最主要就在于他将求贤任能作为国家的首要大事，从而为整个霸业奠定了基础。
除伍子胥外，楚国另一位亡臣伯嚭和宋国“华向之乱”中的幸存者华元也先后投向阖闾的门庭，成为吴国的重臣，在吴的兴衰史上扮演着重要的角色。
