隋文帝杨坚和独孤皇后生下了五个儿子，分别是废太子杨勇、隋炀帝杨广、秦王杨俊、蜀王杨秀、汉王杨谅。
杨坚建立隋朝后，立第五子杨谅为汉王。其后杨谅被封为上柱国，先后担任雍州牧、右卫大将军、左卫大将军、并州总管，掌管五十二州军政，被特许可以便宜行事，不必依照律令。在五个儿子之中，杨坚最宠爱杨谅。
晋王杨广觊觎太子之位，设计陷害太子杨勇，最终杨勇被废并被囚禁起来，杨广如愿以偿当了皇太子。杨谅因为杨勇被废一事，心中非常忌惮杨广，闷闷不乐，产生了谋反的意图。于是杨谅对父皇杨坚说：“如今突厥正强盛，太原是军事重镇，应该做好防备。”杨坚答应了。于是杨谅趁机修缮兵器，招兵买马。
不久，蜀王杨秀遭到杨广陷害而被废，被囚禁起来。先前，秦王杨俊以奢侈过度得罪杨坚，在忧惧中病死。至此，杨广的四个兄弟中，或死或被囚禁，只剩下杨谅暂时安然无恙。杨谅知道杨广的下一个目标只有自己了，更加忧惧不安。
不久，杨坚离奇去世，隋炀帝杨广即位，征召杨谅入京朝见。杨谅认为去了京城就不能活着回来了，于是起兵谋反。并州司马皇甫诞恳切地劝谏杨谅，杨谅大怒，将皇甫诞下狱关押。
杨谅对外宣扬说：“杨素谋反，我要诛杀他。”于是打着清君侧的旗号起兵。闻喜人裴文安向杨谅献策说：“大王可以派老弱之兵分别屯守要道，伺机攻占附近州县。同时，大王率领经兵西进，直入蒲津。我甘愿为前锋，大王以大军继后，风驰电掣，兵临城下，长安以东的州县可轻易拿下。长安城内惊扰，天子来不及集合军队，君臣互相猜疑，人心动荡，我们再发号施令，谁敢不从?十天半月，大事可定。”杨谅很高兴，采取了裴文安的计策。
大军距离蒲津一百多里时，杨谅忽然改变主意，令部将纥单贵砍断河桥，驻守蒲州，召先锋裴文安回来。裴文安回来后对杨谅说：“兵贵神速，本来想出其不意，大王既然不肯前进，又让我退回，让天子有时间筹划，大事难成!”杨谅沉默不语，分别封部将为各州刺史。
隋炀帝派杨素率领五千骑兵，在蒲州击败杨谅的部将王聃、纥单贵。于是杨素又率领步兵骑兵共四万人奔向杨谅的老巢太原。杨谅派部将防守，结果被杨素击败，杨谅非常恐慌，在蒿泽抵拒杨素。
当时天下大雨，杨谅想撤退，部下王頍劝谏说：“杨素兵马已经疲惫，大王亲率经兵发起进攻，一定能击败他。如今看见敌人而撤退，显得大王胆怯，使我军士气低落而敌军士气高涨，希望大王不要撤退。”杨谅不听，退守清源。
杨素发起进攻，消灭杨谅士兵一万八千人。杨谅又退守并州，被杨素围攻。杨谅无计可施，于是向杨素投降。
群臣奏请处死杨谅，隋炀帝说：“这样我最终就没有兄弟了，我不忍心让他死。”于是隋炀帝下诏废杨谅为平民，将他囚禁起来，一直到死。
