初，高祖议衣北伐，朝士多谏，唯徐羡之默然。或问何独不言，羡之曰:"吾位至二品，官为二千石，志愿久充。今二方已平，拓地万里，唯有小羌未定，而公寝食不忘。意量乖殊，何可轻豫。"刘穆之卒，高祖命以羡之为吏部尚书、建威将军、丹阳尹，总知留任，甲仗二十人出入。转尚书仆色，将军、尹如故。十四年，大司马府军人朱兴妻周坐息男道扶年三岁，先得痫病，周因其病发，掘地生埋之，为道扶姑女所告，正周弃市刑。徐羡之议曰:"自然之爱，虎狼犹仁。周之凶忍，宜加显戮。臣以为法律之外，故尚弘物之理。母之即刑，由子明法，为子之道，焉有自容之地。虽伏法者当罪，而在宥者靡容。愚谓可特申之遐裔。"从之。宋高祖践阼，进号镇军将军，加散骑常侍。上初即位，思佐命之功，诏曰:"散骑常侍、尚书仆色、镇军将军、丹阳尹徐羡之，监江州豫州之西阳新蔡诸军事、抚军将军、江州刺史华容侯王弘，散骑常侍、护军将军作唐男檀道济，中书令、领太子詹事傅亮，侍中、中领军谢晦，前左将军、江州刺史宜阳侯檀韶，使持节、雍梁南北秦四州荆州之河北诸军事、后将军、雍州刺史关中侯赵轮之，使持节、督北徐兖青三州诸军事、征虏将军、北徐州刺史南城男刘怀慎，散骑常侍、领太子左卫率新淦侯王仲德，前冠军将军、北青州刺史安南男向弥，左卫将军滠阳男刘粹，使持节、南蛮校尉佷山子到彦之，西中郎司马南郡宜阳侯张邵，参西中郎将军事、建威将军、河东太守资中侯沈林子等，或忠规远谋，扶赞洪业;或肆勤树绩，弘济艰难。
经始图终，勋烈惟茂，并宜与国同休，飨兹大赉。徐羡之可封南昌县公，王弘可华容县公，檀道济可改封永修县公，傅亮可建城县公，谢晦可武昌县公，食邑各二千户;檀韶可更增邑二千五百户，王仲德可增邑二千二百户;刘怀慎、到彦之各进爵为侯，粹改封建安县侯，并增邑为千户;轮之可封霄城县侯，食邑千户;张邵可封临沮县伯，沈林子可封汉寿县伯，食邑六百户。开国之制，率遵旧章。"徐羡之迁尚书令、扬州刺史，加散骑常侍。进位司空、录尚书事，常侍、刺史如故。羡之起布衣，又无术学，直以志力局度，一旦居廊庙，朝野推服，咸谓有宰臣之望。沉默寡言，不以忧喜见SE。颇工弈棋，观戏常若未解，当世倍以此推之。傅亮、蔡廓常言:"徐公晓万事，安异同。"宋高祖不豫，加班剑三十人。
宫车晏驾，与中书令傅亮、领军将军谢晦、镇北将军檀道济同被顾命。宋少帝诏曰:"平理狱讼，政道所先。朕哀荒在疚，未堪亲览。司空、尚书令可率众官月一决狱。"宋少帝后失德，徐羡之等将谋废立，而庐陵王刘义真轻动多过，不任四海，乃先废义真，然后废帝。时谢晦为领军将军，以府舍内屋败应治，悉移家人出宅，聚将士于府内。镇北将军、南兖州刺史檀道济，先朝旧将，威服殿省，且有兵众，召使入朝，告之以谋。事将发，檀道济入宿领军府。中书舍人邢安泰、潘盛为内应，其日守关。檀道济领兵居前，羡之等继其后，由东掖门云龙门入，宿卫先受处分，莫有动者。
先是帝于华林园为列肆，亲自酤卖，又开渎聚土，以像破岗，率左右唱呼引船为乐。是夕，寝于龙舟，在天渊池。兵士进杀二人，又伤帝指。扶帝出东阁，收玺绶。群臣拜辞，卫送故太子宫，迁于吴郡。侍中程道惠劝立第五皇弟义恭，羡之不许。遣使杀义真于新安，杀帝于吴县。时为帝筑宫未成，权居金昌亭，帝突走出昌门，追者以门关击之倒地，然后加害。宋文帝即阼，进羡之司徒，余如故，改封南平郡公，食邑四千户，固让加封。有司奏车驾依旧临华林园听讼，诏曰:"政刑多所未悉，可如先二公推讯。"元嘉二年，徐羡之与左光禄大夫傅亮上表归政，曰:"臣闻元首司契，运枢成务;臣道代终，事尽宣翼。冕旒之道，理绝于上皇;拱己之事，不行于中古。故高宗不言，以三龄为断;冢宰听政，以再期为节。百王以降，罔或不然。陛下圣德绍兴，负荷洪业，忆兆颙颙，思陶盛化。而圣旨谦挹，委成群司。
自大礼告终，钻燧三改，大明伫照，远迩倾属。臣等虽率诚屡闻，未能仰感，敢藉品物之请，谨因苍生之志。伏愿陛下远存周文日昃之道，近思皇室缔构之艰，时揽万机，躬亲朝政，广辟四聪，博询庶业，则雍熙可臻，有生幸甚。"上未许。羡之等重奏曰:"近写下请，言为心罄，奉被还诏，鉴许未回。岂惟愚臣，秉心有在，询之朝野，人无异议。何者?形风四方，实系王德，一国之事，本之一人。虽世代不同，时殊风异，至于主运臣赞，古今一揆。
未有浑心委任，而休明可期，此之非宜，布自遐迩。臣等荷遇二世，休戚以均，请为国至，岂容顺默。重披丹心，冒昧以请。"上犹辞。羡之等又固陈曰:"比表披陈，辞诚俱尽，诏旨冲远，未垂听纳，三复屏营，伏增忧叹。臣闻克隆先构，干蛊之盛业;昧旦丕显，帝王之高义。自皇宋创运，英圣有造，殷忧未阙，艰患仍缠。赖天命有底，圣明承业，时屯国故，犹在民心。泰山之安，未易可保，昏明隆替，系在圣躬。斯诚周诗夙兴之辰，殷王待旦之日，岂得无为拱己，复玄古之风，逡巡虚挹，徇匹夫之事。
伏愿以宗庙为重，百姓为心，弘大业以嗣先轨，隆圣道以增前烈。愚瞽所献，请尽于此。"上乃许之。羡之仍逊位退还私第，兄子佩之及侍中程道惠、吴兴太守王韶之等并谓非宜，敦劝甚苦，复奉诏摄任。元嘉三年正月，诏曰:"民生于三，事之如一，爱敬同极，岂惟名教，况乃施侔造物，义在加隆者乎!徐羡之、傅亮、谢晦，皆因缘之才，荷恩在昔，擢自无闻，超居要重，卵翼而长，未足以譬。永初之季，天祸横流，大明倾曜，四海遏密，实受顾托，任同负图。
而不能竭其股肱，尽其心力，送往无复言之节，事居阙忠贞之效，将顺靡记，匡救蔑闻，怀宠取容，顺成失德。虽末因惧祸，以建大策，而逞其悖心，不畏不义。播迁之始，谋肆鸩毒，至止未几，显行怨杀，穷凶极虐，荼酷备加，颠沛皂隶之手，告尽逆旅之馆，都鄙哀愕，行路饮涕。故庐陵王英秀明远，徽风夙播，鲁卫之寄，朝野属请。羡之等暴蔑求专，忌贤畏B，造构贝锦，成此无端，罔蒙上，横加流屏，矫诬朝旨，致兹祸害。寄以国命，而翦为仇雠，旬月之间，再肆鸩毒，痛感三灵，怨结人鬼。自书契以来，弃常安忍，反易天明，未有如斯之甚者也。
昔子家从弑，郑人致讨;宋肥无辜，荡泽为戮。况逆乱倍于往衅，请痛深于国家，此而可容，孰不可忍!即宜诛殛，告谢存亡。而于时大事甫尔，异同纷结，匡国之勋实著，莫大之罪未彰。是以远酌民心，近听舆讼，虽衣讨乱，虑或难图，故忍戚含哀，怀耻累载。每念人生实难，请事未展，何尝不顾影恸心，伏枕泣血。
今逆臣之衅，彰暴遐迩，君子悲请，义徒思奋，家仇国耻，可得而雪，便命司寇，肃明典刑。晦据有上流，或不即罪，朕当亲率六师，为其遏防。可遣中领军到彦之即日电发，征北将军檀道济络驿继路，符卫军府州以时收翦。已命征虏将军刘粹断其走伏。罪止元凶，余无所问。感惟永往，心请崩绝。氛雾既袪，庶几治道。"尔日，诏召徐羡之。行至西明门外，时谢晦弟谢皭(子肖反)为黄门郎，正直，报傅亮云:"殿内有异处分。"亮驰报羡之。徐羡之回还西州，乘内人问讯车出郭，步走至新林，入陶灶中自刭死，时年六十三。徐羡之初不应召，上遣中领军到彦之、右卫将军王华追讨。徐羡之死，野人以告，载尸付廷尉。
初，羡之年少时，尝有一人来，谓之曰:"我是汝祖。"羡之因起拜之。此人曰:"汝有贵相，而有大厄，可以钱二十八文埋宅四角，可以免灾。过此可位极人臣。"后羡之随亲之县，住在县内，尝暂出，而贼自后破县;县内人无免者，机犬亦尽，唯羡之在外获全。
随从兄履之为临海乐安县，尝行经山中，见黑龙长丈余，头有角，前两足皆具，无后足，曳尾而行。及拜司空，守关将入，彗星晨见危南。又当拜时，双鹤集太极东鸱尾鸣唤。
