自从刘宋少帝刘义符登基之后，徐羡之与傅亮、谢晦三人便开始心怀忧惧，惶惶不可终日，具体原因大致有以下几点∶
一是担心宋少帝刘义符的报复。辅政大臣集团的主要人物与少帝早已矛盾重重，少帝登基以后，皇权与相权之间固有的矛盾又使原有的矛盾进一步加剧。
二是内忧外患，帝国遭遇建立以来最为艰难的时期。一代枭雄刘裕的陨落，让刚刚建立起来的刘宋政权顿时危机四伏，景平元年（公元423年）年初，也就是在北魏大举南伐的同时，富阳县的孙氏一门发动叛乱，孙法亮号称冠军大将军，与孙道庆等攻陷富阳；又派遣建威将军孙道仲、孙公喜、法杀攻陷了永兴，接着直扑山阴而来。晋恭帝司马德文的内弟褚淡之，此时是会稽太守，他命令部队西渡浦阳江迎战，结果战败，后在柯亭大破叛军，这才稳定了局势。不久，刘宋军队平定了这场叛乱，将数百家分别迁往彭城、寿阳、青州等地。外患方面，北魏拓跋嗣发兵南下，刘宋帝国失去了黄河以南的大片国土，也令辅政大臣们的威信降到了最低点。
三是刘宋根基不牢。刘裕出身低微，他依靠自己的能力，代晋自立，结束了东晋门阀士族把持朝权的历史。不论是从政治上抑或是经济上，刘裕都对门阀士族采取了诸多压制政策，对刘宋皇室侧目而视的门阀士族随时都有复辟晋室、重新夺回权力的可能；另外刘宋政权刚刚建立，诸王年少，随时都有覆灭的危险。
四是辅政大臣地位并不稳固。据《建康实录》记载，景平元年（公元423年）四月，也就是檀道济率军解救青州的时候，御史中丞孙琳因事直接弹劾司空徐羡之，要求将其罢免，这当然是一件不同寻常的事情；朝廷征召蔡廓为吏部尚书，而蔡廓却耻于自己在文书上的签名排在徐羡之之后，拒绝上任∶这都可以看出，高门士族从骨子里对出身寒门的徐羡之等人的轻视和不满。
五是辅政大臣内部并非铁板一块。不同的阶层决定了不同的立场，徐羡之、傅亮、檀道济等出身相似，立场比较接近，步调也比较一致，而谢晦就比较特殊。谢晦出身高贵，他与徐羡之、傅亮等人存在天然的隔阂。
原本出身低微的徐羡之等人就已经让门阀士族侧目而视了，如今，境外丧师失地，境内又矛盾重重，在这危机四伏的特殊时期，他们随时都有从云端跌下，摔个粉身碎骨的危险。每当想到这些，徐羡之、傅亮等人能不惊出一身冷汗。
于是，一场废黜刘宋少帝的阴谋在徐羡之的脑海开始酝酿。
在徐羡之、傅亮看来，假如废黜了少帝，那么，按照顺序继位的当属庐陵王刘义真，而刘义真却又不是二人满意的嗣君人选，因此，在废黜少帝之前，就必须先向刘义真下手。
徐羡之将废黜刘义真的打算向南兖州刺史、同为顾命大臣的檀道济通报，檀道济屡屡提出反对意见，但徐羡之不从。景平二年（公元424年）二月，徐羡之等人上书刘宋少帝要求废黜刘义真，他们列出的刘义真的罪状主要有∶一是关中沦陷，刘义真处置失当；二是刘裕病重期间，刘义真仍然日夜纵酒，多行无礼；三是如今刘义真竟然想擅自离开藩镇，回到京师，图谋不轨四是随心所欲，不遵成规；五是先帝为了防患于未然，临终亲自叮嘱陛下，并当面命令臣等，如果他仍然不改过自新，一定要将他流放，“至言苦厉，犹在纸翰”。可是，他竟然对朝廷派去劝慰他的散骑侍郎邢安泰、广武将军茅仲思，破口大骂，影响极坏。于是，刘宋少帝下诏将刘义真废为平民，流放到新安郡。
刘义真究竟应不应该被废？徐爰《宋书》称，“刘义真明隽秀令，朝野属望，而司空徐羡之、尚书仆射傅亮、领军将军谢晦等贪弄朝权，深相忌惮，乃共诬罔”，徐爰是当时刘裕、刘义符的近臣，是亲历其事的当事人，所言应当不虚；《建康实录》在记载后来刘宋文帝为刘义真平反的诏书中也称∶“羡之等暴蔑专求，忌贤畏逼，构造贝锦，成此无端，罔主蒙上，横加流贬。”《南史》也称∶“庐陵以帝子之重，兼高明之姿，衅迹未彰，祸生忌克，痛矣!”这都说明了庐陵王刘义真被废是出于徐羡之等人忌惮，刘义真并无过错，且在当时刘宋朝廷享有很高的威望。
废黜庐陵王刘义真，仅仅是徐羡之等人废黜刘宋少帝的开始。
在顺利废黜刘义真之后，徐羡之等人即任命刘宋少帝十二岁的弟弟刘义恭为监南豫州、豫州、司州、雍州、秦州、并州六州诸军事，冠军将军，南豫州刺史，代替刘义真镇守历阳，与此同时，也加紧了废黜刘宋少帝的计划。但废黜皇帝毕竟不同于废黜庐陵王，弄不好将天下大乱，必须确保万无一失。此时，距离宋武帝去世已将近两个年头，徐羡之等人为了争取更多的支持，即于景平二年（公元424年）四月，也就是在废黜庐陵王刘义真一个多月以后，暗示江州刺史王弘和南兖州刺史檀道济要来朝参加悼念仪式，五月，两人先后回到了建康，徐羡之、傅亮、谢晦等人将密谋废黜刘宋少帝的计划向二人做了通报。
檀道济，是已故的左将军、江州刺史檀韶最小的弟弟。他为人宽厚、谨慎，也是刘裕临终所列的三文一武顾命大臣组合中唯一的一位武将，刘裕在临终之时，对少帝刘义符就曾叮嘱道∶“檀道济虽有干略，而无远志，非如兄韶有难御之气也。”这也说明了檀道济的个性决定了他只想着一门心思为国效力，不愿意惹是生非，卷入复杂的政治斗争中。徐羡之等人在废黜庐陵王刘义真以前，檀道济就多次提出不同意见，不过，徐羡之等人却拒绝采纳，而身在广陵（今江苏省扬州市）的檀道济也无可奈何，这也都是他的性格使然。这次就有所不同，废帝大事毕竟非同小可，王弘和檀道济，一个是高门大族的代表，一个是战功赫赫的武将，一个在建康西边，另一个在建康东面，且两个人素来关系很好，让他们两个人置身事外，徐羡之等人担心会出意外，因此先将两人骗回建康。
建康是徐羡之等人的天下，回到建康的王弘和檀道济就是一介匹夫。当徐羡之等人将计划通报给二人以后，两个人即便是不同意，也不敢表示反对。此时，徐羡之的决心已下，谁持异议，将立遭杀身之祸。
五月二十四日，毫无戒备的刘义符玩得很开心。他在皇宫北面的华林园布置了一排商店，亲自充当商贩，与一群近臣玩起了做买卖的游戏，讨价还价、买进卖出，好不热闹。玩累了，又命人疏通水渠，修建水坝，与大家一起划船嬉戏，一直划到天渊池，夜幕降临，当晚刘义符就在龙舟上过夜。
刘义符玩得很尽兴，殊不知宫外一场天大的阴谋就要降临到他头上。就在刘义符玩得开心之时，领军将军谢晦对家人说，自己的府邸破败，需要修缮，把家人都迁到了别处，腾空宅院后，将将士秘密集结到府中，与此同时，徐羡之等人又命令中书舍人邢安泰、潘盛提前入宫作为内应。当天夜里，檀道济也与将士们一起入宿谢晦的领军将军府内，谢晦辗转难眠，而檀道济倒头便睡，一会儿就鼾声四起，自此谢晦开始打心眼里佩服檀道济。
第二天天刚蒙蒙亮，领军将军府的大门就打开了，只见一大队全副武装的队伍整齐地从门内涌出。檀道济走在队伍的最前头，徐羡之等人跟在队伍的最后，这支队伍从领军府出来以后，迅速朝皇宫的云龙门而去。邢安泰等人已经提前安排好了宫中侍卫，打开了云龙门，并指示了刘宋少帝的下落，部队悄无声息但又非常迅速地朝天渊池奔来。
一路之上，无人阻拦，人们很快就找到了那条龙舟。当军士们登上龙舟的时候，刘义符尚在睡梦之中，刘宋少帝的贴身侍从一阵惊呼，一拥而上的士兵们当场斩杀了两人。刘义符从睡梦中惊醒，他原本就非常强壮，臂力过人，他从床上跃起与士兵们搏斗，但好汉不敌四手，终于被众人制服。在混乱当中，刘义符的手指也被砍掉，然后，大家将他挟持出东阁，没收了皇帝玉玺。群臣拜辞，又将其押送回过去的太子宫。
政变的第一步顺利完成，下一步就是商议册立何人为帝的问题。
侍中程道惠建议册立南豫州刺史、刘裕第五子的刘义恭，但徐羡之没有同意，他提出册立荆州刺史、刘裕第三子刘义隆为帝。他的理由大致如下∶
一是顺位。刘裕七子，分别为∶刘义符（本年十九岁）、庐陵王刘义真（十八岁）、宜都王刘义隆（十八岁）、彭城王刘义康（十六岁）、刘义恭（十二岁）、刘义宣（十二岁）、刘义季（九岁），这七个儿子均非嫡子，按照无嫡立长的规则，册立刘义隆名正言顺。
二是人品。《宋书·文帝本纪》称，刘义隆“博涉经史，善隶书”；史臣曰“幼年特秀”，这里自有溢美之词。事实上，与刘义符、刘义真不同，刘义隆并未受到刘裕的重视和宠爱。刘义隆之母胡道安被刘裕纳为妾的时候，就已经三十七岁了，生下刘义隆以后，到义熙五年（公元409年），刘义隆才一岁多，胡道安就因故被刘裕赐死。刘裕登基以后，仅仅将胡道安追赠为地位较低的婕妤，也说明刘裕对她并无多少好感，因此，刘裕似乎并不非常看重这样的一个母亲生下的儿子。
没有母亲的刘义隆，又身为中子，做人肯定是非常低调的，不像其他兄弟那样张扬，这自然会让徐羡之等人感到放心一些。
至于徐羡之等人为何不选择刘义隆的弟弟刘义康等人，其原因除了不符合顺位原则以外，单就人品而言，刘义康似乎都不够格。剩下没有封王的还有刘义恭、刘义宣和刘义季三人。刘义恭的人品从后来宋文帝刘义隆给其的诏书中即可略见一斑∶六年后，十八岁的刘义恭被刘宋文帝任命为荆州刺史，在他临别之际，刘义隆写下诏书对其进行勉励，诏书中有这样一句话∶“汝神意爽悟，有日新之美，而进德修业，未有可称，吾所以恨之而不能已已者也。汝性褊急，袁太妃（刘义恭的亲生母亲）亦说如此。”“进德修业，未有可称”说明其人缺点不少；与刘义恭同岁的刘义宣，生下来舌头短，是个结巴，显然也不合适；刘义季年龄太小，且一直随哥哥刘义隆生活，绝不可能舍弃刘义隆而立刘义季。
三是符瑞。《南史》和《建康实录》均记载，从景平元年（公元423年）以来，西方接连出现了不少奇异的天象∶景平元年，有一条黑龙出现在西方，从半空中扶摇直上，随之而上的有五色云彩，太史曾上奏朝廷西方有天子气；本年，荆州治所江陵城上空有紫色的云彩，望气的人均认为这是帝王之兆。
四是荆州实力。荆州位居上游，实力雄厚，如果越位册立他人，可能会产生意外。不过，关于这一点其实是有疑问的，这是因为，刘宋为了控制诸王，施行典签制度，实权掌控在刺史下属的典签手中，即便是朝廷另立他人，以刘义隆的性格及其幕僚与朝廷复杂的关系，公然起兵反叛，也不太可能。
徐羡之等人在废黜宋少帝以后，立长立贤，最终选择立刘义隆为帝，据此有人认为徐羡之等人废黜宋少帝是出于公心。其实，在这里徐羡之等人所谓的公心与私心是无法截然分开的，即便选择刘义隆是出于公心，也并不意味着前头废黜刘宋少帝就是公心，废黜刘宋少帝，更多的是出于他们保全自身的考虑。
在仓促之间定下了新君以后，当天，徐羡之等人假借刘义符母亲、皇太后张氏之名颁布命令，指斥自己的儿子∶一是刘义符在服丧期间毫无哀容，甚至还纠集乐师，演奏乐曲，吃喝玩乐；二是在此期间，还挑选美女，在宫中生下孩子，影响恶劣；三是太皇太后逝世后，与身边近臣在棺材边大呼小叫，拍手玩笑；四是整天嬉戏，造成国库空虚；五是刑罚严酷，造成囚犯日增；六是身为帝王却总干些下等人做的事情，亲自鞭打下人，以此为乐；七是穿池筑观，朝成暮毁，征发工匠，弄得人神怨怒。最后，“皇太后”指示∶“将其废为营阳王，按照汉代霍光废昌邑王、东晋桓温废海西公的规矩；奉迎镇西将军、宜都王刘义隆继承大统。”并废黜刘义符的皇后司马茂英为营阳王妃，将二人迁到吴郡（今江苏省苏州市）。在此期间，由檀道济率军入宫守卫朝廷。
刘义符一行人来到吴郡以后，朝廷给营阳王所建的王宫还没有建成（可能压根就没准备建），就让刘义符暂时居住在吴郡阊门以内的金昌亭里。六月二十四日，也就是距政变整整一个月后，徐羡之等人派邢安泰率兵前来杀害刘义符。刘义符素来身体强健，他与来人殊死搏斗，竟然从金昌亭内冲出，夺路而逃，就在他试图闯出阊门之时，
追兵用大门闩将其砸倒在地，随即赶上把他活活打死。宋少帝刘义符被杀之时，年仅十九岁。
