1950年，四野一路从东北打到了华南。全国解放后，四野的部队主要发展为两大军区，分别是东北军区和中南军区。

1955年，中南军区改称广州军区，黄永胜任司令员，陶铸是政委。

上世纪六十年代起，广州军区的各大军政要员先后被调往北京，并进入总参。总参仿佛成了广州军区司令部的翻版。

1968年3月，黄永胜被任命为解放军总参谋长，取代之前的杨成武。

黄永胜一直跟着毛主席、林彪，三湾改编后，他跟着毛主席上了井冈山，此后，无论在多么困难的环境中，他从未开小差或逃走。

在黄永胜的革命军事生涯中，他几乎一直在林彪麾下指挥作战，其能力深受林彪信任，关系也更亲近。

因此，对于黄永胜接替杨成武出任总参谋长一事，林彪是十分赞成并支持的。

不过，黄永胜来到北京后，却与江青发生了矛盾。当时，很少有人敢当面顶撞江青，但黄永胜不管。他曾拍着桌子直言“江青同志应该听毛主席的话。”

黄永胜之所以敢顶撞江青，除了他有身为军人的性格外，还有一点就是他对自己有信心。自16岁起，他就跟着毛主席干革命，这么多年来，忠心耿耿。毛主席不仅看重他的能力，也很信任他。

但在上世纪六七十年代的政治风暴中，黄永胜却犯下大错，成为了林彪的爪牙，制造了多起冤假错案，使得大量无辜的同志受到牵连和迫害。

在总参期间，他更是按照林彪的意思，成立了材料组，罗织各种罪名，迫害老帅，许多干部受到诬陷被打倒。

在贺龙元帅的案件中，黄永胜更是扣下了贺龙写下的八封申诉信，并给他扣上了“大土匪、大军阀、大阴谋家”的罪名。

最令人可恨的还有罗瑞卿案，黄永胜紧跟林彪对罗瑞卿进行各种折磨，推迟罗瑞卿手术治疗的时间，频繁对他进行审讯和斗争，使得罗瑞卿在精神和肉体上受到了双重摧残。

在彭德怀一案中，同样也能够看到他推波助澜的动作。

黄永胜犯下的累累罪行早已注定了他的结局。

1971年“九一三”事件后，黄永胜想到自己的命运，开始在家中烧毁各种文件、资料。据传，仅9月16日和17日两天，黄永胜就烧毁了几麻袋的资料，连缸都烧裂了。

消息传到中央，毛主席轻蔑地说了一句：“毁灭证据嘛，他们不仁，咱们也就别义了。”

周总理当即明白了毛主席的意思，表示“立即处理。”

9月24日早上，黄永胜刚刚走进人民大会堂，就听到周总理宣布对他进行隔离审查的通知。随即，北京卫戍区司令员吴忠等人便现身将他们带走了。

1973年，黄永胜被开除了党籍，1981年，最高人民法院特别法庭判处黄永胜有期徒刑18年，剥夺政治权利5年。

同年9月，黄永胜被批准保外就医。组织将他安排到了青岛生活，考虑到他对革命有贡献，每月还为他提供了一定的补贴。

在组织的照顾下，黄永胜过上了和普通人一样的生活。可能是考虑到自己特殊的身份和经历，黄永胜每天深居简出，几乎很少出门。他最大的消遣就是在家看书、写东西、听戏。

1983年，黄永胜被检查出患有肝癌，并被送入医院接受治疗。或许是预感自己时日无多，黄永胜向组织提出了一个请求：希望能够允许自己穿一次军装。

按理说，他已经被开除了党籍、军籍，已经不能再穿军装了。但组织还是破例批准了。最终，黄永胜也如愿穿上了55式军装。

4月26日，黄永胜在青岛病逝，结束了自己的一生。