清朝同治七年（公元1868年）二月，马新贻任浙江、福建总督，八月改任两江总督。在安徽任职期间，他以镇压太平天国运动和捻军为主要任务，多因军功升迁；在浙省则致力于经济复苏和治安管理；在江苏主要操办军务。清末裁勇改兵后，几万湘军士卒被裁撤，马新贻对已成黑社会势力的湘军散兵游勇惩治严厉，抓到非法行为的散兵游勇即就地正法，同时致力于捕盗和裁撤扰民关卡。但江宁是湘军攻下的，两江一直被湘军视为私地，散兵游勇和黑势力对马新贻恨之入骨。

同治九年（1870年）8月21日原是总督阅视武官投射的日子，因大雨推迟到8月22日。这天上午10时，马新贻来到督署西边的校场演武厅，由于他实际住宿在江宁府衙门，校场是江宁府的校场，所以步行来回。马新贻阅览完毕回署，旗牌在前引道，巡捕、差弁、亲兵、家丁和随弁紧跟其后，两旁挤满围观群众。至后院门外时，有人跪倒路旁喊冤，巡捕前去查问，马新贻照旧前进。

再走几步，突有人高呼冤枉，一人从人群中窜出直扑马新贻，并抽出匕首插入其右肋，马新贻倒地。跟随差弁方秉仁上前夺过匕首，其他差弁将刺客控制。刺客口中高呼：“养兵千日，用在一朝。大丈夫一人做事一人当，今日拼命，20年后又是一条好汉。”仰天大笑后从容就捕。匕首深入数寸，马新贻气息奄奄，临终之际口授遗疏，其子马毓桢代书，托魁玉代呈朝廷。至23日下午2时许，马新贻因伤势过重，救治无效死亡。

马新贻死亡后，中军副将喻吉三命巡捕将凶犯押到督署候讯，并差人飞报江宁将军魁玉和司道各员。江宁布政使梅启照在贡院疏消暴雨积水，闻讯后与署盐道凌焕即刻赶到将军府向魁玉报告。魁玉看到马新贻的样子后，许久才放下被子。他先请大夫救治，并劝慰金夫人等家人，然后走出上房讯诘凶犯。再三讯问，凶犯只称是河南人，名张汶祥。问其行刺缘由，闪烁其词。魁玉生气地喝令带出去，让梅启照将凶犯带往上元县严刑讯究。8月23日，加派臬司贾益谦、候补道勒方、候补知府钱海永、皖南道李荣、江苏候补道孙衣言、山东候补道袁保庆等轮流审讯。魁玉一面督促司道各员继续会审，一面拟折紧急驰奏朝廷。

1870年9月5日，慈禧派漕运总督张之万前往江宁审理刺马案。张之万听说此案背后有主使，惊恐万分，生怕遭报复，刚来江宁几天不见客、不审案，和魁玉、梅启照思索后决定拖延。审理中，因害怕张汶祥熬刑不过死亡，数日未用刑，只是让张之子女在张汶祥旁边受刑，张汶祥则侧头不看。12月9日，朝廷发布谕旨批评张之万等人拖延。12月12日，张之万等人奏结审理结果。称张汶祥对马新贻的怨恨有三：一是张汶祥曾参加太平天国运动，后外通海盗，因马新贻剿灭海盗，杀其众多同伙，在逃海盗龙启沄等教唆张为同伴复仇；二是张汶祥私开典当铺，被马新贻禁止，本利俱亏；三是其妻罗氏被吴炳燮强占，张汶祥曾拦马新贻轿子控告，未被重视，心怀怨恨。张汶祥早有杀意，同治七年、八年屡次到杭州、江宁欲行刺，未能得逞。张之万等人认为张汶祥为一人作案，无同党或幕后主使。

慈禧收到奏结后，认为张之万等人所说的杀人动机难以成立。于是下令将主审和司员更换，令曾国藩速回江宁，刑部尚书郑敦谨作为钦差大臣携随员赶赴江宁复审。曾国藩在处理天津教案后一直受中外抨击，列强嫌他惩处不力，国人骂他“残民媚外”。此次让他回任两江，虽应是好事，但他曾固辞。不过朝廷命令有病也得去。11月启程，12月到达江宁后，他查阅卷宗，记录相关犯人名字。

郑敦谨是湖南长沙人，道光进士，有铁面无私声誉。他到江宁后，与曾国藩共同审理此案。但最终复审结果仍维持了张之万等人的原判，张汶祥被处以极刑，并于马新贻灵柩前摘心致祭。

“刺马案”震惊全国，成为晚清第一号大案和奇案。各种传说和猜测层出不穷，大量野史、笔记、小说、戏曲对案件原委有众多说法，这一案件也让朝廷在处理类似案件时更加谨慎，其审理和定罪结果成为清政府重要参考案例。