同治九年七月二十六日（1870年），前夜裡剛下過一場大雨，空氣清爽的很。兩江總督馬新貽一大早便來到督署西邊的校場演武廳，親自閱射。每年一度的總督閱射，是當時江寧的一大盛典，因為要顯出與民同慶的樣子，所以特別允許百姓參觀。
江寧城內駐有綠營兵二千多人，又有四營未撤的湘軍，都要參加這次演武。校場規矩很嚴，就連中上級武官所帶的隨身僕從，都不得進場，只能在柵欄外觀看。正卯時分，一聲號炮響後，考核開始。武職的考試十分好看，有洋槍、抬炮、長矛、開弓、馬術等。只見場內槍聲陣陣，快馬馳騁，一時場內呼喝之聲，與場外叫好之聲此起彼伏，連成一片，特別的熱鬧。到中午校場檢閱完畢的時候，外邊百姓已經擠的人山人海，連馬新貽閱畢回署的箭道兩旁也擠滿了圍觀的群眾。
馬新貽乘坐的是八台綠呢大轎，兩旁有八個壯健戈什哈圍護著。再一圈是兩行護兵，再外是一群武職官員，箭道兩旁是一般小官，都齊齊整整的分立兩旁，排成一條甬道，從校場直排到總督衙門的大門口。張文祥就夾在遠處的綠營兵中，頭上戴了帽子，遮去了半截面孔，就是熟人，不注意也認不出來。他見了這陣勢心中發急道：防的這麼嚴密，比當年我在紫竹林教堂前那時候還要難以接近他，這怎麼能夠刺到。
等馬新貽走到後院門外時，一個年輕的武官突然從所站之列衝出來，跪在馬新貽大轎前道：「馬大人，卑職是吉字營的一名營官，我們吉字營幾次去領軍火，都被拒絕。如今兄弟們都拿的是空槍空炮，連平時的演練也不能。請馬大人示下，何時才能讓我們領到軍火？」
馬新貽的大轎被人攔住，只好命人落轎。他聽到那人是吉字營的，知道是湘軍。他對湘軍向來不太喜歡，這一段時間又一直在加力裁撤湘軍，對軍火的事根本不想管，心道：再過一陣子，我這裡的湘軍也就裁撤的差不多了，再發給你們軍火做什麼用？難道讓你們用來造反么？想到此，嘴裡說道：「等我查明後，自會公平處理。你先下去吧，這裡不是談公事的地方。」
那人並不走開，繼續說道：「馬大人，我們湘軍也是為朝廷出過血出過力的呀，哪兒一點兒差過綠營，怎麼綠營的裝備都是新的，軍火充足，卻對湘軍白眼相看？」
馬新貽見這個營官說話沒有規矩，厲聲道：「混賬東西，你也配和本大人說這話么？叫你們標統上來。」
兩邊戈什哈一把將這人推開，就在這時，有人高喊冤枉從近旁的士兵隊伍中衝出來，兩個戈什哈上去攔他，卻被那人輕輕一晃繞了過去，直撲到轎前跪下來。手舉一張訴狀道：「大人，請為小的雪冤。」
馬新貽問道：「你是誰？有什麼冤枉之事？」
正準備起轎的轎夫見馬新貽說話，又停了下來，等著那喊冤之人遞狀子。
只聽那喊冤人道：「四弟死的冤啊。」話音未落，從衣襟下掏出一把明晃晃的匕首，直撲到轎前，用力扎入馬新貽右脅肋中。刀入馬新貽身子後，那人並不停手，又把匕首在肚皮里只一絞，將肚皮絞成一個大窟窿，腸子登時從窟窿里迸了出來。碎腸隨刃而出，匕首也捲成螺旋彎刀。只聽馬新貽喊一聲：「原來是你。」便昏了過去。
行刺發生在電光石火之間，隨行軍士竟一時驚呆住了。還是跟隨差弁方秉仁反應的快，上前去一把抓住那人的辮子，其他人一擁而上，奪匕首的、救馬新貽的亂成一片。那人既不抗拒，又不逃跑，從容就縛，口中說道：「我決不逃跑，用不著你們動手捉拿。養兵千日，用在一朝。大丈夫一人做事一人當，我張文祥今日拚命，20年後又是一條好漢。」說畢仰天狂笑。中軍副將喻吉三聽到呼喊，急忙趕到，喝令將張文祥先捆了。又急命軍醫前來救治。又道：「先前那請領軍火的營官必是他的同夥，也一併給我擒了。」但大家方才只顧得救人拿兇犯，竟讓那人偷偷的逃了。只好又派人到處搜索。一會兒軍醫趕來，先止住了馬新貽的流血，又讓人取下門板，將馬新貽抬進督署上房。
中軍副將喻吉三一面命巡捕將兇犯押到督署候訊，一面差人飛報江寧將軍魁玉和司道各員。魁玉聞訊大驚失色，飛奔督署探視。馬新貽仰卧榻上，呼吸困難，精神萎靡，生命垂危。血帶黑紫之色，不僅是受了重傷，顯然兇器上還有劇毒。馬新貽氣息奄奄，自知命不能保，口授遺疏，令嗣子馬毓楨代書，請魁玉代呈朝廷。午後，馬新貽已再不能言，延至當日下午未時許（兩點多鐘），因傷勢過重，救治無效，遽爾殞命。正處英年的馬新貽一下子從顛峰跌落到地，淹沒在茫茫宦海之中，成為人生世界的匆匆過客。
署理藩司孫衣言、學政殷兆鏞，江寧知府孫雲錦、江寧將軍魁玉等重要官員都在房中探視。馬新貽剛剛死去，魁玉走出上房吩咐道：「現在趕快去審那刺客，看看是什麼人在背後指使。我已經下令江寧戒嚴。再傳令下去，任何人不得違犯戒嚴令，違者立刻拿下。」剛剛說完話，卻聽後房人聲嘈雜，一個家人跑過來叫道：「不好啦，七姨太上弔死了。」
這七姨太便是柳無菲，曹二虎死後不久，馬新貽便名正言順的將她收為七房。這時預審張文祥的江寧布政使梅啟照也派親信來向魁玉稟報：張文祥堅不吐實，只說是馬新貽的拜把子兄弟，是為其弟曹二虎報仇的。普通杖責不能傷他，請示是否可用重刑。
魁玉聽事情幾多變化，越來越複雜，讓來人轉告梅啟照說：「此事非比一般，恐有意外，目下決不能讓一字一句哄傳出去。先將張文祥收監，嚴加看管。」
梅啟照依了魁玉的意見，將張文祥押下收審。直到天黑下來，總督衙門圍觀的百姓才漸漸散去。
當天晚上，魁玉將梅啟照叫到府中說：「逃走的那一個是湘軍的營官，我已經查實，確有其人。而張文祥的綠營身份卻是冒充的。可見此案與湘軍也有關係。」
梅啟照聽了這話，有些膽虛道：「這江寧城內有八千多湘軍，莫不是想製造混亂反了不成？」
魁玉道：「我已將湘軍分成兩部。大部調出城外，暫時不會有什麼事。你那邊可審出什麼東西沒有？」
梅啟照將張文祥的供詞遞了過去說：「都是一派胡言，離奇不經之語。」
魁玉接過來，見上面寫的是張文祥與馬新貽從結為異姓兄弟到因曹二虎而反目成仇人的經過。中間略去了天目山隱居練功、結識王鵬豹、程速台幫忙以及尋找史金彪的事。魁玉看了，只是不斷搖頭，連聲道：「荒唐，荒唐！怎會有這種事情。」
梅啟照也道：「如此荒誕的供詞，將馬大人侮蔑之至，怎麼能夠出奏？」
魁玉緊皺著眉說：「主使的人，其心凶毒，不但要馬制台的命，還要毀他的清譽。好在兇手還在審訊之中，只好先含糊其詞。」
於是江寧方面便以「行刺緣由，供詞閃爍」的措詞，飛章入奏，到京城那天是八月初二。