儘管戴笠實際上是胡靖安的特工之一，但後來他宣稱，不久他就直接親自向蔣介石彙報了。1926年3月18-19日，停泊在黃埔軍事總部附近的中山艦被共產黨艦長挪到了廣州。這個可疑的行動使蔣介石以為是一個左翼派的奪權陰謀，而他會被包圍並強行押上艦艇。後來胡宗南、胡靖安和戴笠向他提供了關於國民黨內部包括周恩來在內的共產黨活動的報告，更增加了他的疑心。
根據這些報告以及與廣州公安局長吳鐵城和其他關鍵顧問的談話，蔣介石於3月20日早晨迅速地包圍了軍艦，逮捕了艦長（他也是海軍局局長），解除了保衛蘇聯顧問們的警衛和共產黨控制的香港罷工總工會的武裝，同時宣布軍事管制，並抓了50多個二師的政治工作者。
等蔣的對手汪精衛一離開廣州去歐洲，總司令立即對蘇聯顧問們道歉，說中山艦事件並沒有涉及中共中央組織，而且他有意辭職——這當然沒被接受。雖然他在一次對離開軍隊的共產黨政治工作人員的講話中說了，他對關於企圖綁架他的陰謀的說法表示懷疑，但他在1927年4月後堅定地認為中山艦事件是共產黨的陰謀。他的這種堅定也許是基於戴笠給他的報告，而這一點使戴笠在他的眼裡變得更有價值。