朱利安尼把更多的經歷用在了所謂的委員會案件中。「委員會」是舊的聯盟的延續，當時所有成員都是義大利人。朱利安尼利用《反詐騙腐敗組織集團犯罪法》設法追查紐約地區最有權勢的8個科薩·諾斯特拉家族。
從1983年到1985年，聯邦調查局監聽了吉諾維斯家族成員在東哈萊姆區社交俱樂部（Social Club）和帕爾馬男孩兒俱樂部（Palma Boy Social Club）這兩處黑幫老巢進行的對話。聯辦調查局的主要目標是安東尼·薩萊諾（「胖東尼」）（Anthony Salerno），《福布斯》雜誌稱其為最富有的黑幫大佬。
聯邦調查局的錄音證據幫助朱利安尼在1986年起訴薩萊諾。薩萊諾被處以100年監禁，在監獄裡度過了餘生。這次指控和另外一次對委員會成員的指控極大地削弱了紐約州有組織犯罪的勢力。
在聯邦調查局的一段監控錄音中，薩萊諾說：「我們擁有金尼。」他指的是金尼停車場公司，而「我們」指的是吉諾維斯家族。
這並不是看待事物的傳統角度。在1971年脫離母公司後，華納公司依然是金尼全國服務公司的大股東。1978年，華納將這部分資產出售。然後在1986年的一次融資收購中，金尼全國服務公司被再次賣給一群投資者。
曼尼·基梅爾一直是薩萊諾的朋友。1986年年末，轉為政府證人的文森特·卡法羅（Vi Cafaro）解釋稱，吉諾維斯家族控制了美國國際卡車司機工會位於當地的272號分會。停車場賄賂地方分會的金額高達2000～5000美元不等。作為回報，工會不會因為使用非工會勞工而找他們麻煩。
這件事和工會腐敗的其他證據讓朱利安尼於1988年7月根據《反詐騙腐敗組織集團犯罪法》對工會提起訴訟。他指控工會「與科薩·諾斯特拉黑幫達成了罪惡協議」，並將此次訴訟描述為一次「認真的矯正行動」。儘管工會出了名難彈劾，但工會管理層認為可能被凍結資產，因而煩擾不已。工會最終屈服於朱利安尼的要求。工會領導被罷免，1991年在政府監督下進行了重新選舉。
簡言之，《反詐騙腐敗組織集團犯罪法》似乎是打擊一切壞蛋的有力武器。藐視正義的罪犯和他們的辯護律師們被輕鬆打敗並送上了談判桌。《反詐騙腐敗組織集團犯罪法》的效果立竿見影。
這當然讓檢察官身負重任。後來在擔任紐約市長時——在「9·11」恐怖襲擊使政府實行嚴酷統治之前——朱利安尼曾說：「自由就是每個人都願意在法律權威面前放棄選擇自己的所作所為以及做事方式的權利。」
立竿見影的效果讓朱利安尼在政界佔有很大優勢。在擔任聯邦檢察官的幾年裡，朱利安尼可能是自J.埃德加·胡佛以來最著名的犯罪鬥士。這既是因為他確實處理了很多重要案件，也因為他非常善於宣傳。儘管朱利安尼將聯邦檢察官辦公室的助理人數擴充至132人，但他始終是辦公室中標誌性的領袖人物。他的助理丹尼·楊（Denny Young）「在審查新聞稿時就像審查起訴書一樣認真。他會劃掉助理的名字，然後把魯迪的名字加進去」。
曾經的一位助手告訴《紐約》雜誌：「他想成為托馬斯·杜威（Thomas Dewey）那樣的人，掃蕩流氓的執法者，聯邦探員艾略特·尼斯式的犯罪鬥士……站在腳踏板上，手裡的衝鋒槍閃閃發光——這就是魯迪！魯迪！魯迪……因此，每次聯邦調查局破獲一件大案時，他都會堅持要獨領風騷。其實聯邦調查局的人總是在做一些枯燥乏味的工作。如果別人召開了新聞發布會，他一定會發瘋。他這個人從來不會二重唱，只會獨唱。」
朱利安尼認真追查伊凡·博斯基的犯罪傳言。他下屬的負責證券欺詐案件的主任查爾斯·卡伯里（Charles Carberry）開始調查傳言。就像通姦一樣，內幕交易是不可能一個人獨立完成的罪行。檢察官們開始繪製一張可疑內幕交易者及其相關人物的圖表。上面有大約20個名字。
他們為華爾街的社交網路與委員會案件的相關人員社交網路的相似性感到震驚。兩個群體的人都認為自己是精英，有別於社會上的其他人。他們通過友情、權勢、金錢和信息聯繫在一起。他們交易情報並參加彼此的婚禮、受戒儀式以及葬禮。他們寧願坐牢也不願意違背沉默守則。
朱利安尼的人最終得出結論，認為邁克爾·米爾肯是這張圖表上最重要的人物。米爾肯是社交網路的一個節點，當時他的勢力正處於頂峰。他被捲入多個最大型的融資收購案中。這意味著他擁有對肆無忌憚的交易者們來說最具價值的信息。米爾肯還欺騙他自己的客戶，暗地收集本應該作為附加獎勵幫助銷售債券的股票，但是實際上都進了他自己的賬戶。
聯邦檢察官辦公室與很多執法部門精心策划了一系列行動。行動開始於1986年5月12日，證券交易委員會指控交易員丹尼斯·勒文（Dennis Levine）通過內幕交易賺取1260萬美元。勒文在德崇證券紐約辦事處工作。他和在比弗利山莊的米爾肯幾乎毫無關聯，勒文之所以落馬是因為他向朋友炫耀自己的內幕交易。他曾說：「靠情報真的能賺大錢。」
面對不利於自己的證據，勒文決定與政府合作。勒文曾為博斯基提供內幕消息，傭金為利潤的5%。勒文供出了博斯基。
1986年5月，博斯基在米爾肯的母校伯克利商學院發表了著名的畢業演講。他表達的內容是「貪婪是好事」。在這次演講結束幾天之後，博斯基被傳喚，要求提供與他的商業活動有關的全部文件。截至8月份，博斯基也開始與政府合作。博斯基供出了馬丁·西格爾。
萬聖節前兩天，西格爾接到一個叫「比爾」的人打來的神秘電話。來電者問他是否收到他寫的信。西格爾詢問，「什麼信？」比爾說他對西格爾和「俄羅斯人」的關係了如指掌。西格爾告訴比爾別再給他打電話，否則他會報警。
比爾說：「我不信。」
西格爾開車回到位於康涅狄格州的家中，發現他確實收到一封署名「比爾」的來信向他勒索錢財。信中寫道：「我知道。」
幾天之後，西格爾也被傳喚，他決定不能就此完結。他派自己的律師去朱利安尼的辦公室談判並達成了協議。西格爾承認有罪，也同意合作。他供出了羅伯特·弗里曼（Robert Freeman）和高盛投資公司。
1987年2月12日，聯邦檢察官辦公室經驗豐富的偵查員托馬斯·帕特里克·杜南（Thomas Patrick Doonan）在弗里曼位於29樓的辦公室中將其逮捕。杜南給弗里曼戴上了手銬並在他那些滿臉狐疑的同事面前招搖地走過。
托馬斯·杜南就是那個「比爾」。
前一天，朱利安尼已經同意用手銬逮捕弗里曼。他認為很有必要向眾人傳達一個消息：聯邦檢察官辦公室對待白領罪犯和其他人一樣，一視同仁。
然後，一系列指控停止。弗里曼拒絕合作或者供出任何人，他發誓要與指控鬥爭到底。
指控米爾肯的證據依然很不完善。在掌握有力證據之前，朱利安尼不想起訴米爾肯。10月份，政府讓十分緊張的伊凡·博斯基佩戴藏在西裝裡面的「竊聽器」與米爾肯在比弗利山莊酒店見面。博斯基告訴聯邦政府工作人員說他害怕被發現，因為米爾肯在賭場有朋友，一旦被發現，他們會殺了他的。工作人員告訴博斯基，如果他的隱藏的竊聽器被發現，他隨時可以逃跑。
博斯基的任務是讓米爾肯談論博斯基曾經支付530萬美元向他購買內幕消息的事情。因為提到了美國證券交易委員會「正妨礙我工作」，於是博斯基告訴米爾肯他想要確保他們兩個對支票的事口徑一致。
對此米爾肯說道：「噢，我的人什麼都不記得。你的人呢？」
博斯基明白這意味著毀滅證據。米爾肯在會面中沒有提及任何明確顯示有罪的事情，就好像他懷疑有人竊聽一樣。
米爾肯告訴博斯基：「你要小心點，電子監控手段已經發展到非常複雜的程度了。」
馬丁·西格爾向政府詳細敘述了1985年3月與羅伯特·弗里曼就斯托爾通信公司（Storer unications）展開的對話。弗里曼告訴西格爾有一家叫科尼斯頓合夥公司（iston Partners）的私人投資公司正在收集斯托爾通信公司的股票，意圖將其收購。西格爾問弗里曼如何得知這一消息，弗里曼答道：「我和為科尼斯頓購買股票的人很熟。」
這讓政府的列表又產生了懸念。因為這暗示除了西格爾，弗里曼還有其他的內幕消息來源。於是，朱利安尼的人開始著手調查為科尼斯頓公司購買股票的人是誰。他們發現這宗交易是通過奧克利–薩頓管理公司（Oakley-Sutton Ma）進行的。
政府揭露