曹操的復仇行動還未及展開，陶謙那邊反倒先動起了手。
陶謙率先向兗州發起進攻，時間大約是初平四年（193年）的夏天。在此之前，陶謙這邊發生了幾件重要的事，需要交待一下。
一件事是，陶謙此時已被長安的「三人小組」正式任命為徐州牧，此前他一直擔任的職務是徐州刺史。
大約在曹操派王比出使長安的前後，陶謙也派人到長安進貢，他派的人叫趙昱，是當地的名士。當時陶謙手下有幾個名人，除了趙昱以外，還有王朗、張昭等。王朗字景興，是前太尉楊賜的學生，算起來跟靈帝劉宏和前大將軍何進還是師兄弟，他跟趙昱共同勸陶謙通使長安，陶謙接受了建議，派趙昱到長安。
與曹操的情況不一樣，陶謙的特使在長安受到歡迎，這是因為陶謙是朝廷正式任命的刺史，而曹操的兗州牧則查無出處。最後，朝廷拜陶謙為安東將軍，由徐州刺史升格為徐州牧。同時任命趙昱為廣陵郡太守，任命王朗為會稽郡太守。王朗就是這時候離開陶謙到江南上任的。另一件事是陶謙與黃巾余部闕宣聯合，勢力大增。
根據《後漢書·五行志》的記載，這一年夏天中原及華北地區出現了罕見的自然現象：正值炎夏，卻颳起了寒風，像冬天一樣。
這種神奇的自然現象鼓勵了想造反或者正在造反的人，在他們看來這是天亡劉漢的又一明證。徐州刺史部下邳國一帶有個叫闕宣的人領頭造反，響應的人很多，當他看到上天也出來懲戒當權者時，於是不再客氣，自稱天子，與長安的獻帝分庭抗禮。當時敢造反不算什麼本事，但敢於自稱天子那絕對是勇氣可嘉。
剛剛被朝廷任命為徐州牧的陶謙不僅不率兵討伐，反而跟闕宣聯合起來，勢力進一步增強。陶謙一方面派人跑到長安向天子宣誓效忠，一方面與自稱天子的人稱兄道弟，這位仁兄的務實主義作風實在可以。
但是後世也有很多人對此表示懷疑，比如司馬光，他不相信身為徐州牧的陶謙真的會和造反分子公然攪到一塊兒，因為這種行為跟直接造反沒有什麼兩樣。持這種看法的還有黎東方先生，他認為不僅曹嵩被殺與陶謙無關，而且和闕宣聯合這樣的事根本就是子虛烏有。這代表了一種很流行的看法，在許多人眼裡陶謙是個謙謙君子，而非小人。
但是，如果結合陶謙早年在西北前線時就流露出來的獨特個性來看，說他現在已經成長為一個溫和的長者似乎有點不可能，陶謙到徐州後親信小人，打壓正直之士，玩弄手腕，大搞兩面派，一樁樁事件都有記錄，關鍵時刻與闕宣這樣的實力派結合也沒有什麼值得大驚小怪的。
得到徐州牧的頭銜，聯合闕宣，如果把這兩件事合在一起看，此時的陶謙既提高了名分，又增強了實力，正是事業的上升期。他未必會把曹操放在眼裡，如果陶謙早就有挑戰曹操的想法，有意策劃曹嵩被殺事件，也有這樣的可能。
有意策劃也罷，被誤會也罷，眼下與曹操的一戰已是難以避免。陶謙與闕宣組成聯軍，率先向兗州發起了進攻。
他們進攻的方向不是曹操正面的陳留郡、濟陰郡，而是右翼的泰山郡、任城國等地。泰山郡太守應劭已棄官逃往袁紹那裡，曹軍在這裡的防守相對薄弱，任城國以及泰山郡的很多地方被陶謙佔領。
面對敵人先發制人的進攻，曹操決定兵分三路：一路由夏侯統領留守兗州，重點是鄄城、濮陽、定陶、東武陽等戰略要地，荀、程昱留下協助他；一路由曹仁率領，由東郡的北部進入東平國、任城國，進而到泰山郡進攻那裡的徐州軍；一路由曹操親自率領，由濟陰郡南下，進入已為陶謙所控制的豫州刺史部沛國的北部，進而攻擊徐州刺史部的彭城國（治所在今江蘇徐州一帶）、下邳國（治所在今江蘇邳縣一帶）等地，直搗陶謙的大本營郯縣（今江蘇郯城）。
總體來說，就是以偏師對抗陶謙的主力，而將主力向敵人之側冀發起進攻，對於已失去先發優勢的曹軍來說，這不失為一個正確的選擇。
這是一場無法預料結局的戰爭，曹操離開鄄城前告訴夫人卞氏說，如果自己回不來了，就讓卞氏領孩子們前往陳留郡投奔張邈（我若不還，往依孟卓）。
戰事從這年秋天拉開，曹軍一路順風，勢如破竹。曹操親自率領的這路一口氣拿下兗州境內十幾座被陶謙佔領的城池，直逼徐州境內的戰略要地彭城，逼著陶謙從右路撤軍，親自率軍來戰，雙方在彭城進行了激戰。
古代九州里就有徐州，徐州也被稱為彭城。彭城是座古城，城池四周雖然被大小不等的丘陵、高地所環繞，但交通卻十分發達。東漢有一條起自洛陽的東方大道，其基本走向前半段約沿著現在的隴海鐵路，後半段約沿著現在的京滬鐵路，彭城就是這條大道上的交通樞紐。
彭城周邊還有泗水、水在此交匯，自古以來就是兵家必爭之地，也是大兵團交戰的理想戰場。四百年前，劉邦和項羽曾在此有一場大戰，結果劉邦大敗，項羽險些把劉邦生擒。曹操與陶謙的彭城之戰沒有楚漢戰爭時打得那麼慘烈，戰事呈現出一邊倒的趨勢。曹軍大勝，陶謙所部有近萬人被殺，陶謙撤軍，向東退到郯縣。
對於這場大戰，《三國志·武帝紀》里只有十六個字：「秋，太祖征陶謙，下十餘城，謙守城不敢出。」同書的《陶謙傳》與此大體相同，只是多了十個字：「死者萬數，泗水為之不流。」後面這一句翻譯過來，大意是：被殺死的接近上萬人，屍體阻塞河道，使泗水都要斷流了。
早期的正史關於這場戰爭的記載就只有這二十多個字。可是後來，不知道哪位仁兄把「萬數」有意或者無意地改為了「數萬」，事情就有點不一樣了。到了司馬光的筆下，這件事已經演變成了下面的模樣：
「秋，曹操引兵擊謙，攻拔十餘城。至彭城，大戰，謙兵敗，走保郯。初，京、洛遭董卓之亂，民流移東出，多依徐土，遇操至，坑殺男女數十萬口於泗水，水為之不流……雞犬亦盡，墟邑無復行人。」
一次活埋了幾十萬人，簡直是駭人聽聞！
如果這件事真是曹操乾的，我們一定把漢魏惡人榜第一名的帽子從董卓頭上拽下來給曹操戴上，告他一個反人類罪！
可惜，這不是真相。
由於史料缺乏，還不太清楚這件事是如何從陳壽版演變到司馬光版的。在較早一些的桓帝時期，彭城國全部人口不足五十萬，當時全國人口是五千多萬。經過黃巾起義、自然災害、戰爭屠殺，到再晚一些時候，全國人口已銳減到一千多萬，此時彭城國的人口想必也已大幅下降。
曹操一邊打仗，一邊還得派人四處出擊，把彭城國全國的老百姓都抓到一塊兒，然後全部活埋？真的匪夷所思！
曹操遠途奔襲，此時用在彭城的士兵人數充其量也就二三萬。攻破彭城後，曹操下令大家先不要打掃戰場，也不忙追擊敵人，而是干一件更重要的事：每個人分配十多個敵占區抓來的士兵和老百姓，把他們領到泗水河谷里活埋了，干不完活不給吃飯！
即使被抓來的人已有人提前幫忙捆好、綁牢，即使將要被活埋的這些人願意配合，完成這項任務所涉及的工程量也是巨大的。
坑殺男女數十萬口，規模堪比南京大屠殺，你能想像得出來嗎？但由於司馬光的權威，很少有人動腦筋細想，這樣的說法在後世逐漸流行。
不說這樁公案了，且說陶謙退保郯縣。曹操繼續追擊，在郯縣以東的武原與陶謙主力部隊又進行了一場惡戰，再次取得勝利，兵臨郯縣城下。從鄄城出發到郯縣，直線距離已有上千里，曹軍遠道而來，雖然節節勝利，但自身消耗也很大，士卒減員，戰鬥力下降。對方已退無可退，拚命死守，曹軍攻城不克。
郯縣難攻的原因還有一個：城裡來了生力軍。
陶謙開始還信心滿懷，原來想至少也能跟曹操拼一拼吧，但沒想到自己的部隊在曹軍面前竟然如此不堪一擊。眼看郯縣危急，在曹軍圍上來之前，他趕緊派人向盟軍公孫瓚求救。
袁術被打跑後，陶謙如果再被消滅，公孫瓚對袁紹、曹操南北夾擊的戰略部署就要落空，所以對陶謙的求救他不能不管。公孫瓚命令距離徐州最近的田楷、劉備馳援郯縣。
田楷和劉備分別是公孫瓚任命的青州刺史和平原國相。劉備帶著關羽、張飛、趙雲等人率先到達，這時候他兵力還很有限，只有一千多人，再加上一些烏桓騎兵，以及數千難民，那陣勢不像是來幫忙打架的，倒像是來吃大戶的。
但這些都是生力軍。兗州軍和徐州軍已經打了幾個月，雙方都很疲憊了。郯縣因為有劉備的加盟，防守力量明顯增強，所以儘管曹洪、夏侯淵等人親自督戰，試圖一舉拿下郯縣，但猛攻了幾次，都沒能攻下。
長期圍城是不現實的，這是敵占區，敵人的後援會越來越多，而自己隊伍將面臨後勤補給等方面的難題。曹操決定放棄攻城，回師兗州。
郯縣攻防戰想必給曹操留下了較深的印象，從情