建安十七年（212年）九月，孫權正式把大本營從京口（今江蘇鎮江）移到秣陵，改名為建業，也就是今天的江蘇省南京市。此後一段時間，孫吳的政治中心就放在了這裡，孫權以後還將在這裡稱帝。
孫吳最早以吳縣（蘇州）為基地，後來遷到京口，現在又遷到建業，戰略重心一步步靠前，目的是在長江一線與曹操展開爭奪。孫權在長江邊上的石頭山（今清涼山）上築城，號為石頭城，以此扼守長江的咽喉。
孫權遷址於建業的想法早就在規劃中，為了保障建業上游的安全，一年前，孫權接受呂蒙等人的建議，在距建業上游數百里處的濡須口修築了一處軍事要塞，即著名的濡須塢。
曹操目前以合肥新城為進攻孫吳的基地，合肥新城與長江之間隔著巢湖，這是一片比現在面積還要廣闊的水域，在巢湖與長江之間通有一條河，名叫濡須河，史稱它發湖於巢湖，流入長江。
合肥新城有一條叫施水的河與巢湖相連，也就是說，戰船由合肥新城出發，經過施水、巢湖、濡須水，可以很輕鬆地到達長江，成為曹魏的一條黃金水道，這也就是劉馥當年花大力氣修築合肥新城的原因，合肥新城的地理位置對曹魏來說太有利了。
為了變被動為主動，孫權想在江北修建一處軍事基地，他看中的地方是濡須水的入江口，即濡須口。據《吳錄》記載，孫權想在此修建軍用碼頭（塢），但是大部分將領認為在長江對岸修工勢沒有必要，孫吳擅長的是游擊戰，上岸殺敵，轉身上船，有沒有固定的碼頭無所謂（上岸擊賊，洗足入船，何用塢為）。
在孫權手下擔任副軍長（偏將軍）的呂蒙認為修建這個軍用碼頭十分重要，他說：「打仗有勝就有敗，如果打了敗仗，倉促之間都來不及上船（兵有利鈍，戰無百勝，如有邂逅，敵步騎蹙人，不暇及水，其得入船乎）。」於是孫權下決心修築濡須塢，作為建業上游最重要的軍事基地。
濡須水流入長江的地方兩邊都是山，孫權依託它們夾水築城，下了很大功夫，把濡須塢修築得很堅固，同時儲存大量軍用物資，來抵禦曹軍的進攻（夾水口立塢，所以備御甚精）。濡須塢成了一把鎖，牢牢地鎖住曹軍入江的門戶，讓曹軍手中的黃金水道發揮不出作用。
孫權在江北修建的軍事基地也成為在揚州的廬江郡、九江郡一帶拓展勢力的戰略支撐點，有了這個基地，孫權就能隨時尋找機會攻擊曹魏。
所以呂蒙的見解是高明的，在江北設立軍事基地，無形中把雙方共有的長江天險變成了自己獨家擁有，進可攻、退可守，在戰略上完全處於主動。
赤壁之戰後呂蒙在年輕將領中進步得最快，尤其是魯肅代替周瑜負責前線指揮以後，對呂蒙特別欣賞。據《三國志呂蒙傳》介紹，魯肅趕赴陸口上任時路過呂蒙的轄區，當時魯肅對呂蒙還不完全了解，也不夠重視（肅意尚輕蒙），但經過與呂蒙的一次談話，魯肅產生了完全不同的看法。
二人在飲酒之間，呂蒙突然問魯肅：「您接受重任，與關羽為鄰，將採取什麼戰略以備不虞之需？」魯肅沒有多想，順口說：「臨時應變吧。」呂蒙顯然不滿意這樣的回答，他說：「現如今跟劉備雖然名為一家，但關羽實乃熊虎之人，哪能不預先制定好應對的策略？」
呂蒙於是向魯肅提出了五項應急預案（因為肅畫五策）。魯肅聽罷吃驚不小，再也不敢輕視呂蒙，他激動得越過坐席跳到呂蒙那邊，拍著呂蒙的背說（於是越席就之，拊其背曰）：「子明，我還不知道自己的才略原來比你差得這麼多（呂子明，吾不知卿才略所及乃至於此也）。」
魯肅於是跟呂蒙結為摯友，並拜見了呂蒙的母親。
據《江表傳》說，呂蒙開始並不喜歡讀書，有一回孫權對他和另一個青年將領蔣欽說應該多讀讀書，這樣有好處（宜學問以自開益）。呂蒙回答說軍中事務繁忙，根本沒有時間讀書（在軍中常苦多務，恐不容復讀書）。孫權於是耐心地給呂蒙上了一課，從自己的讀書體會講起，說明勤學的重要。這次談話打動了呂蒙，改變了他對讀書的看法，於是開始發憤向學，手不釋卷，經過長期堅持和積累，學問居然超過了一些文人（蒙始就學，篤志不倦，其所覽見，舊儒不勝）。
魯肅跟呂蒙熟悉後，對他的進步感到不可思議，跟他開玩笑說：「現在你的學識這麼好，既有武力又有謀略，再也不是吳下阿蒙了。」呂蒙回答：「一個人分別三天，就應該另眼相待（士別三日，即更刮目相待）！」這就是「士別三日，當刮目相看」的出處。
後來，魯肅去世前向孫權推薦呂蒙接替自己，使呂蒙成為孫吳軍隊里繼周瑜、魯肅之後最重要的統帥。
孫權在長江中下游一帶的主動態勢讓曹操不能坐視不管，就在孫權遷址於建業的次月，即建安十七年（212年）十月，他親率大軍前來合肥，與孫權爭奪長江天險。
這一仗規模不小，但打得時間不長，在《三國志武帝紀》里只記載了幾句話，在曹魏一方的其他各人傳記里也基本上沒提，具體有哪些人參加了這次會戰不得而知。而在記錄孫權一方的傳記、史料中，對此戰記載得很詳細，這是因為此戰曹軍無功而返，雖然不像赤壁之戰那樣慘敗，但也基本上可以認為是失敗。
據《江表傳》說，曹操此行帶來了四十萬人馬，很快打到了長江岸邊，與孫權對峙（曹公出濡須，號步騎四十萬，臨江飲馬）。四十萬的數字顯然有點誇張，或者是曹操又在故意虛張聲勢。孫權得到報告，不敢怠慢，立即率領七萬人馬應戰，這個數字如果是真實的，那基本上就是孫權的全部家底了。
《江表傳》的政治立場親吳，說曹軍四十萬，自己一方七萬，更能突出此次戰果。孫權派折衝將軍甘寧率三千人為前鋒，並給甘寧下達秘密指令，讓他一到前線就發起攻擊，打曹軍一個措手不及。
這是孫吳慣用的手段，人數既然不佔優勢，就得先發制人，先取得小勝，鼓舞士氣，甘寧圓滿完成了任務。
據《三國志甘寧傳》記載，甘寧挑選了一百多名勇士組成敢死隊，孫權賜給大家米酒和飲食，吃完，甘寧用銀碗盛酒，自己先喝了兩碗，然後再斟滿交給敢死隊隊長（都督）喝。這個隊長可能有點緊張，伏在地上起不來了，甘寧火了，拔刀橫在隊長的膝上，大聲呵斥他。隊長見他神情嚴厲，趕緊接過酒喝了，後面的敢死隊員每人也都喝了一銀碗的酒。二更時分，甘寧率敢死隊悄悄出發（銜枚出斫敵），殺往敵營。據《江表傳》記載，他們拔掉曹營的鹿角，潛入營壘，殺了幾十名曹兵。曹營一片混亂，不知道有多少敵人攻進來了，亂了好大一陣，等到慢慢平靜下來，甘寧等人已順利返回自己的大營。
這時孫權也到了，甘寧連夜拜見孫權。孫權高興地說：「這下子一定嚇著曹操這老傢伙了吧，讓他也看看我們甘寧的膽量（足以驚駭老子否？聊以觀卿膽耳）。」孫權還對大家說：「孟德有張遼，我有興霸（甘寧字興霸），足以匹敵！」
據《吳歷》記載，濡須口附近的長江中有一個叫中洲的沙洲，曹操看到可以利用，於是命人乘油船率兵趁夜渡到洲上。哪知此舉被孫權偵察到，立即調集水軍前來圍攻，曹軍不是孫吳水軍的對手，僅被俘虜的就有三千人。
曹軍兩戰皆負，孫吳士氣大振，反而主動在曹營外發起挑戰，曹操下令堅守不出。《吳歷》說有一次孫權親自來挑戰，乘輕船從濡須口前往曹軍營寨，曹軍將領要發起攻擊，曹操說：「這是孫權前來觀陣，後面沒準有陰謀。」於是下令軍中整齊軍容，嚴陣以待，弓弩不得妄發。孫權又向前行進了五六里才回去，在船上吹吹打打，故意氣曹軍（權行五六里，回還作鼓吹）。
《魏略》記載了另一次孫權來挑戰的情形，這一次孫權是乘大船來的，曹操倒不客氣，下令射箭，弓弩亂髮，箭射到船身上。射中得太多，把船身都壓偏了，孫權下令掉轉船頭，讓另一面受箭，等船隻恢複平衡後下令回去（船偏重將覆，權因回船，復以一面受箭，箭均船平，乃還），這大概才是真實版的「草船借箭」。
對曹操來說，這一仗打得實在窩囊，整體實力雖然佔優，但在場面上卻處於劣勢，以至於孫權頻頻挑戰都不敢應。曹操手下有個「泰山幫」，由於不是嫡系，曹操經常派他們南下揚州參戰。據《魏書》記載，「泰山幫」的主將之一、曹操任命的青州刺史孫觀也參加了這次濡須口會戰，他在戰鬥中被流矢射中左腳，但仍然堅持戰鬥。事後曹操對他進行了嘉獎和慰問，把他由偏將軍升為振威將軍，但孫觀夠倒霉的，本來只是被冷箭射中了一隻腳，結果傷勢越來越重，居然死在軍中。
此戰再次暴露出曹軍不善水戰的弱點，隨著春季到來，江水漸漲，孫權的水軍優勢將進一步發揮出來，形勢對曹軍更加不利。
據《吳歷》記載，曹操在江上看到孫吳舟船整齊，軍伍整肅，感嘆道：「生個兒子就應該像孫權這樣，劉表的那幾個兒子要比起來都如豬狗一樣（生子當