在俄、日艦隊爭奪制海權的同時，日本陸軍已經在朝鮮半島陸續登陸。
1904年3月21日，日陸軍第一軍42000人在黑木為楨大將率領下，首先在朝鮮鎮南浦登陸北進。4月中旬，日軍長驅直入，未遇任何抵抗到達鴨綠江邊。在對岸防守的是扎瓦里奇中將率領的俄「東滿」支隊25000人。與甲午戰爭大清鴨綠江防線類似，俄軍部隊也是分散配置在寬大的正面，佔總兵力約半數的預備隊配置在10公里以外的縱深地帶。4月30日夜間，日軍發起渡江作戰，企圖迂迴到俄軍左翼。5月1日，雙方在九連城展開激戰，俄軍以炮火和反突擊抵抗日軍的進攻。由於擔心被迂迴包圍，俄軍隨後被迫向遼陽撤退。日第一軍立即前出鳳凰城地區，準備向遼陽方向追進。
鴨綠江之戰後，在英國開始流行一種看法，認為日本在這場戰爭中大約可以獲勝，「至少不至於遭到毀滅性的失敗」。這一作戰還帶來一個副作用，那就是日本在倫敦金融市場進行的戰爭融資活動取得了優異的成績。
5月4日，由奧保鞏大將指揮第二軍38500人在旅順口北面60公里處的南貔子窩登陸，竟然也沒有遭到俄國陸海軍的任何阻攔。5月5日，俄國遠東總督阿列克謝耶夫海軍上將乘坐豪華列車，倉皇離開旅順，逃入奉天。5月7日，日第二軍已經完全控制了狹窄的金州地峽。
日第二軍試圖從北面攻佔旅順。5月底，第二軍開始進攻金州。在該地區擔任防禦的俄第四步兵師在進行了短暫的抵抗之後，徑直向旅順方向撤退。5月26日，日軍佔領金州。31日，攻克大連。開始步步向旅順逼近。由於旅順地面部隊司令康特拉琴科少將堅持利用旅順外圍有利地形設防，日軍才被阻擊於旅順以北25公里到30公里一線。
初戰俄軍節節敗退，這讓俄國沙皇尼古拉二世十分不爽。他嚴令遠東俄陸軍總司令庫羅帕特金立即發動攻勢，「要對旅順的命運負責」。庫羅帕特金勉強派出什塔克伯格的西伯利亞第一個軍南下支援旅順。6月14日和6月15日，日俄雙方在得利寺、瓦房店地區展開激戰，俄軍再次敗退，什塔克伯格丟下17門大炮和3000多傷兵倉皇北逃。自此，旅順與東北俄軍主力的聯繫被徹底切斷，完全變成了一座孤城。
1904年6月20日，日軍成立「滿洲軍總司令部」，以大山岩陸軍元帥任總司令統一指揮各部日軍。
當時的戰場態勢是，只要旅順仍然在俄國人手中，俄太平洋艦隊就可能隨時出動，威脅在南滿登陸日軍的後方補給線。不佔領旅順，北面日軍陸軍主力就因為後顧之憂無法在東北平原進行大規模的地面作戰。隨著乃木希典大將指揮的第三軍、野津道貫大將指揮的第四軍先後在遼東半島登陸，「滿洲軍總司令部」決定，日第二軍、第四軍立即北上參加遼陽會戰，攻克旅順的任務由乃木希典的第三軍來承擔。
乃木在甲午戰爭時只是一個少將旅團長，當時就參加過攻克旅順的作戰，本次可算是「故地重遊」。包圍旅順的日第三軍總兵力達6萬人，火炮400門，機槍72挺。同時，東鄉的聯合艦隊封鎖了港口，旅順已經變成了10年前的威海衛。為了儘快攻克旅順要塞，日第三軍所配屬的火炮大部分屬於攻城炮。
1904年6月下旬，日軍第一軍、第二軍、第四軍共三個軍開始向遼陽方向攻擊前進，在佔領橫山等制高點後轉入防禦。7月，第三軍恢複對旅順的攻勢，旅順外圍俄軍節節敗退。到7月30日，旅順外圍俄軍全部撤進要塞。
由於所有外圍守軍全部入城使得旅順的防禦力量有所增強，守軍人數增加到4萬人，炮646門，機槍62挺，港內還有海軍艦艇38艘。唯一不足的是物資儲備稍有欠缺，不足以應付日軍的長期圍困。負責旅順防務的常敗將軍斯捷塞爾從金州失守之後就強烈主張放棄旅順外圍一切要地，退入要塞等待增援。連同樣無能，已經逃跑的庫羅帕特金都感到此人比自己更無能，不宜繼續擔任指揮，發出命令讓他將指揮權交給斯米爾諾夫將軍。斯捷塞爾竟然對斯米爾諾夫隱瞞了電報，以致後者直到戰爭結束才知道自己是真正的司令。接任馬卡洛夫的艦隊司令威特赫夫特也強調敵強己弱，始終龜縮港內，拒絕出海作戰。
8月7日，日第三軍攻佔了旅順要塞外圍前沿制高點——大孤山和小孤山。8月19日，日軍對旅順要塞發動首次強攻。激戰持續了整整五天，日軍雖然奪取了一些前沿工事，但傷亡達到了驚人的2萬人，防守俄軍僅僅傷亡3500人。至此，日軍被迫放棄了迅速攻佔旅順的企圖，改取長圍久困之計。
南面乃木希典所部日軍強攻旅順的同時，北邊大山岩的日軍主力也在積極籌備遼陽會戰。旅順打成了持久戰，大山岩原擬等第三軍攻克旅順後北上參加遼陽會戰的戰略意圖無法實現。隨著時間的推移，俄國援軍將從歐洲源源不斷地趕到，推遲遼陽會戰對整個戰局非常不利。為此日軍必須抓緊時機，在俄國援軍到達之前，以現有第一軍、第二軍、第四軍一舉殲滅集結於遼陽地區的俄軍重兵集團。
俄軍統帥庫羅帕特金揚言「寧死不從遼陽後退」，他決定依託前沿工事抗擊進攻的日軍，並伺機轉入反撲。遼陽地區俄軍防禦陣地分為三道。第一道防線長75公里，位於遼陽以南和東南約30公里。第二道長22公里，距遼陽約8公里。第三道防線緊靠遼陽城，全長15公里。這三道防線特別是第一道縱深小，側翼暴露，防禦工事也沒有最後完成，無法有效抗擊日軍的進攻。
8月23日，俄軍按計畫進入防禦陣地。右翼南部集團是扎魯巴耶夫指揮的三個軍，左翼東部集團是比爾德林格指揮的兩個軍，遼陽以東還有幾個軍，另外兩個軍作為預備隊。進入防禦陣地的各個軍又分別以40％~50％的兵力作為預備隊。這樣一來，實際上投入一線戰場的俄軍兵力就大打折扣。
相反，日軍卻不留任何預備隊，孤注一擲，把全部兵力一次性投入戰場。雖然在總兵力上處於劣勢，卻在局部的俄軍兩翼形成了拳頭。日軍計畫由第四軍從正面進攻牽制俄軍主力，同時第一軍、第二軍兩個軍分別從東西兩面迂迴俄軍左右兩翼，以右翼為主攻方向。這無疑是一個以少數包圍多數的大膽計畫。8月24日，日第一軍對俄軍東部集團實施兩翼迂迴，企圖把俄軍注意力吸引到左翼，迫使俄軍預備隊左調，從而削弱其右翼，為日軍第二軍、第四軍兩個軍主攻俄軍右翼創造條件。8月26日，日第二軍、第四軍開始進攻。中間突破受阻之後，日軍開始迂迴俄軍右翼。庫羅帕特金擔心俄軍有被全部包圍的危險，下令全線撤至第二道防線。
撤至第二道防線的俄軍仍保持原來的部署，將大部兵力作為預備隊，一線展開的兵力不過40％，打法也仍然是坐等日軍進攻。8月30日，日三個軍全部兵力同時發起進攻。俄軍以機槍、火炮和刺刀頂住各路日軍的進攻。雙方激戰一整天，攻擊不利的日軍被迫後撤。正面受阻的日軍於30日夜間派第一軍18000人，於31日晨迂迴俄軍左翼，同時加強對俄軍右翼的進攻。
9月1日，俄軍在左翼集結了三個軍準備反擊日第一軍，反擊定於9月2日開始。但9月1日夜間，日軍迂迴俄軍左翼集團，佔領了該方向時官屯、饅頭山等一系列戰術要點。庫羅帕特金決定在實施全面反擊之前首先奪回饅頭山。為此分別從各個師抽出7個步兵團、154門炮的力量投入進攻。戰鬥於9月2日19時打響，俄軍一度收復饅頭山，日軍隨後展開反擊，俄軍失利。
庫羅帕特金根本沒有意識到當時日軍已經投入了全部兵力且已遭到重大傷亡，尤其是日第一軍單獨與俄軍強大集團對壘，因為處境極為不利，決定暫時後撤。就在日軍準備撤退前兩小時，庫羅帕特金命令俄軍放棄遼陽，退守奉天，這讓日軍得到了一個意外之喜。一直到會戰結束，俄軍大部分預備隊都未投入戰鬥，兵力上的優勢沒有得到充分發揮。
9月3日，俄軍向奉天撤退時，同樣筋疲力盡的日軍也無力組織追擊。直到9月4日，日軍才小心翼翼地進入遼陽。10天的戰鬥使得擔任正面主攻的日第二軍、第四軍傷亡23533人，消耗炮彈12萬發，基本上屬於彈盡糧絕。作為防守方的俄軍，傷亡也超過了18000人。
遼陽會戰後，日、俄兩軍大體上在奉天與遼陽之間的沙河地區形成對峙。到1904年9月底，該區域俄軍達21萬人，防線長90公里，而日軍僅為13萬人。為補充兵員，日本雖多次在國內進行了總動員，仍不能從根本上改變雙方的兵力對比。居於劣勢的日方決定在沙河地區轉入防禦，等待第三軍儘快從旅順解脫出來北上增援。同樣，庫羅帕特金雖然擁有兵力優勢也不急於發動反攻，仍然是依託陣地等待日軍來攻。
前線可以等，家裡卻不能。沙皇政府迫於國內革命運動的高漲和遼陽會戰失利後國民對戰爭的不滿情緒，嚴令庫羅帕特金髮動積極攻勢以解旅順之圍。無奈之下，庫羅帕特金只好