1954年2月18日，在蘇聯的推動下，蘇、美、英、法四國外長在柏林會議上達成協議：「建議由蘇維埃社會主義共和國聯盟、美國、法國、聯合王國、中華人民共和國、大韓民國、朝鮮民主主義人民共和國及其他有武裝部隊參加朝鮮戰爭並願意參加會議的國家的代表於1954年4月26日在日內瓦舉行會議，以期對朝鮮問題取得和平解決。」「同意在那個會議上還要討論恢複印度支那和平的問題，屆時將邀請蘇維埃社會主義共和國聯盟、美國、法國、聯合王國、中華人民共和國及其他有關國家的代表參加。」但是，美國堅持在協議中加上一項諒解：「無論是邀請參加上述會議或舉行上述會議，都不得被認為含有在任何未予以外交承認之情況下予以外交承認之意。」以表明美國在外交上不承認中華人民共和國政府立場和態度。
中共中央和中國政府對參加日內瓦會議十分重視，做了大量的準備工作。特別是周恩來，從2月份即開始收集、熟悉、研究有關召開日內瓦會議的文件、電報、情報以及印度支那各國的情況。
2月27日，周恩來在召集日內瓦會議籌備會議幹部會議上指出：（一）日內瓦會議對緩和國際緊張局勢具有重要作用，中國應積极參加；（二）由於美國政府會多方阻撓，和平解決朝鮮問題估計難有大的進展，但我們仍應力爭解決一些問題。
3月初，周恩來主持起草了《關於召開日內瓦會議的估計及其準備工作的初步意見》。提出：「我們應該採取積极參加日內瓦會議的方針，並加強外交和國際活動」，打破美國政府的「封鎖、禁運、擴軍備戰的政策，以促進國際緊張局勢的緩和」。中共中央政治局擴大會議先後批准了《關於和平統一朝鮮方案的初步意見》和《關於日內瓦會議的估計及其準備工作的各項意見》。同時，中國政府還在北京與朝鮮政府、越南政府交換了意見。
4月間，周恩來受中共中央委託訪問蘇聯，與蘇共中央商談出席會議的有關事宜，並出席有蘇聯、中國、朝鮮、越南領導人參加的日內瓦會議預備會議，共同磋商參加日內瓦會議的方針、政策和談判方案，以及中、蘇、朝、越代表團之間的配合協調等問題。經過充分交談和醞釀，一致認為在當時那種國際環境下出席這樣的會議，只能邊走邊看，隨機應變，尋找對策，以爭取最有利於國際和平的結果。同時，周恩來還一再表示對會議不可有過高的奢望，但也要力爭取得某種成果。
4月19日，中央人民政府主席毛澤東正式任命周恩來（國務院總理兼外交部部長）為中國出席日內瓦會議首席代表，張聞天（駐蘇聯大使）、王稼祥（外交部副部長）、李克農（外交部副部長）為代表。中國政府組成了一個100餘人的龐大代表團出席日內瓦會議。
在出國前，周恩來召開代表團全體成員大會。在大會上，周恩來指出：「儘管我們過去在國內談判有經驗，跟美國吵架有經驗，但那是野檯子戲，那是無法無天，什麼也不怕，鬧翻了也就那麼回事；當然我們談判還不是為了鬧翻。就是說，那時我們進行談判的範圍小，有什麼就說什麼。中國是一個大國，到日內瓦是參加一個正式的國際會議了，我們是登國際舞台了，因此要唱文戲，文戲中有武戲，但總歸是一個正規戲、舞台戲。有幾個兄弟國家參加，要配合，要有板眼，都要合拍，又是第一次唱，所以還是要本著學習的精神。」
4月24日，中國政府代表團乘坐的專機到達日內瓦國際機場。專機著陸後，各國記者蜂擁而上搶拍鏡頭。步履沉穩的周恩來率領浩浩蕩蕩的代表團穿過人群，前往住處。當天，周恩來發表了熱情洋溢的講話：「全世界愛好和平的人民和國家都將密切地注視著日內瓦會議的進展，並期望著會議的成功。中國人民對這個會議有著同樣的期待。中華人民共和國代表團抱著誠意來參加這個會議。我們相信，參加會議者的共同努力和對於鞏固和平的共同願望，將會提供解決上述（朝鮮和印度支那問題）亞洲迫切問題的可能。」
4月26日，日內瓦會議如期在國際聯盟大廈開幕。會議由泰國、蘇聯和英國首席代表輪流擔任主席，首先討論朝鮮問題。出席討論朝鮮問題會議的除中、蘇、美、英、法、朝鮮民主主義人民共和國和大韓民國代表團外，還有澳大利亞、比利時、加拿大、哥倫比亞、衣索比亞、希臘、盧森堡、荷蘭、紐西蘭、菲律賓、泰國和土耳其等國的代表團。
根據中國、蘇聯、朝鮮三國事前商定，4月27日首先由朝鮮代表發言。南日外務相一開始就提出了關於恢複朝鮮統一和組織全朝鮮自由選舉的方案，主張：一、舉行國民議會的全朝鮮選舉，以組成朝鮮統一政府；為籌備和舉行自由選舉，由南北朝鮮議會各選派的代表組成全朝鮮委員會，其任務之一是草擬一個全朝鮮選舉法草案，並採取措施保證朝鮮居民的各種自由；二、一切外國武裝力量在六個月內撤出朝鮮；三、對維護遠東和平具有最大關心的相應國家有必要保證朝鮮的和平發展，並為朝鮮的和平統一創造條件。南朝鮮代表卞榮泰在4月27日會上卻提出，由聯合國監督在北朝鮮舉行自由選舉，選舉南朝鮮議會中留給北朝鮮代表的約100個席位，要求美國軍隊繼續留在南朝鮮。卞榮泰的這種主張無異於南朝鮮吞併北朝鮮。
4月28日，周恩來外長發言，完全支持南日外務相的三項建議，並駁斥了南朝鮮代表的無理主張，強調，朝鮮的統一應在摒除一切外力干涉、杜絕任何恐怖集團的壓力、使朝鮮人民都能自由表示其意志的條件下，舉行全朝鮮的普選來實現；為保證全朝鮮的自由選舉，一切外國軍隊必須首先撤出朝鮮。4月29日，蘇聯外長莫洛托夫在發言中表示完全同意周恩來外長的意見，並認為南日外務相的建議符合朝鮮人民恢複國家統一的民族願望，可以作為解決朝鮮問題的一種基礎。
美國國務卿杜勒斯在4月28日的發言中，反對南日外務相的建議，對蘇聯、中國、朝鮮進行大肆攻擊和誣衊。甚至以美國離朝鮮太遠，中國距離朝鮮太近，中國人民志願軍能很快地回來，美國在朝鮮已有撤軍的教訓，不希望那段歷史重演等等，作為美國不願從朝鮮撤軍的理由。奢談聯合國為統一朝鮮問題所做的努力，主張按1950年10月7日聯合國大會的決議，由聯合國朝鮮統一復興委員會，在朝鮮尚未舉行過選舉的地區進行觀察，以便完成朝鮮的統一，企圖將聯合國的非法決議強加給會議。
會議關於和平解決朝鮮問題的討論，進行的非常尖銳、激烈。兩種截然不同的建議擺在與會者的面前。周恩來外長意識到關於和平解決朝鮮問題的討論將是艱難的。4月28日，他在給毛澤東、劉少奇並報中共中央的電報中指出：「根據三天會場情況來看，朝鮮問題的討論形成敷衍局面，因美國不打算解決問題，法國對朝鮮問題又不便發言，英國也表示不想發言。」
5月3日，南日外務相對關於恢複朝鮮統一和舉行全朝鮮自由選舉的三項建議做了進一步說明。南朝鮮代表卞榮泰在發言中對中國、蘇聯、朝鮮民主主義人民共和國肆意誹謗和攻擊，甚至說他惟一不滿的是美國對朝鮮的干涉還不夠，希望美國更多的干涉。周恩來外長接著發言，再次表示完全支持南日外務相提出的全部建議，並有力地駁斥了美國和南朝鮮的荒謬論調。他義正詞嚴地指出，美國發動武裝干涉朝鮮的戰爭後，操縱聯合國非法地追認了美國這一侵略行動。這就將聯合國置於朝鮮戰爭中交戰一方的地位，使它失去公平處理朝鮮問題的資格。聯合國在朝鮮問題上的所作所為，嚴重地破壞了聯合國的威信，並使聯合國喪失了處理朝鮮問題和其他亞洲問題的道義力量。我們這個會議同聯合國毫無關係，美國代表硬要朝鮮人民執行聯合國的非法決議，同意由聯合國監督朝鮮的選舉，豈有此理。會上有人企圖用所謂「門戶開放，機會均等」的論點，來為美國干涉朝鮮和其他亞洲國家的內政辯護，歷史證明這是帝國主義實行擴張政策的一種手段。美國代表以中、美距朝鮮遠近不同為理由而不同意同時撤退一切外國軍隊，人們不禁要問，既然美國能從數千里外派兵侵略朝鮮，為什麼現在就不能從原路把軍隊撤回呢？有人說一切外國軍隊撤出後朝鮮將不能保持和平狀態，這是沒有根據的，為了防止朝鮮戰爭再起，南日外務相已經建議由有關國家保證朝鮮的和平發展。南日外務相三項建議應該作為本會議達成協議的基礎。周恩來外長還揭露了美國和南朝鮮嚴重違反日內瓦公約和朝鮮停戰協定，先後強迫扣留48000餘名朝中被俘人員的行為，指出本會議不能避開戰俘問題，並提出了解決這一問題的具體建議。
為了推動會議有所進展，本著努力尋求協議途徑的精神，周恩來外長在5月22日的會議上再次指出，聯合國已被置於朝鮮交戰一方的地位，失去了公平處理朝鮮問題的資格和道義力量，聯合國從來沒有處於像在朝鮮事件屈辱的地位，聯合國的非法決議不能作為和平解決朝鮮問題的基礎；一切外國軍隊撤出朝鮮是朝鮮人民在全國選