民國4年1月間，中國照會日本要求撤退駐留山東的軍隊，日本根本不理，更在1月18日以交還青島及撤退山東戍兵為詞，附列交換條件和覺書等，向袁政府要求秘密談判。
原來在日軍攻下青島後，日本外相加藤高明電召日本駐華公使日置益回國商討對華的新策略。這是民國3年11月間的事。12月末日置益返回北京任所，借口回任，請求和袁面談。1月18日，他向袁當面投遞了一個文件，他說：「日本政府向大總統表示誠意，希望中日懸案能夠早日解決。同時如果中國方面有誠意，也表示是大總統向日本表示善意的一個良好機會，中日懸案解決，則日本政府願給大總統更多和更大的幫忙。日本政府鄭重希望大總統一點，就是在這次商談中，請貴國嚴守秘密。」
這個文件的內容分為二項：一是條款，預備以條約的形式訂立；一是覺書（中國方面稱為勸告書），準備以提文方式成立。
袁把條文略略翻了一翻，就說：「請貴公使去找外交部商談」。
國際間的交涉，在第二次世界大戰後，外交活動已不拘泥於形式了，可是在第一次世界大戰前後，外交談判還是很保守的，一個國家的公使，要求和駐在國進行外交談判，只能通過駐在國的外交部，如果直接去找駐在國的皇帝或總統，在當時是極不合理，極沒有禮貌的事。日本竟命令駐華公使當面向袁遞交秘密條件的文書，實在是當時國際外交史上空前未有的舉動。
世間事，越想秘密，越易泄漏。日本向中國要求秘密談判的消息，在中國各報都刊登了出來，外國報紙的駐京訪員也紛紛撰寫長電回國。美、俄、英三國乃電令各該國駐日公使向日本外務部要求，希望獲知中日秘密談判的內容，尤其是日方的條款。日本經不住國際壓力，乃將其中較為普通的十一款以正式文書通知各國。
這十一項條款，就是前面所說的部分條款，這些部分內容，在國際法上還說得過去。另一部分是覺書，這部分包含了許多不能見人的東西，這覺書部分日方並沒有告訴各國。
日本利用覺書方法對中國交涉已使用過多次，不久前，當國民黨二次革命失敗，張勳攻入南京後，傷害日兵事件發生時，日本向中國交涉，除提出各款外，另具一覺書勸告中國政府免去張勳職務。由於一個外國政府竟干涉另一國家用人之權，是有害中國主權的，所以不能列入條款中，遂以覺書方式出之。其實覺書與條約，在國際法上約束力完全相同。
這次日本向袁提出要求，條約方面比較輕，覺書部分極為嚴重。
袁當日置益向其提出時始終未翻閱廿一條內容，一再表示這是外交部的事，不便直接干涉。可是日置益堅持請袁先親閱一下。袁待日使辭出後翻開文書一看，大為震動，下午4時電召甫由瑞士返國、下榻迎賓館的陸徵祥來商。陸抵總統府時，袁正和國務卿徐世昌密談，一聽陸到，即送走徐，邀陸密談，把日方的文書教陸先讀一遍，然後說：「你今晚便召集孫寶琦、曹汝霖和梁士詒密商對策。」
陸徵祥於晚飯後，在迎賓館邀參政梁士詒、外交總長孫寶琦、次長曹汝霖會談，由孫寶琦任主席。先由陸說明召集會議的原委，以及袁的指示，孫寶琦繼續發言說：「日本公使一定還會來外交部遞送文書，他已和曹次長討論了好幾個鐘頭。本人認為日本這次是找到了一個天造地設的好機會了，如今歐戰期間，各國自顧不暇，中國內部也不寧靜，日本這次手段毒辣，竟直接向大總統遞送文書，這種藐視中國的手段都能使出，則必然會對中國施加武力的。」大家對於這個棘手而嚴重的問題，反覆談商，結果認為只有兩條路可走：一是接受日方條件；二是利用談判和日方討價還價。當然還有第三條路是拒絕，可是拒絕就等於決裂，袁政府這時是無法在武力上抵抗日本的。
孫寶琦先表示他個人意見，他認為今日面臨的問題是只有接受日本條件。曹汝霖贊成孫的主張。梁士詒則持反對意見，他說：「不談就接受，在外交上沒有這種例子，我們必需和日方談判，能談到什麼地步，也算盡了心，否則如何對國人和歷史交代。」陸徵祥贊成梁士詒的意見，於是這次會議有兩個主張，各有兩票支持。
第二天，孫寶琦謁袁，報告先一天會議情形，袁聽了說：「很好，讓我考慮一下，再作決定。」孫退出後，袁又召見陸徵祥，對陸說：「剛才孫總長來過，我經過慎重考慮，也主張和日方談判，並且希望你能出任主席，主持這個談判。」陸答：「這個談判太困難，徵祥體力不足，最好請總統另派幹員。」袁說：「精力不足，無關重要，我可告訴曹次長，要他多負談判責任，並告訴日方，陸先生體力衰弱，需要休息。我全力付託你，你放心去談判好了。」陸見袁意已決，只好接受。袁在陸辭出後，又召見孫寶琦，告訴孫決定要對日本談判，於是孫寶琦乃上辭呈，請辭外交總長，並向袁推薦陸徵祥為外交總長。
袁於1月27日發表陸徵祥為外交總長，並令他和曹汝霖負責對日談判，調孫寶琦為審計院院長。
日本公使日置益聽到孫寶琦辭職消息，極為不安，乃赴總統府向袁提口頭抗議，日使表示：「敝國剛遞要求書，中國便換外長，分明是毫無誠意，日本政府深為遺憾。」袁答：「貴公使的看法適得其反，中國換外長，正是表示誠意。何況新任外交總長，做事素有耐心，必能一心一意和貴國談判，如不相信，請你去問問別國公使吧。」日使果然去問北京公使團領袖英國公使朱爾典，英使答覆說陸很好。日置益只得電告東京，謂中國換外長，實在是好意的表示。
陸徵祥接任外交總長後的第二天，就接見日置益，雙方談話很精采。
日置益說：「久聞總長大名，知道總長是一位著名的外交家，這次能和總長談判中日問題，深感榮幸。」
陸答：「本人當儘力而為。請問貴公使願意何時開始舉行討論，我們現在就訂下日期好不好？」
日置益說：「我想諸總長定日期好了。」
陸答：「貴使既奉政府命令，當然以早開談判為佳，那麼明天就開好了。」
日置益說：「可不可以容許我提出一點意見？」
陸答：「當然可以，當然可以。」
日置益說：「本人希望談判每天開會，星期日也要開，以趕快解決為原則。」
陸說：「每天開會是可以的，不過星期天要開，外交習慣上沒有這個成例，似可不必。還有一層，雖然每天開會，不過我身為外交總長，不能把其他正式約會通統取消，因此每天上午必需騰出時間，接見賓客，所以會議只能在每天下午舉行。」
日置益說：「可以。」
陸說：「那麼規定每天午後五點鐘開會好了。」
日置益說：「五點太晚了，最好下午兩點開始，夜間也必須繼續開下去。」
陸說：「兩點鐘開不成問題，不過夜間繼續開會，我身體太壞，拖一個星期，我必須辭職了。」
日置益問：「我們確定何時開會呢？」
陸答：「決定二月二日下午三時舉行會談如何？」
日置益說：「好吧！就決定這個日期好了。今天和總長的會晤，非常榮幸，希望由這個好的開始，我們可以有好的結果。」
陸答：「我一切當儘力為之！」
這次初度會談便到此結束，從這次談話中可以看出日方態度強橫，一個公使，對駐在國的外交總長，竟用蠻不講理的態度安排一切；其實更無理的還在後面呢！
這個中日談商的基本文件，是日方所提的，便是後來有名的廿一條。這個廿一條共分為五個項目，在文件上是第一號包括四條，第二號包括七條，第三號包括二條，第四號包括一條，第五號七條，茲將其全文抄錄如下：
日本國政府及中國政府互願維持東亞全局之和平，並期將現存兩個友好善鄰之關係益加鞏固，茲議定條款如下：
（一）中國政府允諾，日後日本國政府擬向德國政府協定所有德國關於山東省依據條約，或其他關係，對中國政府享有一切權利利益讓與等項處分，概行承認。
（二）中國政府允諾凡山東省內並其沿海一帶土地及各島嶼，無論何項名目，概不讓與或租與他國。
（三）中國政府允准日本國建造由煙台或龍口接連膠濟路線之鐵路。
（四）中國政府允諾為外國人居住貿易起見，從速自開山東省內各主要城市，作為商埠；其應開地方，另行協定。
日本政府及中國政府因中國向認日本國在南滿洲及東部內蒙古享有優越地位，茲議定條款如左：
（一）兩訂約國互相約定，將旅順、大連租借期限，並南滿洲及安奉兩鐵路期限，均展至九十九年為期。
（二）日本國臣民在南滿洲及東部內蒙古為蓋造商工業應用之房廠，或為耕作，可得其需要土地之租借權，或所有權。
（三）日本國臣民得在南滿洲及東部內蒙古任便居住往