除了白話新詩，胡適用力最多的要算短篇小說。他曾經說：「我是極想提倡短篇小說的一人，可惜我不能創作，只能介紹幾篇名著給後來的新文人作參考的資料，慚愧，慚愧。」①其實，翻譯外國文學名著，在當年的文學革命中，不僅用不著「慚愧」，並且是一件極有益的可供參考和借鑒的工作。五四時期，為了反對舊文學，使新文學現代化，曾經著重介紹和學習西方的啟蒙思想和西方文學。那真是一個敞開大門，充分吸收異域營養的時代。新文學初出世，不論是思想傾向，或者形式、結構和表現方法，都廣泛地接受過外國的影響。從歌德、易卜生、托爾斯泰、契訶夫到高爾基等，許多名家的名作，可以說哺育了我國新文學的最初一代作家。
胡適認為：
今日欲為祖國造新文學，宜從輸入歐西名著入手，使國中人士有所取法，有所觀摩，然後乃有自己創造之新文學可言也。②
他的從事翻譯，便是這種運輸異域營養的工作。起手於1912年9月。他最初翻譯的是法國都德的愛國名篇《最後一課》，當時胡適譯為《割地》，登在上海《大共和日報》上。接著，又譯了都德的《柏林之圍》。③1916至1919年間，連續譯了莫泊桑、契訶夫等人的幾篇作品。到1919年9月，胡適將它們編為《短篇小說》第一集，10月由上海亞東圖書館出版。④薄薄的本子，10個短篇，大多用白話譯出，給中國文壇吹進了一股清風。當時，社會上流行的是鴛鴦蝴蝶派的才子佳人小說，還有那些學《聊齋》的札記小說，篇篇都是「某生，某處人，生有異稟，下筆千言，……一日，於某地遇一女郎，……好事多磨……遂為情死」，千篇一律的濫調文字。有志於改革的文學青年，對這些東西早已厭惡了。讀到胡適翻譯的這本《短篇小說》，自然覺得格外清新，大開眼界。這本書的出版，對於那些致力於中國小說現代化的人們，無疑是及時提供了有益的借鑒和榜樣。因此，不脛而走，半年便再版了。其中《最後一課》等一些名篇，還被選入中學的國文課本，廣為流傳，數十年而不衰；甚至對某些文學青年一生的思想與事業，也產生了深刻的影響。⑤。
胡適提倡短篇小說的熱心，促使他做過一次關於短篇小說的專門講演。那是1918年3月15日，北京大學國文研究所的小說科，開第四次會議。到會的有周作人、胡適兩個教員，傅斯年、俞平伯等四個學生。
胡適面對這五位師生，大講短篇小說，從下午四點直講到五點半；周作人也不時插進來討論幾句。這篇演講，便是後來改寫成的《論短篇小說》。⑥現在看來，胡適講的道理都很膚淺，並有不少牽強附會的說法。但在那時，中國的文人，連什麼是短篇小說，大多數還不甚明白。報紙雜誌上，往往把筆記雜纂，篇幅不長的，統統叫做「短篇小說」。在那樣的時代，《論短篇小說》作為現代小說理論的啟蒙讀本，卻還是勝任的。且看他給短篇小說下的界說罷：
短篇小說是用最經濟的文學手段，描寫事實中最精採的一段，或一方面，而能使人充分滿意的文章。
在闡述這個界說時，胡適又說短篇小說所描寫的應是一人生活、一國歷史、一個社會變遷的「橫截面」。這說法不一定很確切，卻庶幾近之了。
《論短篇小說》最主要的部分，是講「中國短篇小說的略史」。從先秦諸子的寓言講起，直講到明清的《今古奇觀》和《聊齋志異》。除了拉扯一些韻文來牽強湊合的缺點之外，大體上講得是不錯的，可算是最早用近代新觀念和新方法，來勾勒中國古代短篇小說歷史輪廓的一次嘗試。其中對一些具體作品的分析，也間有精采；即便是用作品來闡釋定義，印證界說，對於當時新小說的一般創作者和讀者，也可以從中得到啟發和幫助的。
胡適自己也嘗試著寫過一篇白話小說，叫做《一個問題》。⑦寫的是留學回國的哲學家小山，逛北京中央公園，碰到分別多年的老同學朱子平，竟幾乎認不出來了。當年很有豪氣的朱子平，如今已是拖兒帶女，境況十分潦倒。他見了小山，就說要請教「一個問題」，並敘述了自己這些年來的經歷：辛亥革命把他家在漢口的店業「光復掉了」，為了生計，只好外出謀事，到北京陳老先生家裡做家庭教師。陳先生為他作媒，娶了親，內人是女子師範學校畢業生，也教書。新婚第一年，生活得很有樂趣。可是一連生了三個孩子，因為生活困難，雇不起奶媽，第二個孩子夭折了。後來，子平丟了一處差事，收入減少；內人也失了業，處境更加艱難。子平只好晚上趕做小說，賺幾個外快錢。他一天忙到頭，就是為了自己、老婆和小孩子要吃飯。有一天，他在路上自思自想：「人生在世，究竟是為什麼的?」從此天天想這一個問題，向小山請教的也是這一個問題。最後朱子平說：
「小山，你是學哲學的人。像我這樣養老婆，喂小孩子，就算做了一世的人嗎?」
這便是小說中主人公朱子平要問的「一個問題」，也是作者想說明的「一個問題」。但作品內容比較淺薄，手法也平庸，只是「人生在世，究竟是為什麼的」這一個人生哲學問題的圖解。而且平鋪直敘了半生經歷，與他自己為短篇小說下的界說，竟是頗相徑庭了。
胡適自己常慨嘆說，他是「提倡有心，創作無力」。在短篇小說方面尤其是這樣。
①胡適譯《短篇小說》第1集《譯者自序》，載該書卷首，上海亞東圖書館1919年10月出版。
②《論譯書寄陳獨秀》，見《藏暉室札記》上海亞東圖書館1936年版，卷十二，第845頁。（三版注）
③據《最後一課》的《譯者前記》，這一篇譯於「民國元年九月」；但《藏暉室札記》卷九「五九譯都德小說」(1915年5月19日)記云：
法文豪都德(Daudet)著書甚富，為近代文學巨子之一，其著短篇小說尤動人。余前年譯其「La Derni€鑢e Classe」，易名《割地》，登上海《大共和日報》。去年8月，……譯其「LeS€鑙ge de Berlin」(《柏林之圍》)，登第4號《甲寅》。
據此，《最後一課》應該是譯於1913年，時間相差一年，志以存疑。
④《短篇小說》第1集，1919年10月初版，收胡適自1912至1919年間所譯外國短篇小說10篇，計法國都德2篇，莫泊桑3篇，英國吉百齡，俄國泰來夏甫、契訶夫，瑞典史特林堡，義大利卡德奴勿各1篇。卷末附譯者所作《論短篇小說》。1920年再版，增入蘇聯高爾基小說1篇。
⑤關於胡適譯作對文學青年的影響，可以舉最近作家中傑英先生的一篇文章為例。中傑英在《雜感與漫想》一文中，談到魯迅作品對自己的影響，也連帶談到胡適的散文和譯文，他說：
不止魯迅的作品，就便是胡適的優美散文，對學生大概也不無益處。至於課文中文天祥的《正氣歌》、古代詩詞、歷史故事《史可法》、《閻典史》、《張巡與許遠》以及《柏林之圍》、《最後一課》、《流星》和《賣火柴的女孩》等，則竟強烈而頑固地影響了我一生的思想與信念。(見北京《魯迅研究》1984年第3期)
其中《柏林之圍》、《最後一課》，最初的譯者便是胡適。中傑英的經驗，比較客觀地反映了胡適的散文和譯文對於青年的影響。
⑥胡適的這次講演，由傅斯年記出，題為《論短篇小說》，連載於《北京大學日刊》1918年3月22至27日，約三千字，甚粗略。經作者修改，擴充近一倍，載《新青年》第4卷第5號；後收入《胡適文存》卷一。
⑦載《每周評論》第32號，1919年7月27日出版；後收入《胡適文存》卷四。