「小說」一詞的內涵，經歷了漫長的歷史演變過程。從語源的角度去考察，「小說」一詞最早見於《莊子·外物》：「飾小說以干縣令，其於大達亦遠矣。」「干」是求的意思，「縣」通「懸」，是高的意思，「令」是聲譽。意謂修飾瑣屑的言辭以求取高譽，離開通曉大道的境界就太遠了。莊子所謂「小說」，與今人所謂小說相去甚遠。又有《論語·子張》中所謂「小道」，《荀子·正名》中所謂「小家珍說」，和莊子所謂「小說」，意思相似，都是泛指不合於大道的膚淺、瑣碎的言辭。至東漢，桓譚的《新論》提出：「小說家合叢殘小語，近取譬論，以作短書，治身理家，有可觀之辭。」至此，「小說」成為一種文體，擅長此體的人被稱為「小說家」。班固的《漢書·藝文志》，在「諸子略」中列10家，以小說家置末位。班固列舉了15篇「小說」的篇名並作了小注。從篇名和小注來看，班固所謂的「小說」介於子和史之間。近於子部而沒有子書深刻，近於史部而沒有史書確鑿。班固以後，「小說」被認為是一種文體的名稱，但是，它所指的範圍卻在悄悄地擴大。「小說」逐漸地成為「雜纂」的代名詞。唐人劉知幾的《史通》將「偏記小說」分為10類：偏記、小錄、逸事、瑣言、郡書、家史、別傳、雜記、地理書、都邑簿。明人胡應麟的《少室山房筆叢》將「小說」分為六類：志怪、傳奇、雜錄、聚談、辨訂、箴規。清代的《四庫全書》則將小說家歸併為雜事、異聞、瑣記三類。
宋元以後，對於「小說」一詞的理解，除了「雜纂」以外，又有了另一種並行不悖的理解。隨著宋代說話 藝術的興盛，「小說」成為說話藝術中最有影響的科目。由於這種科目最具吸引力，「小說」逐漸地被用來泛指說話藝術的各家，又進而被用來泛指產生於說話藝術的白話小說。白話小說和文言小說各有自己的歷史發展過程，但作為小說，它們在文學本質上又是一致的。古人認識不到這一點，沒有給二者以一個共同的名稱。一直到晚清，域外小說紛紛地被翻譯而湧入古老的中國，康有為、梁啟超等政治家思想家都撰有小說專論，他們所謂的「小說」已經是明確的文學概念。經過域外境內小說的雙向推動，終於形成了現代的小說觀念。
中國的詩歌發達得比較早。《詩經》和《楚辭》的成就已經讓後人讚嘆不已，唐代的詩歌更是令人有琳琅滿目、美不勝收之感。可是，中國的小說卻步伐蹣跚，直至明清時期，才迎來萬紫千紅的春天。唐人的小說(傳奇)已有可觀的成績，可是，它畢竟只是小說的一個分支——文言短篇小說。詩歌的早熟使它未能更多地受到其他藝術的影響，從而養成了相當單純的抒情性格。小說的大器晚成使它得以從容地從詩歌、散文、戲曲中擷取營養，滋補自己的肌體，從而造成了遠比詩歌複雜的秉性。古代小說的鼎盛時代是如此地姍姍來遲，可是，它的源頭卻必須一直追溯到遙遠渺茫的上古時代。