「叢」字有總、聚、眾的意思，把很多種書籍彙集在一起刊行，總冠以一個名稱的一套書，就是叢書。因為叢書是把許多單獨的著作編輯起來而匯刻成一大部書的，所以又叫「匯刻書」。編刻者都把自己認為重要的或難得的許多書籍(少則數種，多則幾百、幾千種)集合起來，給一個總名，刻印傳世。這類書籍的特點是所謂「各存原本」，就是收集在裡面的書都能保存原本面目。它就像許多樹木合成叢林，而樹木又是獨立存在的。當然，叢書中彙集的書籍並不一定都是首尾完整的，有些也是刪節選錄的，但都各自獨立。
「叢書」兩字連用，最早見於唐代韓愈的《剝啄行》一詩：「門以兩版，叢書其間」。但這不是書名，而是說關上門，家中聚集著許多書可讀的意思。作為書名，是從唐代陸龜蒙的《笠澤叢書》開始的；但這部書只是他個人的小品雜文。另外宋代王楙〔mao茂〕有《野客叢書》，是經籍考證的文章。以上兩部書雖然題名叢書，實際上並非是我們所說的叢書。然而有的書未標叢書之名，卻有叢書之實；如《儒學警悟》。到了明代，程榮編輯了漢魏六朝諸家著述，彙集為《漢魏叢書》，才算是有了名實兼備的叢書。
叢書還有許多別的名稱：叢刻、叢刊、叢鈔、匯刻、彙刊、匯鈔、彙編、全書、遺集、合集等等，名雖不同，但實際都是叢書。