魏晉南北朝是中國歷史上政局變動較大的時期。政權更迭頻繁，社會秩序混亂，在一定程度上影響了經濟與文化的發展。但是，由於當時中西交通的發展，各個民族頻繁地接觸，加之佛教的興盛，又推動了文化的進步。與此相應，便於書寫的楷體逐漸取代了隸書，紙張作為書寫材料也普遍起來。所有這些，都使藏書有了較快的發展。
東漢末，董卓進軍洛陽，廢少帝劉辯，立劉協為獻帝。初平元年(公元190年)董卓又逼獻帝遷都長安，皇家藏書要跟著搬運。因時局混亂，辟雍、東觀、蘭台、石室、宣明、鴻都所藏之書，散失很多。許多用縑帛寫的書卷被軍人用做車帷和口袋。餘下來運往長安的圖書簡帛不過只有70餘車。僅有的這些圖書，在途中又丟失與損壞過半。運抵長安後不久，又遇戰亂，使殘存的皇家藏書喪失殆盡。
魏王曹操雄才大略，十分重視圖書的收藏，他在征戰中就注意收集圖書。建安三年(公元198年)曹軍戰敗呂布，眾官收集戰利品，「唯袁渙取書數百卷」敬獻曹操，深得曹操讚賞。建安五年(公元200年)官渡之戰曹操打敗袁紹，把袁紹的全部圖書收歸己有。曹操統一黃河中下游以後，御史大夫袁渙建議曹操收集天下圖書。他「以為可大收篇籍，明先聖之教，以易民視聽，使海內裴然向風，則遠人不服可以文德來之」(《三國志·魏書·袁渙傳》)。《後漢書·董祀妻傳》記載曹操詢問蔡文姬過去家藏圖書的情況，並準備派10名文吏幫助記錄與整理。蔡文姬說，其父蔡邕有書4000多卷，她能誦憶的400餘篇；並自己動手「繕書送之，文無遺誤」。可見曹操是十分重視圖書的收集工作的。
咸熙二年(公元265年)，司馬炎建立了晉王朝，史稱西晉。西晉直接繼承r魏的藏書，並注意收集天下圖書。咸寧六年(公元280年)，晉滅吳時，王濬進建業(今南京)時，首先「收其圖籍，封其府庫」，運往洛陽。西晉除將原來魏、蜀、吳三國圖書集中外，也獲得各地不少獻書，涼州刺史張定〔shi 時〕就送不少經史圖籍至洛陽。據《隋書·經籍志》記載，西晉國家藏書分成四部：甲部為經部；乙部為諸子；丙部為史書；丁部為詩文集，共有29945卷。
西晉後期，社會動蕩，諸王相互殘殺，文化遭到摧殘。圖書的損失比東漢末年還甚。公元317年，司馬睿〔rui 銳〕建立東晉，設都於建康。他雖然注意收集散失的圖書，但效果不大。東晉初，藏書只有3014卷，僅為西晉藏書的1/9。
魏晉時國家藏書，私人可以借閱，這與兩漢時期嚴格控制閱讀的情形，有了很大的不同。《晉書·皇甫謐〔mi密〕傳》記載，西晉皇甫謐「耽玩典籍，忘寢與食，時人謂之『書淫』」。有人說他這樣會損害身體，他說「朝聞道，夕死可矣！」他曾上表給晉武帝，要求借書。武帝送了一車書給他，他雖卧病，依然披閱不怠。
魏晉的圖書管理機構，大體是繼承了東漢的管理體制。曹操建秘書、中、外三閣為國家藏書處。設立了主管圖書的官員秘書令(監)，下設秘書丞、秘書郎、校書郎等官職。擔任過這些職務的有鄭默、王象、薛夏、王肅等人。吳國孫權也努力搜集圖書，建立了圖書管理機構——東觀。蜀國還任重臣郤〔xi細〕正為秘書郎，吳國任華覈〔he核〕為東觀令。
晉襲魏制，國家藏書處有秘閣、蘭台、崇文院，後又建石渠閣。晉惠帝司馬衷恢複了秘書監，下設秘書丞、秘書郎、著作郎、佐著作郎等。當時圖書分為經、子、史、集四部，晉武帝時為此設秘書郎四人各管一部。西晉的荀勖〔xu序〕、東晉的李充都擔任過秘書監。
南朝(公元420—589年)包括宋、齊、梁、陳。與戰亂不已的北方相比，南朝相對安定，也較重視文事。一方面，北方人口大量南遷，隨之將圖書南移；另一方面，南朝統治者也注意收集圖書，使圖籍增加較快。
宋武帝劉裕在任東晉大將軍時就注意收集圖書。元熙二年(公元420年)劉裕稱帝，接管了東晉全部藏書。據王儉編製的目錄，宋的藏書在元徽元年(公元473年)為15704卷。南齊時，在齊武帝蕭賾〔ze責〕永明年間(公元483—493年)，圖書增加到了18010卷。梁武帝蕭衍即位不久，下詔向民間收書，使國家藏書迅速增加，僅宮內文德殿就藏圖書23106卷之多。梁武帝之子元帝蕭繹〔yi 義〕酷愛書籍，多次收、抄、買書，遂使秘府藏書達10萬多卷，為梁朝藏書之冠。
梁朝圖書曾遭兩次焚毀。中大同二年(公元547年)，梁武帝慰問東魏降將侯景部隊時失火，使建康城內「東宮圖籍數百櫥，焚之皆盡」。在此之後的第二年，侯景舉兵攻佔建康，逼死梁武帝。梁武帝的兒子湘東王梁繹平定了侯景之亂，在江陵(今湖北江陵)稱帝，為梁元帝。元帝收羅文德殿及建康各處藏書，共有七萬多卷，移至江陵。又從私人藏書者徵購與繕抄所缺圖書，使梁朝圖籍得以恢複。承聖三年十一月末(公元555年1月)，北朝西魏軍攻佔江陵。梁元帝投降被殺。在投降前，他感到「讀書萬卷，猶有今日」，在悲鬱中下令侍從高善寶把梁朝所聚古今圖書14萬卷付之一炬。這是中國藏書史上的又一次巨大損失！
南朝宋、齊、梁、陳四朝都設有秘閣典藏圖書。梁朝由於圖書較多，便採取分類收藏，佛教經籍收藏在華林園；經、史雜書放在秘閣；其他則藏在文德殿中。梁朝已注意到複本書的問題，他們將複本書藏在其他地方。
南朝圖書管理機構基本上由秘書省主持管理，設秘書監，下設秘書丞、秘書郎、著作郎等官職。這個時期門閥制度極為盛行，士族子弟多慕高官清職，所以秘書省的這些官職多為他們所擔任。如謝靈運(公元385—433年)、王儉(公元452—489年)、任昉(公元460—508年)曾經分別任宋、齊、梁各朝主管圖書的官員。
在北方，至北魏統一之前，為十六國割據時期。由於連年戰爭，藏書事業根本提不到日程上。個別統治者雖想收集圖書，但因時局混亂，收效甚微。魏太武帝拓跋燾於太延五年(公元439年)統一北方。在北魏之後，北方相繼出現東魏、西魏、北齊、北周，連同北魏，共為五個朝代，是謂北朝。由於北魏注意吸收漢文化，道武帝、獻文帝和孝文帝相繼三次發起訪書、征書活動。特別是魏孝文帝遷都洛陽，實行改革，推行漢化。於太和十九年(公元495年)下令「求天下遺書，秘書所無，有裨益時用者，加以優償」(《魏書·孝文帝紀》)。為了準確地搞清北魏缺書情況，他派人編製了一部《魏闕書目錄》，按籍索書，併到南朝的齊朝借書令人繕抄，使秘府圖書逐漸充實。北魏末年，爾朱榮叛亂，國家藏書又大批散失。之後國家分裂為東魏與西魏，接著東、西兩魏為北齊和北周所取代，北齊國家藏書不過萬卷，北周僅有5000卷而已。
在魏晉南北朝的300多年裡，國家分裂動蕩，戰亂不已，王朝更迭頻繁。政局稍一穩定，國家便徵集圖書；一有戰亂，圖書就遭受損失。因此，這一時期國家藏書形成旋聚旋失的局面。
由於紙張的出現，書籍便於繕寫與保存，所以私家藏書見於記載的比兩漢為多。三國時期曹魏時哲學家王弼(公元226—249年)藏書多達萬卷，並著有《老子注》、《周易注》等書，為魏晉玄學的開創人物。建安七子之一的王粲(公元177—217年)是一位著名藏書家，曾經得到蔡邕數千卷的贈書。蜀國最著名的藏書家是向朗，他「潛心典籍，孜孜不倦。年逾八十，猶手自校書，刊定謬誤，積聚篇卷，於時最多。開門接賓，誘納後進」《三國志·蜀書·向朗傳》。西晉最為著名的藏書家是張華(公元232—300年)，《晉書·張華傳》說他在搬家時「載書三十乘」。並說他「雅愛書籍，身死之日家無餘財，唯有文史溢於幾篋」。在張華的藏書中，有不少「天下奇秘、世所希有者」，以致秘書監選定國家藏書時不得不靠張華藏書的一些版本來校正。另外，《晉書·范平傳》載，西晉的范蔚有書7000餘卷，常有遠近百餘名讀者前來他家看書，范蔚非常熱情好客，還為他們準備飯食。南朝的國家藏書因政局動蕩，損失很大，但私人藏書卻受影響較少，以致出現了一些藏書達萬卷的藏書家。如梁武帝蕭衍的女婿張纘聚書數萬卷，恐怕是當時最大的藏書家了。陸澄藏書也很多，《南史·張率傳》記載「澄有書萬餘卷」，張率與其子陸少玄友善，常去陸家去閱讀其書。《南史·陸澄傳》說時人開玩笑稱陸澄為「書櫥」。他家多藏世之佚書，為人所罕見。另一著名藏書家為南齊的崔慰祖，在《南史·崔慰祖傳》中記載他「好學，聚書至萬卷，鄰里年少好事者來假借，日數十，親自取與，未嘗為辭。」此外，王僧孺、張緬、沈約、任昉也都是當時有較多藏書的藏書家。
北朝的私人藏書比南朝少，範圍也有限。顏之推、辛術、司馬子端、李謐等都有較多的藏書。辛術不但僱人抄