冷兵器就是直接用來斬擊和刺殺的武器。它的戰鬥作用，是在人力和簡單機械力作用下發揮出來的，同利用火藥的化學能產生燃爆作用並能發出光和熱的火器不同，因此人們就稱它們為冷兵器。像矛、戟、劍等。冷兵器最初是用石質材料製成的，後來又用青銅和鋼鐵材料進行製作。由此可見，石制兵器是冷兵器的始祖。
大約在六七千年以前，活動在黃河流域的一些氏族部落，開始進入新石器時代的中期，石斧、石刀、石鋤、石錛、石鐮、石鏃、骨耜〔si四〕(古代耕田用的農具)、穿孔斧和多孔石斧等工具，已被較多地製作和使用，因而生產能力得到了提高。同時，由於生活條件的改善，使定居生活成為可能，一些利益相同的氏族成員往往聚居於一處，形成了相對的聚落。於是最初的部落和部落聯盟開始形成。這種社會組織形式，已與舊石器時代和新石器時代早期的社會組織形式不同。那時由於生產工具簡陋原始，生產力低下，人類必須集體群居，共同勞動，公平分配，沒有剝削，沒有利害衝突。人們在生產中使用的漁獵農具，雖有時也用作防身武器，但主要是對付野獸的傷害，而不是對付他人的侵襲。此時各部落聯盟之間，在平時相隔一個中間地帶，因而一般能相安而處。然而隨著人口的發展和生產的需要，有時也會因為爭奪水源、草地和婚姻掠奪等糾紛，引起武力衝突。在武力衝突中，他們就拿起石斧、石刀、石鐮等工具進行廝殺。於是過去單純用於生產勞動和防備野獸傷害的工具，便被當作廝殺的工具使用了。
到5000多年前的新石器時代晚期，有些氏族部落開始從母系氏族社會向父系氏族社會過渡，社會的生產有了一定的發展，私人佔有財產的現象逐漸產生，部落之間的武力衝突已經帶有掠奪財富的性質。隨著武力衝突規模的擴大，就發展成部落之間的戰爭。在這些戰爭中，單純地利用帶有鋒刃的生產工具，已經不能滿足作戰的需要，於是就出現了由少數人製作的和生產工具不同的武器。這些武器，都是當時的人們用石、骨、竹、木等材料，仿照動物的角、爪、喙〔hui匯〕(鳥的嘴)的形狀製成的，比天然或簡單加工刮削而成的刀器和生產工具的殺傷力要大得多。
關於原始社會晚期進行的部落戰爭和戰爭中使用的武器，雖然在史書中缺乏準確的記載，但是在古代的神話傳說和有關的典籍中，也留下了一些可供探尋的線索。其中提到最多的是黃帝與蚩〔chi吃〕尤的涿鹿(一說在河北涿鹿縣南，一說在河北涿縣，一說在河北巨鹿縣)之戰。據說北方以炎帝為首的炎帝族部落，同南方以蚩尤為首的九黎族部落，為了爭奪黃河流域中的一塊肥沃平原，在涿鹿一帶發生大戰。戰爭初期，炎帝族部落戰敗，請求黃帝族部落助戰，結果蚩尤戰敗被殺，其族人或被殺，或被擄，或被融合。後來炎黃兩族之間又因利害衝突而在阪〔ban板〕泉(今河北懷來縣)進行三次大戰。此後還有堯、舜、禹同三苗之間的部落戰爭。
據說在這些戰爭中，各方都曾創製過一些專用於作戰的武器。例如《世本·作篇》說：黃帝的大臣「揮」和「夷牟」，分別製造了弓和矢。《管子·地數篇》則把創造矛、戟、芮〔rui瑞〕戈(一種短戈)的功勞，歸到蚩尤的名下。《河龍魚圖》說蚩尤「造五兵……威振天下」。《呂氏春秋·孟秋紀》認為，「未有蚩尤之時，民固剝林木以戰」，以此說明在蚩尤之前，尚未製造專用的兵器。《易·繫辭下》說，上古之人「弦木為弧，剡〔shan善〕木為矢，弧矢之利，以威天下」。《越絕書·記寶劍》還提到神農氏、赫胥氏「以石為兵」，黃帝「以玉為兵」之事，把神農氏、赫胥氏和黃帝，當作石制兵器和玉(指精緻之石)制兵器的創始人。這些傳說和記載雖然帶有神話色彩，但是確也近似地反映了石制兵器初創時期的概況。多年來，文物考古部門經過對大量出土石制兵器的分析鑒定，認為它們的製作年代，同上述典籍中的片斷記載，大抵是吻合的。同時，文物考古部門還在一些地方發現了新石器時代晚期的採石場遺址，這些採石場的規模較大，遺存的石制鋒刃器和工具，說明當時已經掌握了較高的打擊、截斷、切割、砥〔di抵〕磨、雕琢、作孔等石器製作技術，而這些技術又是製作石兵器的重要條件。
公元前21世紀，夏王朝建立，中國開始進入第一個階級社會——奴隸社會。奴隸主們為建立和鞏固自己的統治，強迫大批奴隸為他們構築城郭和都邑，建立軍隊，製造兵器，用於戰爭。至此，專為戰爭使用的工具——兵器，便與生產工具分離而獨立存在。它的屬性，也從生產工具和防身武器的結合體，演變為在戰爭中直接用於殺傷敵人的有生力量、破壞敵人作戰設施的兵器。它們的構造也脫出了對動物角、爪、喙的簡單仿製，而引伸突出了殺傷部位和構件，加強了毀殺作用，擴大了用途，以適應作戰的特殊需要。於是，專業的兵器製造作坊出現了，它們開始為統一編製的國家軍隊成批製造規格統一的兵器，滿足作戰和訓練的需要。
作為起源兵器的石兵器，經歷了漫長的年代，它是原始社會晚期和夏代軍隊使用的主要兵器，到商、周兩代，仍然與青銅兵器混雜使用。石器時代製造的兵器雖然以石材為主要原料，但是也大量利用動物的骨、角和木、竹等作為兵器的製作材料。為了研究的方便，學者們通常都把它們列入以石制兵器為代表的系統之中。
兵器一旦同生產工具分離而獨立存在，就隨著社會生產的發展而發展，適應戰爭的需求而提高。在原始社會晚期和夏代的長期使用過程中，已經初步形成了攻擊性兵器的幾種主要類型。它們有：
長柄格鬥兵器：棍棒、錘、矛、戈、斧、鉞〔yue閱〕等，分別具有擊打、錘砸、扎刺、劈砍、勾啄等作用。
短柄衛體兵器：匕首和手執的短柄矛等。
射遠兵器：弓箭和用飛石索投擲的石球。
隨著新型材料的不斷出現，上述各類兵器的構造和質量，便日益得到改進和提高。
當人們掌握了銅的冶煉技術以後，用銅製作兵器的條件便告成熟。據考古發掘的資料可知，我們的祖先在新石器時代晚期，已經掌握了天然銅的冶煉技術及其器具的製造、使用方法。隨後又進一步掌握了銅和錫合煉而成的青銅冶煉技術，於是以青銅為製作材料的第一代金屬兵器便登上了戰爭的歷史舞台，使中國古代兵器從它的起源時代的石兵器，進入了青銅時代的青銅兵器。
從甘肅馬家窯文化遺址出土的一把用兩塊閉合范澆鑄而成的錫青銅小刀，可知我們的祖先已經在5000年前，就開始使用青銅器具了。這把錫青銅小刀的含錫量已達6%—10%。稍後的甘肅青泉火燒溝文化遺址，出土的一塊用泥質砂岩製成的鑄鏃石范，說明當時青銅兵器的鑄造技術，已經達到了一定的水平，為青銅兵器的大量製造和使用奠定了基礎。夏代末期，青銅兵器便裝備軍隊作戰，所以古代文獻說夏代「以銅作兵」是可信的。
商代是我國奴隸制國家日益鞏固和發展的朝代，為了鎮壓奴隸的反抗，統治者進一步強化了國家機器，建立了規模更大的軍隊，需要更多的兵器，從而促進了兵器製造業的發展。商代中期都城遺址「鄭州商城」的城北紫荊山遺址，曾經出土過各種兵器鑄范，其中有鑄造青銅刀、斧、鏃的單合范、雙合范和填芯。這些遺物說明，自商代早期開始，在都城周圍已經設有規模較大的青銅兵器冶鑄作坊，為商軍鑄造數量較多的兵器。這些兵器鑄造場，已經具有較高的兵器製造技術。其中最明顯的是青銅冶煉工藝的進步。當時已經由礦石混合冶煉鑄造的初級階段，發展到由純銅與錫或鉛來冶鑄的高級階段。為製造精良的兵器奠定了基礎。出土的實物證明，商代製造的青銅兵器，已經由小型的刀鑿，發展為格鬥用的長柄戈、矛和戰斧，射遠的弓箭，衛體的短柄刀劍，以及防護裝具青銅胄、皮甲、盾等。其中商代前期以製造適應徒兵作戰需要的戈和盾為主，後期因戰車的興起，所以以製造適應車戰需要的戈、矛、戟和弓箭為主。據《周禮·夏官·司兵》說，當時一輛戰車一般裝備戈、戟、矛、夷矛和弓箭等五件兵器，合稱「車之五兵」。在出土的戰車中，也經常發現這些兵器。
商代晚期至西周早期(公元前13——前10世紀)，是青銅兵器發展的鼎盛時期。在殷墟、台西、婦好墓、周原、豐鎬〔hao號〕等遺址的墓葬和窖藏中，都曾發現過青銅格鬥兵器刀、矛、戈、戟、斧、鉞，以及防護裝具甲胄等。這一時期的青銅兵器，在形制構造上已從單一到多樣，如戈有直內無胡戈、直內短胡戈、短胡一穿戈、短胡二穿戈等。在合金配比上也有較大的改進，殷墟早期多為鉛錫青銅兵器，後期多為錫青銅兵器。婦好墓出土的12件青銅兵器，含錫量已在8%—19%之間，是兵器製作技術和殺傷力提高的一個重要表現。在製作工藝上也有較大的進步，如河北省藁城市出土的一件商代鐵刃銅鉞，經過鑒定，其直刃部分系用隕鐵鍛成，厚約2毫米，