中國傳統火藥的基本成分是硝石、硫磺和木炭。硫磺也可以用雄黃代替，木炭也可以用油脂、瀝青代替。而火藥的發明，關鍵是在對硝石(又名焰硝)的識別、性能的了解以及其加工、提純工藝的進步。
我國利用硝石是很早的，初時寫作「消石」，在戰國時已用做醫藥。其化學組成是硝酸鉀。自然界中的硝石往往是土壤中含氮有機物質在細菌作用下分解、氧化成硝酸後與土壤中的鉀素化合而成的。所以每當秋高氣爽的季節，它通常呈皮殼狀或鹽花狀析出來，覆蓋在地面、牆腳，這就是所謂的地霜。特別是在豬圈、馬廄、廁所附近的牆角尤多。硝民掃取這種含硝的土塊，置於桶內，加水浸泡。經過濾後，將濾液熬煮或晒乾，就得到硝石結晶。此外，在某些岩石表面、洞穴或鹽沼地帶偶爾也會找到它。東漢時成書的《神農本草經》上所記載的、「能化七十二種石」的「朴消」，根據它的「化石」性質，大概就是硝石。
中國煉丹術興起以後，方士很重視硝石，不斷摸索它的性質，說它是「感海鹵之氣所生，乃天地至神之物，……能使七十二石化而為水，柔潤五金，制煉八石，雖大丹亦不舍此」。在東漢問世的中國早期丹經《三十六水法》中，硝石就是主角。
但是在自然界中又相當廣泛地存在一種叫做「芒硝」的物質，化學組成是NaSO·10HO，在鹽湖周圍會大量析出；或以鈣芒硝、白鈉鎂鹽(即硝板)形式存在；也常從鹽鹼地上離析出來，外貌和硝石頗相似。而兩者在我國傳統的醫藥中，醫療功能也幾乎完全相同。所以古人，特別是從先秦到南北朝時期，往往把它們混淆，古書上的記載當然也就相當混亂，什麼是真硝石？長時期中眾說紛紜。所以要對硝石廣泛採集、充分利用並準確地掌握它的化學特性，就得摸索到一些區分它們的方法。在南北朝時，陶弘景提出了一種鑒定硝石的方法，相當科學，他說：「以火燒之，紫青煙起，雲是真硝石也。今宕昌(在今甘肅)以北諸山有鹹土處皆有之。」就是說，把真硝石放在火焰上一燒，它會使火焰呈紫色，與芒硝不同。我們知道，硫酸鈉則會把火焰染成黃色。這就是近代的焰色檢定法，我國古代的方士早在1500年前就已經利用過了。但是真的運用這種方法時，又往往會遇到困難。因為在天然的硝石中總會含有一些芒硝和鹽分，而鈉所產生的黃色火焰，其亮度遠遠超過鉀的紫色火焰，因此少量鈉雜質的存在，這種靠焰色鑒定的方法就大失效力了。及至唐代，煉丹家們發明了高效的「磺硝法」來製造鉛丹。其工藝過程是先利用熔化的鉛與硫磺相反應，使生成硫化鉛，然後加硝石一起炒，很快就會生成赤紅色的鉛丹，而芒硝絕無這種功能，因此這倒不失為一種鑒定硝石的科學方法。但在唐代時，煉丹家則更普遍地知道了利用硝石的助燃性可以鑒別它：把一小塊待檢驗的硝石投到赤熱的炭上，就會猛烈燃燒起來；而芒硝投火中，則先化成「水」，水蒸發盡後，變成白色似枯礬的粉末，與硝石迥然不同。因此，唐代的煉丹家對硝石性質的認識和多方利用就大步前進了，他們在這時期發明了火藥也就不是偶然的了。
硫磺的研究和利用較硝石要晚些，可能是由於中原一帶缺少天然的硫磺。《神農本草經》記載了它，說它「能化金、銀、銅、鐵奇物」，表明漢代時已了解到硫磺能化蝕各種金屬。漢初時大約主要從西域火山區得到硫磺。據記載，當時悅般地區(今新疆庫車一帶)有火山，「山旁石皆焦熔，流地數十里乃凝堅，即石硫磺也」。不過在漢代時，中原一帶也已經開始從黑色含煤黃鐵礦(當時叫涅石，因是燒制綠礬的原料，所以也叫礬石)提取硫磺了。那是一種製造綠礬的工藝：在土坯砌成的窯中，把礦石和煤炭壘疊起來，點火焙燒，便發生如下反應：
FeS+2O＝FeSO+S↑
硫磺便從窯的頂部冷凝下來(圖3-10)。所以東漢時硫磺又有「礬石液」的別名。硫磺由於可猛烈燃燒，因此被煉丹家們視為火石的精氣；又稱它為「將軍」、「金賊」，大概正是因它能化蝕各種金屬。從中國煉丹術肇興之際，它就是一個重要角色。
中國煉丹術自始至終主要是採用火煉的方法，而硝石、硫磺又都是最常用的藥劑，而且一個是「陰君」(硝石)，一個是「陽侯」(硫磺)，所以它們在丹鼎中相遭遇，一起被加熱的機會是非常多的，若煉丹家又發奇想，再摻入些草藥、油脂、蜂蜜之類的東西，就構成了一個原始的火藥配方，就難免發生「炸鼎」的災難事故。唐代時一個託名鄭思遠的方士寫了一本評論煉丹術的書，書名叫《真元妙道要略》，曾說：「有以硫磺、雄黃合硝石並蜜燒之，焰起燒手面及燼屋舍者。」並提出警告：「硝石不可合三黃(硫磺、雄黃和雌黃)等燒，〔否則〕立見禍事。」指的就是這種情況。在葛洪的《抱朴子·內篇·仙藥》中收錄了一個「服雄黃法」，就是把雄黃、硝石用豬大腸攪拌了，放在坩堝中加蓋火煉。在這種情況下，如果硝石的比例較大，就會發生爆炸。當然，在這些「禍事」不斷發生的同時，方士們也在總結經驗和教訓，他們一方面想方設法避免這種「禍事」發生，於是總結了許多預先使硝石、硫磺「變性」的措施、手段，即各種各樣的「伏硫磺法」和「伏硝石法」，把它們轉變為其他物質，以制伏它們的「暴烈性格」；另一方面也在考慮和試驗，怎樣的配方可以發生最猛烈的爆炸和燃燒，尤其是那些身兼「軍師」的方士對此更感興趣，他們相信這將大大加強火攻的威力。這就引導著他們走向火藥的發明和火器的研製。
在唐代的煉丹術著作中已經出現了不少的「伏硫磺」和「伏硝石」的方法。但什麼時候術士們發明了火藥，至今還沒能準確地考證出來，眾說紛紜，分歧很大，多數人傾向於在中唐。他們有這樣一些根據：其時煉丹術著作中的一些伏火方，實質上是些原始火藥方，而且已知會發生爆炸，所以採取了周密的防範措施，這是其一；唐德宗時，藩鎮割據，李希烈佔據汴梁(今開封)稱帝，劉洽去討伐，攻入宋州(今商丘)，李希烈部下用方士的計策火攻，燒了劉洽的戰棚和城上的防禦工事，可能用的是裝了火藥的火箭，這是其二；據路振《九國志》記載：唐哀宗天祐初年(公元904—905年)鄭璠攻打豫章(今南昌)的叛軍時曾以「發機飛火」燒了龍沙門，那種「飛火」大概就是填充了火藥的燃燒物，這是其三。但即使在宋代初年時，火藥還仍處於初期階段，只為少數人所掌握，火箭、火球、火蒺藜還都是很令人驚異的新式武器。不過也看得出來，那時正在加緊研製。及至宋仁宗康定元年(公元1040年)，曾公亮、丁度奉詔，撰寫了一部綜合性兵書《武經總要》(成書於公元1044年)，其中正式記載了三個火藥方(圖3-11)，一種是毒藥煙球火藥，是燃燒溫度比較低，燃燒時冒濃煙毒氣(其中摻入了草烏頭、巴豆、狼毒等劇毒植物葯及砒霜)的火藥，用於殺傷敵人；一種是火炮火藥，燃燒猛烈，用於焚燒敵人的輜重、糧草；一種是蒺藜火球火藥，爆炸力較強，火藥包爆炸時播散出大量鐵蒺藜，可以阻擋敵軍騎兵前進。
宋神宗熙寧年間(公元1068—1077年)改革了軍制，設置了軍器監，總管京師各州的軍器製作，規模宏大，分工很細，其中有「廣備攻城作」，即國防工場，其中就有專門研製火藥的作坊。從此火藥的進步很快，到了北宋末年，便已有「霹靂炮」、「震天雷」等爆炸性很強的武器，表明那時對於提純焰硝已經很有經驗。據北宋抗金將領李綱的自述，靖康元年(公元1126年)他曾用霹靂炮擊退金兵對汴梁的圍攻。其時的炮彈已是以鐵作外殼，威力極大。據《金史》描述，這種火炮「火藥發作，聲如雷震，熱力達半畝以上，人與牛皮皆碎迸無跡，甲鐵皆透」(圖3-12)。
中國的火藥在兩宋、金、元各代，由於軍事上的需要，都有很大的改進。13到14世紀時，隨著中國與西亞的貿易往來，特別是蒙古人兩次大規模的向西侵略，把火藥技術和火器先傳到阿拉伯，以後又傳到歐洲各國。
火藥發明之後，設計師和匠師們就要不斷改進它，設法增強它的威力。除了火藥配方的調整外，更關鍵的是提高硝石、硫磺的純度。因此在元明之際，火藥作坊對硝土和硫磺的提純工藝著實下過一番功夫。關於硝石的提純，直到宋代仍無很大改進，只是簡單的煎淋一蒸發濃縮一重結晶。及至元代，名醫朱震亨在其《丹溪心法》中提及利用蘿蔔來提純芒硝，即用芒硝溶液與蘿蔔片同煮，然後過濾、重結晶。在這個過程中，藉蘿蔔的吸附作用清除了芒硝中的硫酸鎂和一些鹽分，使芒硝由「咸苦」變「甜」。及至明代，這種方法被推廣用到硝石的提純上，因為MgSO·7HO具有強烈的潮解性，用含這種雜質的硝石製造出來的火藥，勢必很易受潮而失效。在明代初年的一部火藥與火攻術的專著《火龍經》中及萬曆二十六年(公元1598年)趙士楨撰著的《神器譜》中就都記載了這種提硝法。並且還提到，在溶解硝石後