顏杲卿被殺後，史思明、蔡希德等叛將又陸續攻下了響應顏杲卿的各郡縣，河北形勢再次面臨危急。玄宗一面令顏真卿率部堅守平原，一面調朔方節度使郭子儀向洛陽進軍。郭子儀一路攻下了雲中、馬邑，打開了井陘關，矛頭直指洛陽。
安祿山起兵後，前鋒部隊直指藁（音gao，同搞）城。擔任常山太守的顏杲卿見叛軍來勢兇猛，倉促之下無以防備，只得與長史袁履縑開城詐降。安祿山自以為顏杲卿有知遇之恩，倒也沒有起疑，當眾贈給顏杲卿、袁履謙每人一件錦袍，命繼任原職，多徵集糧草、招募兵丁，以備調用。還派叛將高邈、李欽湊領兵5000駐守井陘關（今河北井陘），一是把住西進要道，二來還可以監視顏杲卿行動。儘管如此，安祿山心中仍然有些不放心，便將顏杲卿的兒子、侄兒帶到自己軍中做人質。
顏杲卿表面上接受安祿山的命令，暗中卻厲兵秣馬。這裡面還有個小故事，顏杲卿知道反擊叛軍光自己一人不行，就請長史袁履謙吃飯，席間試探問道：「安祿山為何給你我贈袍？」袁履謙答：「拉攏你我為其效命。」顏杲卿進而問道：「當如何對待？」袁履謙心有成竹地說：「穿他的袍，走我們的路。」顏杲卿高興地說：「正合我意。」於是二人聯合起來，修城浚渠，招丁壯，實倉廩，矢志討賊。顏杲卿還派人去告知堂弟平原（治今山東平原北）太守顏真卿，約定聯合起兵，互相響應，「約與連兵斷祿山歸路，以緩其西入之謀」（《資治通鑒·卷二百一十七》）。
顏杲卿死時65歲。他從起兵到失敗，雖然時間很短，但是他的抵抗延緩了叛軍對長安的進攻，為唐王朝調兵遣將爭取了時間。尤其他誓死抵抗的精神，鼓舞了更多的人抗擊叛軍。
顏杲卿早已經派兒子顏泉明到太原王承業處求救兵，約定在常山城下夾擊叛軍。誰知王承業不顧國家安危，只想保存實力，拒不出兵。顏杲卿只好派次子顏季明到平原求救，因有叛軍圍困，救兵又遲遲未到。常山成了無援的孤城。叛軍援兵到後，便日夜攻城不止。顏杲卿和袁履謙等愛國將領和守城軍民一起日夜奮戰，打退叛軍數次進攻，城下叛軍屍體累累，守城軍民也傷亡慘重，直戰到箭矢用盡，刀刃卷缺，戰況極為慘烈。正月初九，在外無救兵的情況下，常山城破。顏杲卿、袁履謙等被俘。叛軍進城肆意殺戮，屍橫塞路，血流滿地。
安祿山渡過黃河、攻下洛陽之後，顏真卿召募勇士，幾天就招募到1萬多人馬，便公開宣布舉兵討伐安祿山，士卒皆感憤異常。此時。剛好安祿山部將段子光奉命帶著唐朝忠臣李澄、盧奕、蔣清的人頭，傳示河北，令郡縣速納糧款。傳到平原郡時，顏真卿下令將段子光綁在城頭，腰斬示眾。又將李澄、盧奕、蔣清三人的首級續以蒲身，用棺材收殮埋葬。全城軍民哭祭弔唁，忠義傳及四鄰。
顏真卿是已淪為叛軍之手中原地區向第一個公然反抗叛軍的人，按現在的說法，就是打響了抗賊的第一槍。之後，饒陽（今河北饒陽）太守盧全誠據城抵抗安祿山，河間（今河北河間）司法李奐殺安祿山所任命長史王懷忠，濟南太守李隨派其游弈將訾嗣賢過黃河殺安祿山所任命的博平（今山東聊城）太守馬冀，幾方各有軍眾數千或萬人，共推顏真卿為盟主，軍事上由其統一指揮，共同抗擊叛軍。顏真卿立即派人跟顏杲卿聯絡，讓堂兄儘快攻佔要塞井陘關，以截斷安祿山的後路。
顏真卿還暗中派親信平原司兵李平持著安祿山所發的偽檄趕赴長安，上報玄宗。玄宗正為河北二十四郡縣盡歸附安祿山而發愁，還長嘆道：「難道二十四郡就沒有一位義士嗎？」等到李平至朝廷，非常高興地說：「朕還未見過顏真卿是什麼模樣的人哩，他卻能如此為國效忠，難得！」於是賞賜李平，讓他歸報顏真卿：「討賊立功，定當重賞！」
顏杲卿預料安祿山大軍即到，便叫夫人和兒子出城躲避，誰知夫人堅持要和他守城殺敵。太守府上下人等見太守和夫人一心為國為民，都表示願隨太守抗擊叛亂，與常山共存亡。城中百姓聽說後也紛紛要求守城。眾人的熱情，鼓舞了顏杲卿等人的鬥志，更加堅定了抗擊叛亂的決心。
德宗建中三年底（783年），淮西節度使李希烈起兵反唐。當時宰相盧杞嫉恨顏真卿，向德宗建議派顏真卿去安撫李希烈，目的是要借刀殺人。這時顏真卿已經70多歲，年老體衰。同僚勸他向皇帝辭職不去，但他毅然領命前往。顏真卿到達淮南汝州（今河南臨汝）後，對李希烈曉以大義，勸其息兵罷戰，讓人民免受戰禍之苦。李希烈不聽勸告，反而要挾顏真卿協助他反唐。建中四年（784年）十二月，李希烈攻陷汴州後稱王，有叛將提議要顏真卿任李希烈的宰相，顏真卿厲色說道：「爾等可知顏杲卿否，是吾兄也。安祿山反，首舉義兵，及被害，詬罵不絕於口。吾今年向八十，官至太師，守吾兄之節，死而後已，豈受汝輩誘脅耶！」叛將不敢再勸降。李希烈便把顏真卿拘押起來，還在他住的院子中挖了一個大坑，聲言要坑殺他。顏真卿毫無懼色。不久，唐軍征討李希烈的戰爭取得了決定性的勝利。李希烈在失敗前夕，派人在顏真卿的住處堆上柴草，潑上油，對顏真卿說：「不能屈節，當自燒。」顏真卿毫不遲疑，投身赴火，被人攔住。事隔不久，顏真卿最終被李希烈縊殺於汝州，終年77歲。
顏杲卿隨即派長子顏泉明和賈深、翟萬德帶著李欽湊的人頭，押解何千年、高邈去長安，一是向朝廷報告戰果，二是要求朝廷早日發兵平叛。這時候，內丘（今河北內丘）縣尉張通幽請求同行，哭著說：「我兄通儒陷賊為叛將，請許我與泉明一起至朝廷，以救宗族。」顏杲卿很是同情，於是同意了張通幽的請求。
其實這是因為張通幽怕因哥哥張通儒投降了安祿山而被連坐，禍及家門，想找機會為自己留條後路。當一行人路經太原時，張通聽說太守王承業與宰相楊國忠交好，「欲藉以為援」，便慫恿王承業留住顏泉明，由他代為押解叛賊，竊功歸己。王承業欣然接受了建議。
王承業此人也幼稚得很，試想這樣的事如何能輕易冒功？不過當時朝政混亂，玄宗昏聵不堪，王承業也是圖個僥倖。由此也可以看出，玄宗的英主形象在臣民心中早已經蕩然無存。後來叛將何千年、高邈在長安被斬首。玄宗非常高興，封王承業為羽林大將軍。因為張通幽和楊國忠在其中搗鬼，這件事一直到兩年後才真相大白。
顏杲卿卻對這些毫不知情。他派郭仲邕帶一隊騎兵，馬尾栓上樹枝在樹林中奔跑，使塵土飛揚，造成千軍萬馬之勢。又派人四齣張貼文告，稱朝廷已發兵30萬，平息叛亂，已收復井陘關。並說，受安祿山脅迫叛變的，趁早投降，可以受到重賞；如果頑抗，罪加一等。一時間，一傳十，十傳百，人人皆知。這一舉動極大鼓舞了整個河北軍民的士氣。短短几日，博陵、文安、上谷、樂安等17個郡縣聞風歸附，紛紛派人聯絡，表示接受顏杲卿號令。常山和平原兩郡成了河北抗擊安祿山叛亂的中心。只有范陽、北平、密雲、漁陽、汲（今河南南部）、鄴（今河南南部）六郡尚在猶豫。
顏杲卿又秘密派人到范陽招降叛將賈循。賈循遲疑不決。部將馬遂暗中勸他說：「安祿山負思悖逆，不得人心，雖然佔領洛陽，但終歸要滅亡。將軍如果能夠殺其叛將，以范陽歸國，傾其巢穴，將會立蓋世之功。」賈循雖然覺得有理，但一時下不了決心，只說：「讓我再思考思考。」不料事不機密，二人的秘謀被別將牛潤容聽到。牛潤容為安祿山心腹，當即將這一情況飛馬報告了安祿山。
此時，安祿山在洛陽自立燕國，自封為帝，正準備親自率軍向潼關方向進兵，忽聽到常山顏杲卿殺了李欽湊，活捉了高邈、何千年，後方動蕩不穩，大為震驚，便緊急返回洛陽處理。安祿山一面派大將韓朝陽到范陽來召賈循。韓朝陽到范陽後，謊稱有緊急事務要告訴賈循，趁賈循不備，突然縊殺了賈循，梟首示眾，並滅其族；一面急抽兵力，由最得力的史思明、蔡希德率領，兵分兩路，突襲常山。
當時駐守井陘關的叛軍將領李欽湊是安祿山的乾兒子，嗜酒如命，是個出名的酒鬼。此時剛好年關臨近，井陘關另一叛將高邈去范陽見安祿山述職。顏杲卿得知消息後，趁機寫信給李欽湊，說自己有病，不能親到井陘關，邀請李欽湊和高邈到常山商議年關勞軍的事情。李欽湊早聽說顏杲卿一直有病在床，近來沒有異動，便放心地帶了幾個隨從到了常山。李欽湊到常山的時候已經是晚上，顏杲卿假稱入夜不開城門，讓李欽湊夜宿城外焦同驛，同時派人盛情接待。李欽湊落座後不久，便喝得酩酊大醉，在醉夢中稀里糊塗地被推出斬首。顏杲卿又派人殺死其副將潘惟慎，投屍於滹沱河中，隨即連夜調動軍隊，包圍了井陘關。第二天天亮時，袁履謙帶人提著李欽湊的人頭到井陘關招降。叛軍見主將已死，井陘關又被唐軍包圍，便開關投降。於是，顏杲卿兵不刃血地收復了井陘關。
賈循的死訊先傳到常山，顏杲卿大驚失色，連忙下令軍兵加緊修城挖壕