在這個危急的時刻，首先起來打擊叛軍的是常山（今河北正定）太守顏杲（音ｇǎｏ）卿。

　　顏杲卿本來是安祿山的部下。安祿山發動叛亂以后，顏杲卿就準備反抗。叛軍到了藁城（在今河北省，藁音ｇǎｏ）的時候，顏杲卿已經招募了一千多名壯士。他知道自己力量不夠，不能跟安祿山硬拼，就跟手下的官員袁履謙向叛軍假投降。安祿山仍舊讓他守常山，但是心里不放心，一面把顏杲卿的兒子、侄兒帶到軍營里做人質，一面派了一個叛將守在井陘關（在今河北井陘）。

　　安祿山渡過黃河，攻下洛陽之后，顏杲卿決心起兵，他的堂弟平原（今山東平原）太守顏真卿也招募了一萬多人馬，派人跟顏杲卿聯絡，要他攻占井陘關，截斷安祿山的后路。

　　顏杲卿打聽到守井陘關的叛將是個糊涂的酒鬼，就假傳安祿山的命令，派人帶了美酒好菜去慰勞他，等叛將喝得酩酊大醉的時候，把叛將殺死，占領了井陘關。

　　顏杲卿攻下了井陘關，士氣振奮。第二天又接連活捉了兩名叛將。顏杲卿派人分頭到河北各郡去告訴官吏說：現在朝廷派出三十萬大軍討伐安祿山，已經出了井陘關，早晚就到河北各郡了。受安祿山脅迫叛變的，趁早投降，可以受到重賞；如果頑抗，罪加一等。

　　河北各郡官員一聽到安祿山站不住腳，都紛紛響應顏杲卿。河北二十四個郡，有十七個郡又站到唐軍一邊來。

　　安祿山正準備向潼關方向進兵，一聽到河北各郡都響應顏杲卿，后方不穩，只好改變主意，回到洛陽。他在洛陽自稱大燕皇帝，派大將史思明、蔡希德各帶一萬人馬分兩路攻打常山。

　　顏杲卿雖然打了幾個勝仗，但是起兵只有八天，常山周圍的防御工事都沒修好，兵力又少，怎樣敵得過兩路叛軍！叛軍到了常山城下，顏杲卿派人到太原去求援，但是太原守將王承業不肯出兵。

　　史思明叛軍把常山緊緊圍困，顏杲卿帶領常山軍民拼死抵抗了四天，城里糧食斷了，箭也完了。常山終于陷落在叛軍手里。

　　史思明縱容叛兵殺害了一萬多常山軍民，又把顏杲卿、袁履謙抓起來，押送到洛陽去見安祿山。