在这个危急的时刻，首先起来打击叛军的是常山（今河北正定）太守颜杲（音ｇǎｏ）卿。

颜杲卿本来是安禄山的部下。安禄山发动叛乱以后，颜杲卿就准备反抗。叛军到了藁城（在今河北省，藁音ｇǎｏ）的时候，颜杲卿已经招募了一千多名壮士。他知道自己力量不够，不能跟安禄山硬拼，就跟手下的官员袁履谦向叛军假投降。安禄山仍旧让他守常山，但是心里不放心，一面把颜杲卿的儿子、侄儿带到军营里做人质，一面派了一个叛将守在井陉关（在今河北井陉）。

安禄山渡过黄河，攻下洛阳之后，颜杲卿决心起兵，他的堂弟平原（今山东平原）太守颜真卿也招募了一万多人马，派人跟颜杲卿联络，要他攻占井陉关，截断安禄山的后路。

颜杲卿打听到守井陉关的叛将是个糊涂的酒鬼，就假传安禄山的命令，派人带了美酒好菜去慰劳他，等叛将喝得酩酊大醉的时候，把叛将杀死，占领了井陉关。

颜杲卿攻下了井陉关，士气振奋。第二天又接连活捉了两名叛将。颜杲卿派人分头到河北各郡去告诉官吏说：现在朝廷派出三十万大军讨伐安禄山，已经出了井陉关，早晚就到河北各郡了。受安禄山胁迫叛变的，趁早投降，可以受到重赏；如果顽抗，罪加一等。

河北各郡官员一听到安禄山站不住脚，都纷纷响应颜杲卿。河北二十四个郡，有十七个郡又站到唐军一边来。

安禄山正准备向潼关方向进兵，一听到河北各郡都响应颜杲卿，后方不稳，只好改变主意，回到洛阳。他在洛阳自称大燕皇帝，派大将史思明、蔡希德各带一万人马分两路攻打常山。