興平元年，公孫瓚與袁紹短暫停戰，然后在薊縣東南筑城與薊縣城中的劉虞，隱隱對峙。

    公孫瓚筑城后，劉虞幾次邀請公孫瓚前來，公孫瓚都稱病不去。害怕公孫瓚先發制人，劉虞于是密謀討伐公孫瓚，將此事告訴了自己州牧府的東曹掾魏攸。

    魏攸說：“如今天下人把您當作希望，謀臣爪牙不能缺少。公孫瓚的文武才干都足堪使用，雖有小過，但是還是應該容忍。”

    最后劉虞聽從了魏攸的建議，不久后魏攸去世，劉虞又打算出兵討伐。

    然后在興平二年，率兵十萬攻打公孫瓚，并把出言勸阻的緣屬程緒處死以明決心，下令：“不要傷害其他人，只要殺死公孫伯圭一人。”

    劉虞的從事公孫紀與公孫瓚同姓，過去常受公孫瓚厚待，于是把這件事告訴給公孫瓚。

    當時，公孫瓚的部曲放散在外，公孫瓚倉卒欲從東城逃走，最后沒有成功，可是劉虞的士兵不習戰，又被劉虞下軍令禁止騷擾百姓，不許損害民居，導致久攻不下。

    公孫瓚于是招募精兵數百人，順著風勢放火，趁勢殺入劉虞兵營，劉虞大敗。劉虞與他的部下往北逃到居庸縣

    公孫瓚三天就攻破了居庸城，活捉劉虞及其妻子兒女回到薊縣，仍然讓他領州文書。

    后來朝廷派使者段訓給劉虞增加封地，令其督統六州，升遷公孫瓚為前將軍，封易侯，假節督幽、并、青、冀四州。

    公孫瓚趁機誣陷劉虞與袁紹謀取稱帝，脅迫段訓斬劉虞及其妻子兒女于薊市。

    故常山相孫瑾、掾張逸、張瓚等忠義憤發，相繼前來看望劉虞，大罵公孫瓚，結果都被殺害。

    公孫瓚將劉虞的首級送到京師，被劉虞的舊部下尾敦在路上劫走并安葬。公孫瓚又上表段訓為幽州刺史。

    占據幽州后，不斷有人打著為劉虞報仇的旗號，反叛公孫瓚的統治，而公孫瓚本人又不善于理政，使得人心向背，以往白馬將軍的名號，此時淪為人人憎惡的暴君。

    其中不乏有受到劉虞恩惠的胡人，如之前劉虞的從事鮮于輔、齊周、騎都尉鮮于銀等率幽州兵馬想為劉虞報仇。

    因為燕國人閻柔素有恩義，他們便推舉閻柔為烏丸司馬。閻柔招集鮮卑、烏丸等兵馬，共得漢兵、胡兵數萬人。

    他們與公孫瓚所置漁陽太守鄒丹戰于潞河之北，大敗公孫瓚軍，斬殺鄒丹。