给剿得无处立足了，忽然有一天，官军却不战而溃。派人仔细一打听，才知道杜重威带领十万大军临阵投了敌，将半个河北拱手出让。契丹人在降将张彦泽的带领下，直扑汴梁。沿途州县的文武官员，要么投降，要么各自逃命，竟无一人敢挡在契丹人的马前。

林虑山下不远处就是林县，既然县令弃官潜逃了，史洪杰就觉得自己没必要再客气。带领麾下的残兵败将追着官军的马尾巴，直接冲进了县城。然后随便抓了个读书人当师爷，写了封效忠信送到了距离县城最近的一伙契丹人军营。再往后，则不管对方答应不答应，就给自己封了个天义军节度使官职，开始发号施令。

紧跟着一年多兵荒马乱，谁也顾不上林县。史洪杰这个自封的天义军节度使，就成了地方上的土皇帝。招兵买马，集草存粮，麾下队伍从几十号，迅速膨胀到两万余。期间又跟别的豪杰来了两次火并，侥幸大获全胜。于是乎，再也没人敢小瞧他，连天雄军节度使杜重威，都专门派人来表达了拉拢之意。

然而好景不长，很快，风向就渐渐混乱了起来。汉王刘知远忽然竖起了驱逐契丹的大旗，河北大地上，很多群雄起兵响应。天雄军节度使杜重威东征西讨，忙得脚不沾地。契丹人也因为被打个措手不及，而损失惨重。

当时有人劝史洪杰也赶紧顺应时势，然而，他却不太看好刘知远的汉军，不认为天下还有谁能挡得住契丹人的铁骑。所以高行周北上平叛之时，他果断站在了杜重威这边。虽然没有派兵去助战，却也没忘记替大辽摇旗呐喊。

凭着这份耿耿忠心，他成功打动了辽国南院枢密使赵延寿。成功将自封的天义军节度使，换成了辽国皇帝钦封，并且被赐予了知枢密院事的虚职，风光一时无两。

这个有名无实的职位，给他和他手下的弟兄们，带来了灭顶之灾。杜重威献城投降之后，汉军迅速接管了邺都。为了避免班师之后，地方上再