李世民手下不过几十号人马，自然不放在眼里，领着三万士兵就从东门和南门杀了出来。这时候，李渊手下的步兵也到了，两军立刻陷入混战之中。

宋老生的军队从东门出来的比较多，李渊和大儿子李建成在霍邑城的东门列阵；李世民则在霍邑城南门列阵，对付从南门出来的守军。

宋老生的军队毕竟已经在城里养精蓄锐很久了，正处在以逸待劳的良好状态下；而李渊的军队则在外面风餐露宿了一个月，就连当天的早饭还都没吃，难免战斗力差一些。此刻李渊被宋老生的人马一冲击，不由得向后退去。这边李世民一看局面不好，当机立断，马上放弃南门，领兵就朝东门杀了过去。

这样一来，宋老生相当于腹背受敌，阵势就有点乱了。这时候，李世民挥舞两把大刀朝宋老生的军队砍了过去，一口气连杀了几十人，两把大刀都砍得卷了刃。古代人袖子宽，李世民又接连杀人，两只袖子里兜满了敌人的鲜血。只见他把袖子提起来，把血往外一倒，又冲入敌阵之中。有他这么身先士卒，很快，李渊这边的局势稍稍扭转了一些。

不过，虽然李渊的个人英雄主义很有魅力，但宋老生的三万士兵还是具有相对优势，如果持续战斗下去，胜负未可预料。可是，就在这个时候，李渊这边也不知道谁喊了一句：已经抓住宋老生了！这样一来，军心大乱，宋老生的军队再也无心作战，只知道没命地往回跑。李渊是个久经沙场的老将，哪能让他们再跑回去，早领着骑兵先去把城门从外面关上了。

宋老生跑到城门边，一看门关着，进不去，慌不择路，一下子就跳进了城边的壕沟里。这不等于自寻死路吗？李渊手下的将军刘弘基走上去，一刀结果了宋老生。宋老生尚且死得如此凄惨，他手下的将士就更是可想而知了。按照《资治通鉴》中的说法，死者“伏尸数里”，惨不忍睹。就这样，到薄暮时分，经过将近一天的搏斗，霍邑终于被攻克了