随着杨广巡游江都，荥阳只剩下骑兵和步兵，但李玄霸依然觉得，身为两军统帅，并非一件容易的事情。【】
为了防止被猜疑，李玄霸基本上很少进入军营，所以他根本不懂如何管理手中的将士。房玄龄在这个时候来到荥阳，对于李玄霸来说，实在是雪中送炭。再加上秦琼、罗士信等人与李玄霸的关系还算不错，荥阳的布防没有出现任何问题。
事情都由别人做了，李玄霸身为荥阳通守，总不好意思像以前那般“游手好闲”，所以他决定做些什么，比如募兵。
李玄霸的理念和张须陀不同，张须陀不愿意看到百姓到战场上厮杀，但李玄霸认为，一旦荥阳被攻破，百姓就会连厮杀的机会都没有，那些所谓的义军真的会饶恕城里的百姓？荥阳城的粮草并不充裕，瓦岗贼有十几万人，哪会浪费粮食在这些与他无关的百姓身上？
招募士兵进行的很不顺利，因为李玄霸的威望，根本无法与张须陀相比，哪怕李玄霸派人到处贴上告示，以利弊劝之，百姓依然无动于衷，反而纷纷想法设法，逃离荥阳郡。
“国人的奴性，真是千年不变。”李玄霸站在城墙之上，看着城外逃亡百姓，幽幽叹道：“普天之下，何处才是净土？他们又能往哪逃？”
房玄龄感慨良多，苦闷的说道：“百姓目光短浅，根本不知道其他郡县的情况，公子既然想要招兵买马，何不强行关闭城门？现在不是讲究仁义道德的时候。”
“我又何尝不想？”李玄霸无奈的答道：“但如果百姓不是自愿，将他们召入军中，又该如何安排？当年张将军率领数千人，便能够剿灭数万逆贼，我实在不敢想象，有一天瓦岗贼强攻荥阳，将士四散逃跑的场景。”
“天气渐暖，留给我们的时间已经不多了。”房玄龄沉默片刻，明白李玄霸不愿做出强迫百姓之事，便转而说道：“瓦岗贼沉寂了这么久，谁知道他们在谋划着什么。”
“面对我这个无名之辈，李密和翟让居然不敢强攻，倒真是小心谨慎。”李玄霸苦笑一声，说道：“张将军已经离开半个月，瓦岗贼消息再不灵通，这时候也应该知道了。”
“或许，他们已经猜到以前是败在谁的手中了。”房玄龄提醒道：“请恕玄龄直言，即便张将军被调回洛阳，论资历，这荥阳通守的位置，怎么也轮不到公子，陛下现在重用你，应该会让瓦岗贼意识到什么。”
“玄霸明白，但这也是没有办法的事情。”李玄霸点了点头，说道：“有得必然有失，我们还是考虑下如何守住荥阳吧。”
“公子的安排万无一失，又有什么可担心的呢？”房玄龄想到李玄霸吩咐的那些事，笑着说道：“募兵虽然不太顺利，却也有近万人，待秦将军、罗将军训练一些时日，参与守城应该不成问题。”
荥阳近百万人，当然不会全部都逃走，为了守卫自己的家园，不少男儿还是选择报名参军。而且真正遇到战事，还可以抽调城中的壮丁，再加上李玄霸设计的一些城防设施，守住荥阳半年时间不成问题。