泽潞节度使的兵力，有利就进军出击，不利就退守自保，内外相互呼应，让叛军不敢向西进犯，这就像猿猴伸展手臂一样，可攻可守。说到通晓朝廷的礼仪制度，我比不上您；但说到指挥行军打仗，您比不上我。”韦陟无言以对。判官韦损又说：“东京是皇帝的故居，侍中您怎么能放弃不守呢？”李光弼反问：“如果要坚守东京，那么汜水、崿岭、龙门这些险要之地都需要派兵驻守，你身为兵马判官，能守住这些地方吗？”于是李光弼发布檄文，命令留守韦陟率领东京的官员和眷属向西迁入潼关，又命令河南尹李若幽率领官吏百姓出城躲避叛军，让东京变成一座空城。李光弼则率领士兵运送油、铁等物资前往河阳，准备防守，自己亲自率领五百名骑兵殿后。这时史思明的游击部队已经抵达石桥，将领们请示李光弼：“现在我们是从洛阳城北撤军，还是直接经过石桥进军？”李光弼回答：“直接经过石桥进军。”到了黄昏时分，李光弼下令士兵们点燃火把，从容行军，部队军容严整、阵容沉稳。叛军虽然派兵尾随追击，却始终不敢逼近。李光弼连夜抵达河阳，身边只有两万兵力，粮草也仅够维持十天。他立即检阅守备设施，部署兵力，每件事都安排得井井有条。二十七日，史思明率军进入洛阳，发现城中空无一人，什么东西也没抢到。他害怕李光弼从背后袭击，不敢进入皇宫，只好率军撤退到白马寺南面驻扎，还在河阳城南修筑了一座半月形的城寨，来抵御李光弼的军队。从此郑州、滑州等地相继被叛军攻陷，韦陟、李若幽只好都把官署临时设在陕州。冬季十月初四，肃宗颁布制书，宣布要亲自率军讨伐史思明，文武百官纷纷上表劝谏，肃宗才打消了这个念头。
史思明率军攻打河阳，派骁勇的将领刘龙仙到城下挑战。刘龙仙依仗自己的勇猛，把右脚抬起来踩在马的鬃毛上，大声辱骂李光弼。李光弼回头对身边的将领们说：“谁能去把这个家伙的首级取来？”仆固怀恩请求出战，李光弼说：“这种小角色，不值得让大将亲自出马。”身边的人说：“裨将白孝德可以胜任。”李光弼便召见白孝德询问，白孝德请求出战。李光弼问：“你需要多少兵力？”白孝德回答：“我一人一马就足够取他首级。”李光弼赞赏他的勇气，但还是坚持问他需要什么支援。白孝德说：“希望挑选五十名骑兵出营门作为后援，再请求大军在城上擂鼓呐喊，为我助威。”李光弼拍着他的后背，派他出战。白孝德手持两支长矛，策马蹚过河水向前冲去。当他渡过一半河水时，仆固怀恩向李光弼庆贺道：“此战必胜！”李光弼问：“还没有交战，你怎么知道必胜？”仆固怀恩回答：“我看他手握缰绳，神态从容不迫，就知道他已经胸有成竹了。”刘龙仙看见白孝德独自前来，十分轻视他。等白孝德渐渐逼近，刘龙仙刚要动手，白孝德却向他摇了摇手，好像不是来和他交战的样子，刘龙仙猜不透他的意图，便停止了行动。白孝德在距离刘龙仙十步远的地方停下，和他说话，刘龙仙又像刚才一样破口大骂。白孝德勒住马缰绳，沉默了许久，然后怒目圆睁，对刘龙仙说：“叛贼，你认识我吗？”刘龙仙说：“你是谁？”白孝德回答：“我是白孝德！”刘龙仙骂道：“你这个猪狗不如的东西！”白孝德大吼一声，挥舞着长矛，策马冲向刘龙仙。城上的官军擂鼓呐喊，五十名骑兵紧随其后冲杀出来。刘龙仙惊慌失措，连弓箭都来不及发射，只好绕着河堤逃跑。白孝德紧追不舍，追上后一刀砍下他的首级，提着首级返回军营。叛军看到这一幕，都吓得大惊失色。白孝德原本是安西的胡人。
史思明有一千多匹良种战马，每天都要赶到黄河南岸的沙洲上洗澡，循环往复，以此炫耀自己的战马数量众多。李光弼得知后，下令征集军中所有的母马，共得到五百匹，又把这些母马的幼崽都拴在城内。等史思明的战马赶到水边时，李光弼下令把所有母马都赶出城。母马们思念幼崽，不停地嘶鸣，史思明的战马听到母马的叫声后，纷纷渡过黄河，冲向母马，被官军一下子全部赶进了城。史思明大怒，出动数百艘战船，在前面点燃火船，想要顺流而下烧毁河阳桥。李光弼早已准备好数百根百尺长的竹竿，用粗大的木头抵住竹竿的根部，竹竿的顶端则装上裹着毛毡的铁叉，专门用来迎击火船。火船一到，就用铁叉顶住，让它们无法前进，没过多久就全部自行烧毁了。李光弼又用铁叉顶住叛军的战船，同时在桥上发射炮石轰击，被击中的战船纷纷沉入水中，叛军大败而逃。
史思明率军进驻河清县，企图切断李光弼的粮草运输通道，李光弼便率军驻守野水渡，防备叛军偷袭。到了晚上，李光弼返回河阳，留下一千名士兵，派部将雍希颢率领他们驻守营寨，并叮嘱雍希颢：“叛军将领高庭晖、李日越、喻文景，都是勇冠三军的猛将。史思明一定会派其中一人来劫营偷袭我。我现在就离开这里，你留在这里驻守。如果叛军来了，不要和他们交战。如果他们投降，就带着他们来见我。”将领们都不明白李光弼的用意，都在私下里偷笑。不久史思明果然对李日越说：“李光弼擅长守城，现在却在野外驻军，这是活捉他的好机会。你率领精锐骑兵连夜渡过黄河，替我把他抓来，抓不到他，你就不