因为此时的整个洛阳城已经被他们抢的不能再抢了。他便决定强行将皇族从洛阳搬回长安。
张方率军直闯金銮宝殿，用自己的座车强迫司马衷启程。司马衷大吃一惊，向后宫御花园逃走，躲在竹林之中，张方让士兵把他硬抬架上车，司马衷悲痛流泪，只得放弃抵抗。
张方在马上叩头说：“现在，遍地都是盗贼，这里禁卫部队太少，请求陛下驾临我的营帐，我当尽我的死力，保卫陛下平安。”
这时所有官员都逃走一空，只有中书监卢志陪伴司马衷，劝司马衷说：“陛下，今天的事，只有听从右将军的安排。”
士兵乘着西迁的机会，纷纷抢夺皇帝御品，把宫女抢作妻子，就连金边珠帘和御帐，也被割下来作为马身上的泥障。
张方打算放火焚烧皇家祭庙和皇宫，断绝人们重返洛阳的盼望。
卢志说：“董卓暴虐无道，火烧洛阳，怨毒的声音，虽隔一百余年，仍可听到，何必重蹈他的覆辙。”张方这才停止。
从洛阳城里驶出数十里马车，排成长蛇阵，在茫茫大雪之中，伴随着一片片百姓的哭声，西去长安。整个风雪一直伴随着西撤的大军，不曾停歇。
经过多日从洛阳来的车队到了长安，河间王司马颙改征西将军府为行宫，废了司马颖的皇太子，改立豫章王司马炽。
而在洛阳的尚书仆射荀藩、司隶校尉刘暾、河南尹周馥组成的留守政府，代表晋帝发号施令，并恢复了羊献容的皇后位。
河间王颙当上宰相，掌握了晋的实权。一败涂地的成都王司马颖，向河间王讨了点兵回了洛阳，替他这位老大哥看守起了东边的门户。