完成布署之后，司马伷便立刻下令主力军队撤离了，为了避免被魏军发现，司马伷还特意地选择了在天黑之后才行动，这个时候，魏军也停止了进攻，撤回他们的营地去了，至少在明天日出之前，魏军是不会发现晋军的异常的。
而有这一夜的时间，也足够司马伷逃得比较远了。而且就算是被魏军发现了，司马伷留下断后的三千人也将会起到关键性的作用，如果是在白天，他们或许很难抵挡得住魏军的进攻，但在黑夜里，探不明虚实，魏军也未必敢冒然地来进攻。
司马伷下令军队偃旗息鼓，各部人马不得发出任何的喧哗之声，悄然地离开了武关。
不过似乎司马伷的担心是多余的，毕竟两军之间隔着一道难以逾越的雄关，高大的关墙给晋军的撤离提供了天然的掩护，魏军无法派出细作和斥侯来监视晋军的动静，所以只要晋军不发出一些比较大的声响来，武关外宿营的魏军根本就不可能察觉到晋军此刻的动向。
在这一点上，司马伷也确实是够谨小慎微的，甚至就连撤退的将士，司马伷都没有明确地告诉他们撤军的目的地，直到走到了丹河口，司马伷才下令晋军从刚刚临时搭建的一座浮桥上折向了南行。
这个时候，许多的晋军将士不禁是倍感疑惑，不是说司马伷接到了天子的圣旨，要回师长安勤王救驾吗，怎么会往南走呢？这岂不就是南辕北辙吗？
此时司马伷才不得不吐露实情，告诉众人，其实长安城已经被魏军所攻破，天子司马昭也已经是龙驭宾天了，他们在武关，已经处于腹背受敌的不利局面，为了避免全军覆灭，司马伷必须带领他们跳出魏军的包围圈，长安现在肯定是回不去了，所以他们只能是往南走，寻找生路。
说到司马昭驾崩，司马伷的声音也不禁有些哽咽，眼眶之中溢出了泪水，再怎么说，司马昭也是他的兄长，更何况司马昭当了皇帝之后，也没有忘记他们兄弟，封了他为琅琊王，封了司马亮为汝南王，并给了他们兵马大权，让他们来守武关和潼关。
只是弟弟司马亮实在是不太争气，把潼关给弄丢了，司马亮本人也失陷于乱军之中，生死未卜。
身旁的亲信赶紧地劝慰司马伷，让他节哀顺变，现在的当务之急是如何带领着这一支军队突出重围，还不是哀悼的时候啊。
司马伷当然分得清轻重缓急，他催促大军渡过丹水，向南的深山峡谷之间开进，司马伷还特意地安排了几百人，向长安方向的商洛沿路丢弃一些破损得衣甲和军械，制造出晋军向长安方向前进的假象。
等到所有的人马渡过丹水后，司马伷立刻拆除了浮桥，并抹掉了一切的痕迹，整个大军便这样消声匿迹了。 </p>