5月中旬，越来越惨烈的战报传到蒋介石的案前，使他那因台儿庄大捷的胜利冲得有点晕乎乎的大脑一下冷静下来。他马上意识到，国军主力部队即将在徐州陷入日军的包围圈。蒋介石当即给李宗仁口授了一封十万火急的电报：“着令你部力避决战，撤离徐州，火速突围。”
撤退命令一下，中国军队全线撤退。到了5月下旬，各路大军已经安装预定计划安全撤抵皖西、豫南地区。可是，日军沿陇海铁路紧追不舍，并于6月6日占领了开封。
为了阻止日军继续尾追，蒋介石做了一个前无古人，估计也后无来者的决定：炸开黄河大堤，以水代兵，阻止日军进攻。
以水代兵
决堤任务交给了守卫黄河的第一战区第二十集团军总司令商震，执行者为新八师。地点最初是选在中牟县境内的赵口，可由于当地流沙太多，没能掘开。得知这个情况后，蒋介石指示再换地点。
曾经参与了花园口决堤的新八师司令部参谋处上尉参谋熊先煜在回忆录中说，师长蒋在珍曾向自己征询意见，到底选择在哪里决堤更合适。他回答，“以地形而言论，马渡口、花园口均可。不过，马渡口与赵口相距不远，敌人巳迫近这一地区，恐堤未决成，敌人已至。为获时间宽裕，我看最好还是选定花园口一段为宜。”
