项羽闻汉王在宛，果引兵南。汉王坚壁不与战。是时彭越渡睢水，与项声、薛公战下邳，彭越大破楚军。项羽乃引兵东击彭越。汉王亦引兵北军成皋。
——《史记·高祖本纪》
刘邦逃回关中后，在萧何协助下于关中重新招募兵马。由于萧何治理关中卓有成效，再加上关中百姓痛恨项羽，又担心项羽残暴，击败刘邦后会再度血洗关中，因而积极踊跃参军，竟然让刘邦在月余时间内便重新招募了一支数万人的军队。
汉三年（前204年）六月，刘邦率领着这支新招募的军队，打算再度出关支援荥阳前线，然而就在出发前，一位姓辕的儒生（又称袁生）跑来找到刘邦，劝说道，“楚汉已在荥阳对峙数年，汉军却屡屡遭困，大王您这次如果继续自函谷关东出，对局势也不会有太大的帮助。”
正所谓“听人劝，吃饱饭”，刘邦这个人的优点就是善于听人劝，哪怕对方只是个没有担任任何官职的儒生，刘邦也愿意听其建议。
于是，刘邦便问道，“那依你之见，又该如何？”
辕生说道，“我建议大王您可以率兵南出武关，如此项羽必然率军南下，大王则深挖沟、高筑墙，坚守不出，将项羽大军吸引到南线，荥阳汉军便可得到休整。同时，大王可命韩信安抚河北赵地百姓，将赵地与燕国、齐国连成一片。如此一来，项羽必然要分兵防备，导致力量分散，而汉军却可以得到充分休整，等到时机成熟，各路大军齐动，楚军必败。”
辕生一番话犹如醍醐灌顶，立时便点醒了刘邦。项羽正面作战确实勇猛，可缺点就是手下人才匮乏，仅有的几人也难得重用。如果自己只是驻守一路，项羽也只需要猛攻一路，这简直就是在以己之短击敌之长，自己承受的压力自然极大。而如果让汉军兵分多路，楚军分兵之后人才稀少的短板就暴露了出来了；反之，自己麾下人才济济的优势则可以充分发挥，这才是以己之长击敌之短，或许战局也将因此而扭转。
想到这里，刘邦果断采纳了辕生的建议，率兵南出武关，屯兵于南阳郡的宛城与叶县之间，此地距离武关不远，可以确保后勤补给无忧，即便战事不利，也可退入宛城坚守，或者直接退回武关。
刘邦驻军于南阳后，在利用地形构筑防御工事的同时，又命英布返回九江地区收拢旧部。
正在围攻荥阳的项羽得知刘邦再度出关，果然率军自颍川郡南下攻打刘邦，然而刘邦却依靠防御工事坚守不出，项羽一时间也是无可奈何。
项羽率兵南下后，楚军对荥阳的攻势放缓，坚守荥阳一个多月的周苛总算是松了一口气，而城中早已疲惫不堪的汉军，至此也总算能喘口气了。
与此同时，“彭城之战”后被迫北撤至黄河沿岸活动的彭越，在恢复实力之后开始再度活跃于梁地，并趁着楚国后方兵力空虚的机会，竟然率军渡过泗水袭扰彭城以东地区，薛县县令薛公和留守九江的项声率兵前往迎战，结果反在下邳被彭越击败，薛公战死，项声败逃。
在前线的项羽得知消息，在荥阳和宛城两路汉军皆坚守不出，短期内根本拿对方没有办法的情况下，为免后院起火，只得先行率军向东攻打彭越，打算先行平靖后方。
刘邦得知项羽大军东返后，则立即率军自轩辕关北上，靳歙等赵地汉军则渡河南下，合力攻打被楚军占领的成皋，不久便击败了驻守成皋的楚军将领终公，重新夺取了成皋。收复成皋之后，荥阳防线重新得以稳固。
为了进一步削弱楚军，刘邦又命灌婴、靳歙率军渡河北上，统率骑兵深入楚军后方，切断楚军粮草供给。