是时，汉还定三秦。项羽闻汉王皆已并关中，且东，齐、赵叛之：大怒。乃以故吴令郑昌为韩王，以距汉。令萧公角等击彭越。
——《史记·项羽本纪》
汉元年（前206年）五月，汉王刘邦经过一个多月的准备，得知章邯已经将军队调往褒斜道后，在韩信的建议下，决定沿陈仓道杀回关中。
于是，刘邦留丞相萧何镇守南郑，负责署理汉中、巴蜀事务，镇守后方、安抚人心，并征收巴蜀赋税，供给前线军粮，自己则亲率大军，沿陈仓古道北上关中。
由于刘邦大军一路偃旗息鼓，再加上章邯的势力向南渗透有限，而他的防御重点又在褒斜道，导致始终没有发觉刘邦已经率兵北上，等他得知消息之时，刘邦的大军已经攻破了大散关。
大散关作为关中四关之一，自古便为“川陕咽喉”，战略地位极为重要，从周朝以来便是关中地区的防御重点，直到秦国占领巴蜀之后，因为不必再担心来自秦岭以南的威胁，这才使大散关的战略地位有所下降。
虽然由于章邯将防御重点放在了褒斜道，导致大散关的防守十分薄弱，但章邯守军毕竟占据了地利，仅凭刘邦的军队，想要在狭窄的峡谷地带攻破关城，显然并非易事，若是耽搁太久，章邯援军赶到，自己必将会被堵死在这狭窄的峡谷之中。即使能够攻克，也必然要付出不小的代价，势必要对后续收复关中产生影响。
在出兵北上之前，韩信曾在汉中当地招募了不少士卒，实在不想强行攻关的刘邦，便命人在这些汉中当地的士卒中，寻访熟悉这一带地形者，询问是否有其他路可绕过大散关。一番询问下来，来自汉中的士卒赵衍献计，说有一条小路可绕过大散关直抵关中。
于是，刘邦派遣精锐士卒，跟随赵衍绕道进入关中，然后自北向南，配合大军前后夹击大散关守军，从而轻松攻破大散关，大军顺利杀出陈仓道。
章邯在得知刘邦已经攻破大散关，杀入关中之后，立即派人调遣原本驻军于褒斜道的守军增援陈仓县（今陕西宝鸡），抵御刘邦的进攻。
然而，由于章邯被刘邦修补栈道的举动所骗，根本没有料到刘邦会这么快北上，驻扎于褒斜道的守军更多是起到监视的作用，兵力并不算太多，又如何抵御刘邦的大军，结果陈仓县很快失守，败军被迫向东败退。
攻破陈仓后，刘邦率军向东迅速挺进，兵锋直指章邯的都城废丘。
章邯得知消息，急令弟弟章平率军驻守废丘以北的好畤，与废丘互为犄角，同时派人向塞王司马欣和翟王董翳求援。
刘邦一路东进，先后攻破雍县、斄县，在攻破废丘以西的斄县后，探明章邯布置的刘邦，留少量兵力驻守斄县，牵制废丘守军，自己则亲率军队北上攻打好畤，并在好畤城外大败章平，章平被迫退入好畤城坚守。
就在刘邦准备进攻好畤，彻底消灭章平之际，突然接到废丘守军向西进兵的消息。
原来，就在刘邦北上击败章平之际，塞王司马欣和翟王董翳的援军也抵达了废丘，章邯在接到章平兵败的消息后，便立即出兵东准备攻打斄县，意图在攻克斄县刘邦的守军后，再从废丘和斄县两面出兵北上，配合章平的守军夹击刘邦。
得知消息的刘邦也顾不上攻打好畤了，连忙率军南下迎击三秦军队，并在斄县县城以东的壤乡、高栎邑（今陕西武功）一带与三秦联军展开激战，成功将其击溃。
击败三秦联军后，刘邦兵分两路，命令曹参率军追击三秦败军，自己则再度率兵北上攻打好畤。
得知三秦联军已败，刘邦再度率兵北上的章平，自知难以抵御，率兵突围而走。与此同时，曹参也再度击败三秦联军，军队直抵废丘外围。
三秦联军溃败之后，章邯已无力再与刘邦野战，只好将所有军队调回废丘坚守。
针对这一局面，刘邦命令曹参率军围困废丘城，围而不打，并令斄县守军增援曹参。而刘邦自己则率领军队继续向东攻打咸阳，剪除废丘外围军队，防止有人增援章邯。
刘邦东进后，先于咸阳以北击败了赵贲和内侍保的军队，进而攻占咸阳，并将咸阳改名为新城。
之后，刘邦在调派主力围攻废丘的同时，又派周勃、灌婴、郦商、靳歙等分别率兵攻掠各地，其中周勃向西北进军，于漆县（今陕西彬县）击败章平、姚卬率领的军队后，又向西攻破汧县（今陕西陇县），后回军攻破郿县（今陕西眉县）等地，在基本平定章邯的封地后，返回废丘短暂休整。不久，周勃又奉命西攻陇西郡，在先后攻破西县（今甘肃礼县）、上邽县（今甘肃清水县），击败章邯部将盗巴后率军返回，奉命驻守峣关。