然而，虽然越军在数量和火力上远远不及中国，但抵抗之强烈出乎意外。刚刚经历越战洗礼的越南，全民皆兵，各种丛林战术运用自如，北部谅山、莱州、黄连山、广宁等省早就战壕密布，犹如铜墙铁壁。而中国军队既不熟悉地形，在“文革”中又缺乏训练，指挥体系紊乱，以致损失惨重，仅开战后的两天伤亡人数就达4000余人。若不是越军20万精锐身陷柬埔寨，只留10万部队防守北方，解放军的伤亡会更加严重。
中国原本预计一周内拿下全部五个省会城市，但直到开战三周后才攻下谅山。谅山作为越北最后的屏障，再往南就一马平川，无险可守。越军在谅山一带拼死抵抗。3月1日，越军从河内赶来增援的首都防卫军精锐第308师向谅山展开反击，并使用化学武器。中国军队东线总指挥许世友愤而下令：“拂晓攻击开始后，谅山一间房子也不能留。”中国军队利用炮兵优势对谅山进行了铺天盖地的轰炸。战后，根据谅山的实际面积和我军发射的炮弹数量进行比对，谅山的炮弹落点数量为3枚/平方米。
高平、谅山的所有工厂也全数被中国军队爆破，而它们大多由中国援建，此举即是对越南“背信弃义”的复仇。
中央军委确定的战略原则是：有限时间，有限纵深，集中优势兵力，速战速决，歼敌速回。3月5日，谅山之战结束后，中国政府当即宣布撤军。中国军队以交替掩护，边清剿边撤退的方式，于1979年3月16日全部军队撤回中国境内，整个战争仅1个月。
中国教训越南，实则也是给了苏联一个耳光。虽然《苏越友好合作条约》墨迹未干，但苏联并未给越南实际援助。勃列日涅夫和柯西金强烈谴责这次入侵，说“这是公然无耻的国际海盗行为，要中国人立刻撤军”，但仅此而已。
此战之后，中越边境上的摩擦依旧频繁，冲突持续了整个八十年代。十年中，越南经济几乎停滞，直到1990年中越才一笑泯恩仇。而当时被越南侵占的柬埔寨现在也开始感谢越南消灭了屠杀人民的红色高棉政权，“拯救了柬埔寨”。
社区公告： 一款备受军迷瞩目的战术裤0利润!钓鱼偏光眼镜合金仿真辽宁舰航母模型特价666元
表面上，中国发动侵入越南的战争毫无收获，既没能挽救红色高棉政权，也没有动摇越共的统治，甚至也没有得到一寸领土，反而被国际社会指责“以大欺小”。
但中越之战这并非一场“无意义的战争”。对内，邓小平为首的改革派稳固了政权，民心重新凝聚，党内、军内的改革障碍被顺利扫除。对外，以民族利益为由与相同意识形态的国家一战，有效缓解了西方对中国的不信任。结束了中国的孤立局面，顺利融入世界经济体系。
1979年8月，美国副总统蒙代尔访华时说：“虽然我们制度不同，但是我们有共同的利益，为此，我们将坚定地和你们站在一起。任何企图在世界舞台上孤立和削弱你们的力量也有悖于美国的利益。”这段讲话被全世界媒体引用来说明美国对中国年初行为的赞助。
