1950年8月上旬的一天下午，毛泽东主席在办公室与韦国清进行了一次谈话。
毛泽东说：“韦国清同志，军委决定任命你担任中国军事顾问团团长。前些时候，应越南胡志明主席的要求，军委决定组建中国军事顾问团，长期协助越南人民军搞军事建设和作战计划，并选中你来承担这一任务。这个任务非常重要，请考虑一下。”
一切都来得那么突然，韦国清有点为难。毛泽东觉察到这一点，鼓励他说：“没有关系，不要紧的，发挥你这个‘小诸葛’的军事才能和组织才干，大胆去协助就好了。”
“军委交给我的这一艰巨而光荣的任务，我一定努力完成，请毛主席放心!”韦国清简短地答道。
来到越南，韦国清投入到帮助越南人民军整顿部队的工作中，新组建了越南人民军312、320、316师和352第二炮兵师等主力部队，并将这些主力部队与地方部队、民兵游击队有机结合起来，成功发动了数次以消灭敌军有生力量为目的的大规模战役，使越南人民军逐步掌握了北部战场的战略主动权，巩固和发展了越北解放区。
1951年11月20日,法军总司令纳瓦尔派出空降部队5000多人，在驻印度支那空军的全力支援下，袭击占领了越南北部重镇奠边府。后来，纳瓦尔又在美国的指使下，提出了所谓的“纳瓦尔计划”：即在美国的援助下,集中机动部队,转守为攻,在18个月内(即1953年10月至1955年5月)消灭越南人民军主力部队,取得决定性胜利。
