日军入侵，在客观上为越南革命者打开新的斗争形势。1941年，越南各抵抗运动决定以共产党为主体，组建“越南独立同盟会”(简称“越盟”)，领导抗日抗法游击运动。1944年12月22日，胡志明和武元甲在高平省原平县的一个林区里将队伍整编为“越南解放军宣传队”，史学界普遍将这支宣传队看作是越南人民军的前身，后来河内政府还把这一天定为越南建军节。几天后，武元甲和33名独立战士手持铁刀和古老的火绳枪袭击了两个孤立的法军哨所，打响了武装斗争的第一枪。1945年日本濒临崩溃，当年8月，胡志明和武元甲领导下的越盟军揭开起义序幕，随后，越南民主共和国在河内成立。
“奠边府之虎”绰号由来
1946年，刚刚战胜纳粹德国的法国不甘心失去印度支那，决心以武力恢复原来的殖民秩序。开战之初，由武元甲指挥的越盟军处处被法军压制。到1947年，法军攻陷河内，越盟军被迫重返丛林，回到游击战争状态。美国历史学者伯纳德·法尔描述道：“整整四年，武元甲像野人一样迁徙于越北山区，他和同伴们穿着用汽车轮胎制作的胶鞋，吃着树皮和草根，时刻都要提防由前纳粹党卫军组成的法国外籍军团猎杀队。但他没有气馁，后来回忆那段经历，武元甲只是幽默地说最累的差事不过是洗碗。”
武元甲和越盟的坚持终于有了回报。1949年，新中国成立，旋即于1950年承认越南民主共和国政权，答应向越盟提供援助并派遣军事顾问团。武元甲在1964年5月7日的政府机关报《人民报》上撰文称：“1950年以后，已取得胜利的中国革命……对我军的节节胜利，特别是对1953、1954年秋冬战役和伟大的奠边府战役作出贡献。”而在1999年修订出版的《走向奠边府之路》一书，武元甲也坦率地强调“友方(指中国)迅速兑现了诺言”，1950年4月，越盟主力第308旅化名“两广部队”，进入中国云南，接受装备更新和军事训练，“我军所到之处，中国男女青年跳着秧歌来迎接，而在整编营地，我们过去冲锋用的梭镖被大批现代化武器所取代，过去越南战士只希望手里有一支枪，而现在不只是有了枪，而且弹药也相当丰富，我军的火力与以前比较已大不相同”。
