中条山地区虽位于山西省境，但在抗战时期却不是晋绥军的防区，亦不属阎锡山的第二战区管辖。驻守这里的是国民党中央军，在战区划分上则归之于卫立煌为司令长官的第一战区。1938年春，山西境内的国民党军为减少正面损失，将十数万之众的部队分散于晋南地区，建立防御工事，开展游击作战。日军侵占山西后，“为了固华北、抑洛阳、窥西安，自1938年以来曾十三次围攻中条山，但均未得逞”。
在上述背景下，为了迅速“解决中国事变”，日方决心集中兵力进犯中条山，并阴谋策划全歼中国守军。为此，日本中国派遣军“不顾警备地区治安状况的下降”，“从华中抽调第17、第33两个师团”，配属华北方面军。再由关东军调集飞行第32、第83战队，第3飞行集团主力，在运城、新乡两个机场展开，担任空中配合。接着，日华北派遣军将其所辖兵力作了适应性调整，编成了参加中条山会战的序列——第1军：第33、第36、第37、第41师团，独立混成第4、第9、第16旅团，军预备队;方面军直辖兵团：第21、第35师团，原配属35师团之骑兵第4旅团一部及第3飞行集团。指挥官：华北方面军司令官多田骏中将。总兵力约10万余人。
为了配合对中条山的进攻，1941年上半年，日本组织63个大队(相当于7个师团)的兵力，对我国东南沿海首先实施封锁。同时，在正面战场实施了所谓灵活的速战速决的作战，即发动豫南、上高战役。并于同年3月，发动了中条山的外围作战。以第36师团发动对第27军作战，打击了集结在晋东南陵川一带的国民党第27军;以第37、第41师团发动对第15军作战，在翼城以南、绛县以东地区袭击了与主力脱离的国民党第15军。以期为向中条山的大举进攻创造有利的战役态势。经过周密的部署，日华北方面军“着由第1军从山西省方面攻击，直辖第21与第35师团从河南省方面攻击”，决心“置作战地区于张马—垣曲一线，分成东西两个地区，把重点始终保持在西部地区”。企图“在正面利用已设阵地及黄河的障碍，以挺进部队切断退路，从两侧地区神速楔入突破敌阵，将敌完全包围，接着以迅速的内部歼灭战和反复扫荡，将敌完全围歼”。
从4月底到5月初，日军征调频繁，并制造种种谣言，以此为掩护完成了进攻中条山的部署：“第36、37、41师团及第3、9独立旅团，伪24师，分布于中条山西面之绛县、横岭关、闻喜、夏县、安邑、运城、解州、永济、风陵渡、河津及闻喜、夏县以北各地区。第33师团附第4独立旅团分布于阳城、芹池、沁水一带。第35、21师团及伪军张岚峰、刘彦峰分布于温县、沁阳、博爱、董封、新乡、焦作、高平、长子、陵川等地区。”
与日军在中条山地区积极部署的同时，重庆国民政府军事委员会根据“保守要地，力图持久，奠安内部，争取外援”的指导要领，确定了“加强中条山及潼洛工事，积极训练”的战略原则。有鉴于此，4月中旬，参谋总长何应钦到一战区巡视(时任第一战区司令长官卫立煌因拒绝反共摩擦，受胡宗南等人排挤，不见谅于蒋介石，于1941年春到重庆述职后，借故请假逗留峨嵋山未归)。4月18日、20日，在洛阳的第一战区长官部，何应钦连续两次主持召开了由第一、第二、第五战区军以上长官参加的军事会议。根据各方提供的情报，何应钦判断：“晋南之敌，似将逐次夺取我中条山各据点，企图彻底肃清黄河北岸之我军，然后与豫东之敌相呼应，进取洛阳、潼关，以威胁我五战区之侧背，或西向进窥西安。”指示：“为确保中条山，(一)第一步，应相机各以一部由北向南(93军)，由东向西(27军)，与我中条山阵地右翼各部，合力攻取高平、晋城、阳城、沁水间地区，以恢复廿九年四月前之态势。(二)第二步，与晋西军及第二、第八战区协力，包围晋南三角地带之敌，而歼灭之。(三)最低限度，亦须能确保中条山。”4月28日，国民政府军事委员会进一步做出日军有从济源、横皋大道会犯垣曲企图的判断，决定：(一)加强阵地工事破坏阻塞主阵地前道路;(二)先制出击打破敌之攻势;(三)第二战区晋西部队向同蒲、第五战区汜东部队向陇海牵制策应。在上述判断指导下，中条山地区的国民党军队主力7个军进行了相应配置：第9军裴昌会部在豫北重镇济源;第43军赵世铃部在山西南端之垣曲;第17军高桂滋部在绛县地区;第3军唐淮源部、第80军孔令恂部在闻喜、夏县地区，第98军武士敏部在董封镇一带，第15军范汉杰部在高平地区。另以4个军配置于太行、太岳地区，作为策应。
