其主要研制工作由沈阳飞机设计研究所和沈阳飞机厂承担。国家领导人对 歼8 飞机的研制十分关怀。一九六五年八月十四月，贺龙副总理在沈阳听取歼8研制情况汇报时指示：“歼8 要早日搞出来”。八月十八日，聂荣臻元帅在给张爱萍副总参谋长的信中，详细阐述了新飞机设计所必须考虑的几个问题，对歼8 飞机研制起了重要指导作用。
歼8 飞机的研制方案突出高空、高速、增大航程、提高爬升率、加强火力等性能。针对歼7飞机的缺点，逐项加以改进，各项性能指标均有提高：一最大速度为马赫数2.2；二最大升限 2 万米以上；三最大爬升率每秒200 米；四基本航程1,500 公里，最大航程2,000 公里；五规定了在高度为1.9 万米空中的作战时间；六安装改进设计的航炮和空空导弹；七安装搜索距离较大的雷达。歼8 飞机采取机头进气，大后掠角、小展弦比、薄三角翼、下平尾、双腹鳍的空气动力布局形式。选用两台涡喷7甲 发动机，飞机的推重比为0.89，优于 歼7 飞机。
一九六五年九月，歼8 飞机设计工作全面展开。总设计师黄志千于这年五月在国外因飞机失事不幸遇难后，新机研制的技术工作由叶正大领导，以王南寿为负责人的总设计师办公室具体组织。同年十二月，歼8 飞机木质样机通过审查，一九六六年三月，设计人员到工厂与工人、工艺人员结合进行现场设计。一九六六年底，发出全套飞机图纸，一九六七年初，发出相应的生产文件，工厂亦立即开始试制。
在现场设计中，王甫寿等570 余名设计人员，陈阿玉、王阿惠等80 余名有丰富实践经验的工人以及30 余名工艺人员实行“三结合”，讨论设计方案和进行图纸设计。在此期间，工厂的工艺人员和工人提出改进意见2,330 多条，被采纳的有1,660 多条，其中重大改进有40 项，进一步改善了飞机的生产工艺性，如机翼主梁取消垫块的革新方案，就是设计员在工艺员、工人帮助下，利用米格- 21 主梁作试验后得以实现的。这一改造，改变了米格飞机的传统结构，减轻重量4 公斤。
在飞机研制过程中，设计人员突破了许多技术关键。在飞机气动布局方面，当时世界上设计超音速歼击机面临的最大问题是保证飞机大马赫数时的方向安定性。副总设计师顾诵芬主持设计攻关，空军派出优秀飞行员葛文墉进行配合，测定了歼7 飞机大马赫数时的方向安定性及飞行品质，为歼8 飞机设计提供了借鉴和依据；六〇一所、沈阳飞机厂、气动力研究试验部门的技术人员与北京航空学院教授陆士嘉、徐华舫等组成的攻关小组，做了大量风洞试验与研究分析，最后确定的歼8 型飞机的垂直尾翼和腹鳍的设计方案，保证了在大马赫数时具有良好的方向安定性。
