然而，俄空军苏-27战斗机升级计划的前景一直不太明朗，至少考虑过7种不同的升级方案，各种各样的概念可以实现不同程度的性能提升。其中，苏霍伊设计局充分利用近年来研制苏-30MKK多用途战斗机的经验，提出了将一部分苏-27战斗机升级为苏-27SM型。直到2000年，俄空军内部才基本达成了一直意见，采纳了苏-27SM型方案，决定在有限的改进经费内，首先改装服役时间较短的苏-27S战斗机。
2002年12月27日，第一架苏-27SM原型机实现首飞。据称，该机主要改进了机载电子设备，采用了“玻璃”座舱、相控阵雷达、光电瞄准吊舱和数字式电传操纵系统等，能够有效地完成空对空和空对地攻击任务，总体作战性能已经优于苏-30MK系列出口型战斗机。俄空军计划将25架苏-27战斗机升级为SM型，单机改装成本大约为400万美元。按照合同，加加林飞机制造厂在2003年改装了4架，2004年又改装了12架，2005年改装了9架。
然而，俄罗斯空军对于初露锋芒的苏-27SM战斗机并不完全满意，希望进一步提高机动性能和攻击威力，于是提出了在此基础上，通过采用更多成熟的先进技术，甚至尽可能地利用第五代战斗机上的一些技术，来研制一种苏-27SM2型战斗机。考虑到第五代战斗机还处在研制阶段，俄空军已经在“俄罗斯2015年前国家武器规划”中，将苏-27SM2战斗机作为重点，并列出了相应的采购预算。
与此同时，苏霍伊设计局再次考虑到出口市场的需要，研究如何为苏-27SM2战斗机命名一个颇具影响而又令人印象深刻的型号序列，目的是突出第4++代多用途战斗机的定位。或许是期望711号苏-27M战斗机曾经的名气能够带来好运，苏霍伊公司在2003年初步决定将苏-27SM2出口型称为苏-37战斗机。
同时，苏-27M战斗机在国际市场上也屡次碰壁，一直无人问津，生产前景十分渺茫。于是，苏霍伊公司经过深思熟虑，毅然决定将苏-27M战斗机多年来在世界各国航展上精心打造的苏-35品牌正式用于苏-27SM2出口型战斗机。
