鉴于我军对兰州敌军只是三面包围，北面退路黄河铁桥仍然在敌人控制之下，不能排除敌人在我大军压境下突然逃跑的可能性。第一野战军参战部队全部到达兰州外围后，为了防止“青马”西逃，我军提前发起兰州战役，彭德怀下令部队于21日拂晓投入攻击战斗。
这次首攻敌人守军的第一野战军部队有六十三军、六十五军、六军、四军共9个团的兵力，攻击方向分别为被称为“兰州锁钥”的马家山、营盘岭和沈家岭三大主要阵地。但是，经过两天激烈的战斗，没有攻下一个阵地，我军却遭受了重大伤亡，其中仅六十五军就伤亡近800人。
彭德怀当机立断，命令部队停止攻击，要求所有指战员认真总结经验教训，分析防御特点，侦察敌情与地形情况，重新调整我军战斗部署与火力配备，有针对性地改变战术。
同时，彭德怀以第一野战军司令部的名义发出《关于进攻兰州的战术指示》，强调指出：“‘青马’匪军为今日敌军中最有战斗力的部队，在全国也是有数的顽敌，我们对他须有足够的估计，并作充分的精神准备，力戒轻敌骄傲性急。”
在六军召开作战会议总结进攻受挫的原因时，彭德怀给六军军长罗元发打来电话，进行安慰，并作了自我检查。他说：“四军攻狗娃山，六十五军攻马家山也未得手。看来野司发起总攻的时间是仓促了些，使你们的准备工作受到一些限制。”接着，彭德怀在电话中简略地讲了当前西北的战局：退守川陕边界的胡宗南最近给兰州守敌发来一个电报，为马家父子打气，要他们坚守兰州。胡宗南准备趁我主力攻击兰州后方兵力单薄的机会，与宁夏的马鸿逵、马步青相配合，袭击宝鸡和天水，威胁我军后背，得手后，再由东向西，与坚守兰州的马家军里应外合消灭我军于兰州城下。根据最近情报来看，胡宗南已经带领残兵败将从秦岭方向向我宝鸡、天水、西和以及礼县等地进犯，遭到我十八兵团六十一军和七军的坚决打击。彭德怀要求六军好好休息，准备3天，争取一举拿下营盘岭。
