1947年10月，国民党军重点进攻山东，已攻占蓬莱的李弥第八军分兵一部，占领了长山列岛，随后移交海军防守。驻在岛上的兵力有国民党海军巡防处、陆战第二团、警卫第六营各一部，以及地主还乡团武装等共计1500余人，并配属有“美宏”、“中权”、“太照”、“太和”4艘军舰(后两艘太字号是运输舰，当年7月从台湾调来)和8艘炮艇。国民党守军以南、北长山为主阵地，其他小岛为卫星阵地;以主力舰艇集中于列岛中央海面机动作战，妄图凭险借海水天堑长期据守，作为其在北方海上的反攻基地，用以封锁渤海湾，切断我山东和华北、东北的海上联系，并不时派谴武装特务骚扰沿海港口。
1949年8月，在新中国诞生的前夜，我国北方大陆基本解放。位于渤海海峡的长山列岛，仍在国民党残部手中盘踞。驻守在岛上的国民党海军陆战二团依仗海峡天险和岛链要冲，在岛上构筑了以峰山和西山为核心阵地的严密火力防御体系。其军舰、炮艇不停地在黄海和渤海沿岸游弋，并劫持过往船只，炮击我解放区，掐断了我华东、华北、东北的海上运输通道。同时，对即将从港、澳经海路来北平参加政协会议和开国大典的民主人士也造成了很大安全威胁。岛上国民党守军，直接得到伪国防部从台湾海运的弹药给养补充，他们狂妄叫嚣：“南有台湾，北有长山，国军防御，固若金汤”，妄图伺机对我解放区反攻，以光复大陆。
这年7月，为解放山东全境，拔掉这颗位于海上交通要道的毒牙，并为我军日后渡海作战集累经验，根据中央军委指示，我第三野战军抽调山东军区及胶东军区的部分军政干部组建“解放长山岛前方指挥部“，山东军区副司令员许世友任总指挥;我华野二十四军七十二师在完成渡江战役之后，奉调北上，接受山东军区指挥。同时调配特种兵纵队炮兵第十三团、胶东警备第四、五旅各一部以及北海分区的地方武装组成攻岛部队，发起长山岛战役。我作战方针是“荫蔽接敌，强攻登陆，逐岛攻击，稳步推进。
我军战斗部署是：七十二师以两个团(另一团为预备队)，配属省军区炮团三个连，由蓬莱水城、刘家旺一线起渡，至南长山西岸之叶家滩、山前谢家、山西坡登陆，主攻南长山岛;警四旅以两个营(欠2个连)，附山炮、迫击炮各一个连为左翼，由栾家口起渡，至洛家船望一线登陆助攻，依次夺取大、小黑山岛和庙岛;警五旅以两个连为右翼，由解宋营起渡，攻占大、小竹山岛。炮纵第十三团配置在蓬莱阁左右，西起西庄，东至磨直口一线占领阵地;省军区炮兵一部及警四旅炮兵在黑风台以北占领阵地;警五旅炮兵在蓬莱东峰台山、崔家一线占领阵地，。各炮兵部队由特纵炮兵团统一指挥，首先以炮火歼灭停泊于南长山岛前的警戒游戈之敌舰艇，并摧毁敌前沿阵地，支援我攻岛部队登陆。尔后，向敌纵深延伸炮火，摧毁敌军指挥所，压制反击增援之敌，并以最大射程之火炮阻拦可能从长岛以南海面逃跑之敌。经过周密的计划和潮汐规律，我军渡海攻岛的时间定在7月31日。为使战前准备更加充分，参战部队抓紧时间进行战前训练和渡海演习。总攻临近，指挥所推移至前沿，主攻部队进入阵地，我炮兵各部也已做好射击准备，东自刘家旺，西至栾家口几十公里的海岸线上，我集结的大批战船正严阵以待。7月20日下午，我军奉命进行一次强大的试炮射击。沿岸所有的大炮一齐怒吼，钢雹铁雨般的弹群，倾泻在敌军占踞的岛屿上，打得守敌和敌军舰乱作一团。