除了将海军远派海外，吴胜利还不断展开海军外交活动，特别是围绕存在争端的东海海域，积极与日本海军进行交流。2008年7月，日本自卫队舰艇首次访华，吴胜利会见日本海上自卫队参谋长赤星庆治上将一行。3个月后，吴胜利应赤星庆治之邀回访日本，与日本防卫大臣浜田靖一举行了会谈。在这些会谈中，吴胜利都强调，希望通过两国海上防卫力量的交流，使东海保持和平与和谐。
遗憾的是，中国海军与日本海军的友好交流未能延续下去。就在这次互访的第二年，2009年4月23日，我国举行海军建军60周年阅兵仪式，来自美国、法国、澳大利亚、俄罗斯等14个国家的21艘军舰参加了阅兵，而与中国存在海洋领土纷争的日本、菲律宾、越南没有派出军舰参加。此时此刻，日本海军正在紧锣密鼓地展开针对中国的“西南防卫”军事计划——加强日本西南部九州群岛的防卫，向东海海域增派自卫队。★