菊香书屋最初的整修规模很小，毛泽东入住后始终不同意为修房子花钱，后来只好趁他出差的时候突击修建了两个卫生间，毛泽东和江青各一个，毛泽东的厕所按照他的习惯建成了蹲式的。1958年，在工作人员的再三劝说下，毛泽东终于同意整修菊香书屋。院内所有建筑房顶扒掉，墙体增高，做通风道，然后重新盖房顶。房外走廊拓宽，房内铺硬木地板。窗户扩大，做了双层的钢窗，这样房间里的阳光更充足了，视野开阔。
做这样的改造，是因为毛泽东的警卫王敬先发现毛特别喜欢大窗户，出访苏联时住在有落地窗的房间时心情格外好。晚年毛泽东搬到游泳池去住，据说一个重要原因是那里有落地大窗。改造之前的菊香书屋是传统式的小窗户，院内柏树阴影重重，加上瓦房飞椽，遮挡得毛泽东寝室和办公室内光线很差，除非夏季，平常即使是白天也须借用灯光照明。
首批进驻中南海的机构除了中共中央办公厅，还有中央军委和中央宣传部。从西柏坡到北京，这两大机关始终不离毛泽东左右，可见他最重视的武器是枪杆子和笔杆子。中央军委驻扎在中海之畔的居仁堂，抗战胜利后，李宗仁曾在这里办公，傅作义的“华北剿总”指挥部也设在这里。中共中央宣传部主要分布在怀仁堂附近的庆云堂。庆云堂有四个院子，其中的一个曾是中宣部管理和审查电影的部门办公处，每逢新片审看时，中南海各单位的人都闻讯过来蹭电影。
