1960年,黄杰担任警备总司令期间与蒋经国共游中部横贯公路。
黄杰性格敦厚,不擅官宦之道,从黄埔时期起追随蒋介石从无贰心,1950年代来台后尤为蒋所器重。原陆军总司令孙立人与美国关系暧昧,为蒋所猜疑,最后遭罗炽下狱。黄杰立刻被蒋派任陆军总司令,全力安抚军心,并清除孙立人系统的军官。1958年,黄杰被派接任警备总司令,组建国民党去台之后最重要的特务机关。