杜魯門在約翰遜去職之際趁熱打鐵，一舉完成一樁擱置已久的心事：撤換中央情報局局長希倫科特海軍少將。中央情報局設立頭三年，由於缺乏強有力的領導，其表現一直不佳。在馬歇爾將軍的敦促下，杜魯門挑選沃爾特·比德爾·史密斯將軍出任中央情報局新局長。史密斯在二戰時曾是艾森豪威爾將軍的參謀長，後來出任美國駐莫斯科大使。
史密斯此人瘦骨嶙峋、疾病纏身，但他才智出眾、管理能力非凡，在職業軍人圈中即便不是深孚眾望，也是一位備受敬仰的人物。正如中央情報局的一位部下雷·克萊恩在幾年後說起史密斯：「甲殼蟲（他的綽號）是一個性情非常一貫的人，他永遠是怒氣沖沖。」但是史密斯在中央情報局的存在，意味著這個幽靈機關不再是遭受軍方和國務院冷遇的孤兒了。