1924年にヨシフ・スターリンの目に留まり、党中央委員会に引き入れられる。1925年、中央委員会組織局で働き、後にスターリン個人の秘書局員となり、1932年2月にその責任者となる。1934年3月に全ソ連邦共産党組織部長となり、1936年8月に始まったスターリンの大粛清にラヴレンチー・ベリヤと共に加担し、その功で1939年3月に第18回党大会で中央委員会委員、党書記局員となり、党幹部要員管理局長として党官僚の人事を統制できるようになり、正式な組織局員となった。 1941年2月には政治局員候補となるも、その後ベリヤとは政敵になった。1941年6月に独ソ戦が開始されると、マレンコフはベリヤ、ヴォロシーロフ、モロトフと共にスターリンを議長とする国家防衛委員会の委員となった。この委員会は戦時においてソ連国内の政治・経済を完全に掌握するものであり、マレンコフはソ連の最有力政治家の1人となった。1941