1902年5月11日出生於格林什那村的烏克蘭農民家庭。畢業於烏克蘭紅色指揮員聯合學校(1922)，工農紅軍炮兵指揮人員訓練班(1928)和捷爾任斯基軍事學院高級指揮人員進修系(1939)。蘇聯軍事家，蘇聯元帥(1955)，兩次蘇聯英雄(1943.10.23，1978.2.21)。
1920年參加蘇軍。
1922年起在北高加索軍區和白俄羅斯軍區工作，歷任炮兵排長、連長、營長和炮兵團參謀長。
1924年任炮兵團長。
1926年加入蘇聯共產黨。參加過蘇俄內戰，當時爲列兵，曾在烏克蘭和克里木對白衛軍和馬赫諾匪幫作戰，在頓河和北高加索同反革命匪徒作鬥爭。
1935年6月任遠東機械化第23旅炮兵主任。
1936年9月任基輔軍區機械化第133旅炮兵主任。學院畢業後，任彼列科普步兵第5l師炮兵主任，在該師編成內參加了1939-1910年蘇芬戰爭。後任敖德薩軍區步兵第35軍炮兵主任。
1940年8月-1941年5月任該軍區機械化第2軍炮兵主任。
1941年5月起任摩托化反坦克炮兵第1旅旅長，參加了衛國戰爭。後歷任步兵第15軍軍長、騎兵第6軍軍長和騎兵機械化軍隊集羣司令，在西南方面軍參加了弗拉基米爾-沃倫斯基、羅夫諾、沃倫斯基新城、基輔和切爾尼戈夫等地的防禦戰。莫斯科戰役時，參加了西南方面軍右翼的進攻戰役。
1941年底任第6集團軍副司令。
1942年3月起歷任第38集團軍、坦克第1集團軍、近衛坦克第1集團軍和第40集團軍司令。
1943年10月至戰爭結束復任第38集團軍司令。曾指揮部隊參加了哈爾科夫地區和頓河地區的作戰，以及斯大林格勒戰役。指揮第40集團軍在沃羅涅日方面軍編成內，參加了奧斯特羅戈日斯克-羅索什、沃羅涅日-卡斯托爾諾耶和別爾哥羅德-哈爾科夫等進攻戰役，庫爾斯克戰役和強渡第聶伯河戰役。指揮第38集團軍在烏克蘭第1方面軍編成內，參加了基輔、日托米爾-別爾季切夫、普羅斯庫羅夫-切爾諾維策、利沃夫-桑多梅日和喀爾巴阡-杜克拉等進攻戰役;在烏克蘭第4方面軍編成內參加了西喀爾巴阡、摩拉瓦-俄斯特拉發和布拉格等進攻戰役。
戰後，曾任集團軍司令(1945-1948年)、莫斯科防空地域(後改爲防空區)司令(1948-1953年)、莫斯科軍區司令(1953-1960年)、蘇聯國防部副部長兼戰略火箭軍總司令(1960-1962年)。
莫斯卡連科於1953年參與了鎮.壓反革命貝利亞集團的運動。之後又扶搖直上,1955年3月11日晉升蘇聯元帥，1962年起任國防部總監兼國防部副部長，直到1983年才光榮卸任。
1985年，逝世，葬於紅場克里姆林宮宮牆下。
他所指揮的部隊，在利沃夫方向突破敵人堅固的縱深梯次防禦時，以及在攻佔基輔、日托米爾、日梅林卡、文尼察、利沃夫和摩拉瓦-俄斯特拉發等城市的作戰中，戰功卓著。所屬部隊因勝利作戰，受到最高統帥18次通令嘉獎。他本人因表現了英雄主義精神，被授予蘇聯英雄稱號。
1956年起爲蘇共中央委員。蘇聯第二--九屆最高蘇維埃代表。捷克斯洛伐克社會主義共和國英雄(1969)。獲列寧勳章6枚，十月革命勳章1枚，紅旗勳章5枚，一級蘇沃洛夫勳章2枚，一級庫圖佐夫勳章2枚，一級波格丹·赫梅利尼茨基勳章和三級"在蘇聯武裝力量中爲祖國服務"勳章各1枚，獎章及外國勳章多枚，榮譽武器1件。
莫斯卡連科是國內戰爭參加者,他的基本職業是炮兵,曾在3所軍事學校畢業.在衛國戰爭開始時,擔任反坦克旅旅長,後來擔任一些騎兵機械化集羣,諸兵種合成集團軍,坦克集團軍的司令，從戰爭一開始他就在前線參加戰鬥,在烏克蘭,頓河和伏爾加河下游的戰鬥中獲得了豐富的經驗，脫穎而出成爲一名軍事統帥，在進攻戰中起到很重要的作用，他指揮的部隊最善於突破敵縱深防禦。莫斯卡連科元帥爲蘇聯軍事的現代化,尤其在導彈武器方面,做出了不可磨滅的貢獻.
據他的幾位戰友回憶，莫斯卡連科是個硬漢子，出名的爆脾氣，在指揮戰鬥時常常怒氣衝衝，不僅咒罵敵人，還會威脅要槍斃性格軟弱的軍官。另外莫斯卡連科有仇視文職人員的傾向，是典型的俄國武夫。
蘇聯解體後，莫斯卡連科元帥的家人把莫斯卡連科服役時獲得的全部勳章放到網上拍賣，當年莫斯卡連科出生入死得到的嘉獎，在蘇聯解體後也只能爲家人換點錢花。
