17歲，卡扎菲便將推翻與英國合謀的利比亞執政者定爲人生目標。他雄辯滔滔的鼓動和指點江山的氣魄，使其很快成爲學生領袖。他祕密組織學生團體，企圖暗殺利比亞國王，並組織支持埃及和納賽爾總統反對以色列的示威遊行。
1961年10月，因組織反對解散埃及與敘利亞聯盟的示威遊行，卡扎菲被開除學籍。之後，他精心籌建地下組織並對組織成員提出要求：努力學習，按時祈禱，不許飲酒，不準打牌，不玩女性。這也成爲後來《綠皮書》中的幾項重要原則。
在納賽爾《革命哲學》的影響下，卡扎菲認識到“武力”的神奇，“殷切盼望着向敵人開火”。1963年，他進入利比亞班加西軍事學院學習，在軍隊中建立以他爲首的、由12人組成的“自由軍官組織”中央委員會以及下屬的“人民委員會”，着手策劃推翻伊德里斯一世的統治。
1965年，卡扎菲從班加西軍事學院畢業，獲少尉軍銜。次年，他到英國比肯斯菲爾德裝甲兵無線電通訊學校受訓。半年的培訓學習結束後，卡扎菲回利比亞擔任通訊兵團上尉軍官。
服役期間，他親自設計和建立了一個龐大的通訊網，把一大批年輕的下級軍官聯合在一起。
這個時候，卡扎菲出現在美國中情局的視野中他想推翻英國扶持的政府正合美國人胃口。在卡扎菲當時看來，中情局的到來將成爲他政變成功的關鍵因素，不僅得到了大量的物資支援，還獲得了許多重要情報。
卡扎菲決定提前行動。
但那是一場有了物資和情報支援還進行得稀裏糊塗的革命。
在開始行動之後，卡扎菲命令手下乘飛機前往首都組織塔爾霍納軍營的接管工作。可當此人到達班加西機場時才發現，機票售罄。抵達後，他坐計程車趕赴軍營，卻把武器落在了車上。
在班加西，卡扎菲親自帶頭行動。他坐在荷載武器的車裏，一馬當先地率領手下前去佔領電臺。半路他發現，在前往班加西電臺的路上竟然只有自己一人，後面的車輛在岔路口浩浩蕩蕩地跟丟了。“革命”的車輛繞城一週，竟然沒找到要佔領的電臺，無奈之下只好原路返回。
與此同時，在的黎波里城外負責接管防空部隊的夥伴們，到行動伊始才發現起事的彈藥不夠：600個人只有1050發子彈可供分配。幸好一路折騰下去沒有遇到任何抵抗老國王正在土耳其，而留守國內的王儲兼首相哈桑·裏達王子則在王宮中喝得酩酊大醉。
次日6時30分，卡扎菲通過班加西電臺播報了第一號通報。這是新政權的最初消息，廣播是匿名的(出於安全考慮，政變一週後，卡扎菲才亮明身份)。倉促準備的公報不乏機智：“利比亞人民，爲了履行你們的意志，實現你們衷心的願望，響應你們不斷提出的變革要求和你們爲達到此目的而奮鬥的渴望，你們的軍隊已經採取了推翻這個反動和腐敗政權的行動……”
1969年9月1日，“那一天，從頭到尾毫無章法，陰差陽錯”，卡扎菲就這樣蹩腳地政變成功，後來被形容爲“發動了一場不流血的政變”。
