在對外政策中，除處理德國問題外，法國還把在中歐、東歐和東南歐建立起一個從屬於自己的政治、軍事集團作爲一項重要任務。德國的戰敗意味着一個對手的消失，但代國的十月革命卻使法國失去了一個傳統的盟友。而法英關係又如此不穩定，遂促使法國在歐洲大陸去尋找新的同盟者，一些歐洲小國成爲其結盟的對象。1920年春，法國積極干預蘇波戰爭，向波蘭提供大量的軍事裝備，並派出以魏剛將軍爲首的軍事代表團前往蘇波戰場，訓練和指揮波軍作戰。
蘇波戰爭結束後，1921年法國又和波蘭簽訂軍事條約，矛盾明顯指向蘇俄，此時又促成波蘭和羅馬尼亞成立軍事同盟，同樣帶有反蘇性質。這表明，20年代初法國統治集團把蘇俄視爲眼中釘，欲先除之而後快。此時法國外交界醞釀建立一個聯合某些歐洲小國的聯盟一一多瑙河邦聯，在邦聯中匈牙利應發揮相當大的作用。直至1920年10月，法國和匈牙利的霍爾蒂政府保持着密切的聯繫，就創建邦聯一事進行磋商。法國認爲，匈牙利、奧地利和波蘭都可成爲這一邦聯的成員，但這一構想遭到了從奧匈帝國內分離出來的許多獨立國家的反對，因爲它們都擔心匈牙利和奧地利將藉機復辟，如羅馬尼亞便表示，它將堅決反對“任何建立多瑙河邦聯的企圖”。
事實上，一些擔心奧匈帝國會捲土重來的國家已在悄悄進行接觸，討論各種結盟的可能性。自1919年12月起，南斯拉夫和捷克斯洛伐克的代表便在巴黎開始談判，其目的是建立一個反對匈牙利可能發起侵略的軍事聯盟。由於這是兩個斯拉夫國家之間的接近，看上去一切很自然，沒有引起人們的特殊關注。1920年春，發生在德國的卡普暴動，以及此後魯登道夫親信祕密出訪匈牙利，試圖和匈牙利極右分子建立起聯盟的行動，引起了外界廣泛的猜測和疑懼。於是南斯拉夫和捷克斯洛伐克也就加快了相互接近的步伐。
1920年4月，捷克斯洛伐克首先向南斯拉夫提出了建立稱爲小協約國的軍事同盟方案。捷克外長貝奈斯在推動捷南兩國建立軍事同盟問題上表現得非常積極，他直截了當地指出，要使擺脫奧匈帝國統治的國家繼續保持自己的獨立，就得相互結盟。8月14日，捷南兩國簽訂了同盟條約，規定簽約之一方如遭到匈牙利的進攻，另一方即應提供一切必要的幫助。捷南兩國訂立同盟一事引起了法國方面的重視，法國政府提出了各種在歐洲建立政治、軍事同盟的方案，如建議吸收保加利亞和波蘭加入小協約國。
不僅如此，法國還曾設想過在中歐和東歐建立起一個包括奧地利、南斯拉夫、捷克斯洛伐克、波蘭及希臘在內的具有相當規模的政治及軍事集團，必要時還可吸收匈牙利及保加利亞參加。然而法國政府在這方面卻碰了壁，顯然東歐的一些小國並不想立即融入一個目標並不明確的大集團中去，此外它們自然也不希望奧地利和匈牙利這兩個奧匈帝國的統治民族加入到它們的行列中來。1921年年初，一個突發事件加速了小協約國的最終形成。3月底，前奧匈帝國皇帝兼匈牙利國王卡爾一世突然從流亡地瑞士返回匈牙利，霍爾蒂政權對此未加阻止，直至4月初始表態，要求其離境。
與此同時，英、法、意等大國最初也保持一種奇怪的沉默。此事引起了捷、南、羅等國的恐懼，它們不約而同地把它看作是哈布斯堡皇朝復辟的前兆。羅馬尼亞和捷克斯洛伐克儘管爲爭奪上喀爾巴阡山而長期不和，但此時在面臨共同的威脅時，也儘快將分歧放在一邊，於4月23日簽訂了包括軍事協定在內的同盟條約。6月6日，南斯拉夫和羅馬尼亞在貝爾格菜德簽訂了類似的同盟條約，矛頭針對匈牙利和保加利亞。至此，小協約國遂全面建成。此後，捷克斯洛伐克又和南斯拉夫於8月簽訂了專項的軍事協定，規定兩國將用武力來制止匈牙利試圖奪回失去的士地的行動，使小協約國更加成形，宗旨也更明確。
1921年秋，由於卡爾一世試圖利用匈牙利國內出現的不穩局勢，再次進行復闢的嘗試，激起了剛組成的小協約國的憤怒和強烈反應。捷克斯洛伐克、南斯拉夫和羅馬尼亞共同要求制止這一行爲，並迫使匈牙利在小協約國的監督下實施裁軍，從而顯示了小協約國的決心和力量。11月6日，波蘭和捷克斯洛伐克簽署盟約，它表示既尊重捷克斯洛伐克、羅馬尼亞和南斯拉夫之間的盟約，即尊重小協約國，同時也尊重波蘭、羅馬尼亞和法國之間簽訂的各種條約這樣，波蘭同小協約國以及法國之間都建立了緊密的關係。1924年、1926年和1927年，法國先後和捷克斯洛伐克、羅馬尼亞和南斯拉夫簽訂了《友好同盟條約》。
如果說小協約國在初期帶有自發形成的性質，那麼最終還是被納入了法國外交所設計的軌道，成爲由法國領導的政治和軍事集團。此後，法國便把小協約國視爲自己在東歐的支柱，以取代昔日強大的盟友俄羅斯，但這種希望卻是註定要破滅的。首先，組成小協約國的南、捷、羅3國雖然在反對哈布斯堡皇朝的復辟問題上能找到共同點，但在領土、經濟、政治諸方面仍存在着不少分歧和矛盾，因此無法實施一種共同的對外政策。其次，一戰後法國經濟實力已大不如前，無法向小協約國提供大量的貸款，不能像過去那樣隨心所欲地控制這些東歐小國。再次，法國在一戰後採取的戰略是純粹防禦性的，根本不可能對一旦遭到攻擊的小協約國提供任何實質性的援助。因此，隨着時間的流逝，小協約國對法國的離心傾向也就越來越大，直至最後完全擺脫法國的影響，其自身也分崩離析。
