騎士團出現於中世紀的十字軍東征期間，第一次十字軍遠征自1096-1099年結束後，建立起四個十字軍國家。在穆斯林虎視眈眈的威脅之下，十字軍國家處於動盪不安之中。於是，羅馬教皇組織起了幾個僧侶騎士團，這就是歷史上著名的三大騎士團，即善堂騎士團、聖殿騎士團和條頓騎士團。
中世紀的騎士充滿了神祕和魅力，其實，他們在外表上像修士僧侶，實質上卻是軍人;他們的腦子裏裝的不是《聖經》，也不是祈禱詞，而是"戰鬥";他們的武器不是說教，而是利劍和長矛;他們的刀光劍影裏也充滿了邪惡。
羅馬教皇手底下的這三支著名騎士軍團，曾一度讓西方世界各國忌憚不已，談之色變，只可惜盛極而衰，三支騎士團下場都不怎麼好，一個建了沒有領土的國家，連行政大樓都是租借別人的，表面風光，實際上一副破敗。另一個直接被滅團了，一個不剩，也是最慘的，最後一個苟延殘喘至今。
全稱是"耶路撒冷聖約翰善堂騎士團"，又被稱爲聖約翰騎士團，成立於1099年，最初是由法國貴族Gerard和幾名同伴在耶路撒冷的施洗者聖約翰教堂附近的醫院裏成立，主要目的是照料傷患和朝聖者。善堂騎士團最初的標誌是黑底白色的八角十字，到13世紀中期開始則普遍使用紅底白色的八角十字，這種八角十字也因騎士團之名被稱爲"馬耳他十字"。
騎士團在馬耳他島的統治一直持續到18世紀，1798年6月11日，拿破崙迫使善堂騎士團投降，佔領了馬耳他島，島上騎士團的教堂和修道院被法軍洗劫一空。騎士團的大部分成員前往俄羅斯。在那裏，俄羅斯沙皇保羅一世給予他們以庇護，而騎士團則選舉保羅一世爲新的騎士團大團長。
離開了馬耳他島之後，騎士團失去了領土，但作爲一個組織仍然存在。1834年騎士團在羅馬重建總部，終於再次穩定下來。騎士團的軍事使命已經完結，此後主要從事慈善事業。如今，馬耳他騎士團仍然是聯合國的觀察員組織，它的總部設在羅馬，享有外交權力，但是馬耳他大廈主權依舊屬於意大利，而不是馬耳他騎士團。
正式名稱是"基督和所羅門聖殿貧苦騎士團"，始創於1118年前後，其成員主要是來自法國的十字軍騎士。教皇給予的特權、君主王侯的捐贈以及他們的搶劫，使其迅速聚集了大量財富。然而正所謂樹大招風，13世紀末，西歐封建主在東方所建的殖民地全部被消滅殆盡之後，聖殿騎士團被迫離開巴勒斯坦，轉入法國、英國及西班牙等國活動。
而當時統治法國的腓力四世，正陷於財政極其困難的窘境之中。覬覦騎士團的財產，他暗中與受他保護的教皇克萊門特五世合謀，指控聖殿騎士團爲異端， 於1307年10月13日發出了逮捕法國境內全體聖殿騎士的密令。結果，大批聖殿騎士在偵訊過程中被折磨死去，騎士團的組織也隨之瓦解。1312年，教皇克萊門特五世下令，正式解散了聖殿騎士團。
全稱是"耶路撒冷的德意志聖瑪麗善堂騎士團"，簡寫爲OT，成員基本爲德意志貴族組成。條頓騎士團國雖然滅亡，但騎士團的黑十字標誌仍被繼承並延續下來，在第二帝國、魏瑪共和國以及第三帝國的軍旗上，黑十字都是重要的標記，代表了從條頓騎士團開始的一脈相承的軍事傳統。鐵與血鑄成的十字架下用鐵與血來澆灌。
條頓騎士團是三大騎士團中建立時間最晚的一個，但卻是影響最大的一個。它於1198年在巴勒斯坦建立，主要由德意志騎士組成，着白色外衣，佩戴黑色十字章，白色斗篷上繪有紅色寶劍和十字。
條頓騎士團在東方的拓展也並非一帆風順，1241 利克尼茨戰役，三大騎士團在內的德國與波蘭聯軍五萬人被蒙古軍擊潰;1242年4月11日楚德湖戰役，1.2萬條頓騎士團在冰湖上損失慘重,被1.6萬俄軍擊破;冰湖戰役中的毀滅性失利使條頓騎士團元氣大傷，向東方的繼續擴張就此停止。
1809年，拿破崙侵入德意志後，宣佈禁止條頓騎士團，騎士團僅在奧地利有容身之處。直到1834年，條頓騎士團才得以再次公開活動，此時他們的產業大部已經世俗化。1929年，條頓騎士團改組爲一個純宗教的騎士團，其名稱也由OT條頓騎士團，變爲DO德意志騎士團。德意志騎士團一共有大約1000名成員，他們主要從事慈善事業，包括照料病人和老人。分爲意大利、德國、奧地利、捷克、斯洛文尼亞五區進行管理，其總部設在奧地利的維也納。
