條頓騎士團陸續撤出匈牙利，大量轉移到普魯士地區，建立起了自己在東歐的城堡，一舉超越了自己的大哥二哥，聖殿騎士團和醫院騎士團。在完全征服普魯士地區之後，1237年盤踞與利沃尼亞（今愛沙尼亞和拉脫維亞）的寶劍騎士團合併，並積極接納德意志移民，經營商業，開墾土地，控制了普魯士和波羅的海東部，1343年強迫波蘭國王放棄波美拉尼亞地區，又斬斷了立陶宛的出海通道。如此引起了波蘭，立陶宛兩國的極大敵視，二者加上一些周邊小勢力聯合起來組成聯軍，1410年在格林瓦爾德（又成坦能堡）大敗條頓騎士團，此後條頓騎士團江河日下，內部矛盾也相繼爆發，農民不滿騎士團橫徵暴斂，奮起反抗；領導層內部爭權奪利；城市貴族要求掌權。
1440年各方貴族在馬爾堡建立普魯士聯盟，並向外尋求幫助，1453年與波蘭結成聯盟，此後騎士團與波蘭和普魯士聯盟進行了多次戰爭，前後一共打了13年，雙方1466年在託倫簽訂合約，這次合約進一步削弱了騎士團的力量，連總部馬爾堡都失去，只得暫居柯尼斯堡，並淪為了波蘭的附庸，向波蘭稱臣。
內憂外患之下，騎士團幾近崩潰，但即將掀起的基督教路德宗宗教改革給騎士團帶來了轉機。1511年，出自霍亨索倫家族安斯巴赫支系的阿爾布雷希特當選為條頓騎士團大團長，也是條頓騎士團最後一任大團長。
阿爾布雷希特拒絕向波蘭稱臣，隨後騎士團與波蘭爆發戰爭，毫無疑問仍被擊敗，之後阿爾布雷希特回到德意志並結識了馬丁 路德。其後他辭去大團長職務，將騎士團世俗化，重組為公國，對內進行改革，對外拒絕臣服波蘭，並迎娶了丹麥國王腓特烈一世的女兒，雖然騎士團內部各種不滿，但鑑於丹麥的力量，他們無可奈何。
至此，騎士團已經喪失了西普魯士的但澤，馬爾堡地區，以及東部的利沃尼亞，甚至連貿易中心裡加也丟失了，騎士團也走到了盡頭，新的普魯士公國誕生了，但是一誕生的她周圍列強環伺，地盤狹窄，歷史的車輪在慢慢前進，而普魯士也將迎來她雙子星的另一半-同屬霍亨索倫家族的勃蘭登堡。
