Kanuni Sultan Süleyman’ın sadrazamı Rüstem Paşa tarafından yaptırıldığından “Rüstem Paşa Kervansarayı” olarak anılmaktadır. Büyük kervansaray ve küçük kervansaray bölümlerinden oluşan yapı, H.968 (M.1560-1561) yılında inşa edilmiştir. Büyük kervansarayın Mimar Sinan tarafından yapıldığı kesindir. Küçük kervansarayın kim tarafından yapıldığı bilinmiyor.
Kervansaray döneminin en önemli konaklama yapılarından birdir. Uzun yıllar yapıldığı amaç için kullanılmıştır. 1921 yılında bankerlerin iş merkezi, 1930’lu yıllarda zengin tüccarların ticarethanesi, 2. Dünya Savaşı’ndan sonra ipek kozalarının satıldığı bir han olarak kullanıldı.

Edirne Rüstem Paşa Kervansarayı, iki katlıdır. Birinci katta 39, ikinci katta 41 oda vardır. Ön cephelerde 21 dükkân bulunmaktadır.
Zaman içinde kervan kültürünün bitmesi, yeni ulaşım ağlarının ve araçlarının ortaya çıkması, konfor anlayışının değişmesi, ekonomik kaynakların kıtlığı gibi nedenlerle gerekli bakım ve onarım yapılmamış, kervansaray harap olmuştur. Yapı mülkiyeti sahibi Vakıflar Genel Müdürlüğü, ilk kez 1960-61 yıllarında restorasyon çalışmalarına başlamıştır. 1964-65 yılları arasında restorasyon çalışmaları devam etmiştir, 1966 yılında otele dönüştürüldü. 150 yataklı bir otel olarak 1972’de hizmete açılmıştır. Bu projeyle mimar Ertan Çakırlar, 1980 yılında Ağa Han Mimarlık Ödülü’nü almıştır. Kervansaray, 1980-1988 yılları arasında kullanılmamıştır. 1988’den günümüze kadar otel işlevini sürdürmektedir.

Edirne Rüstem Paşa Kervansarayı, Mimar Sinan’ın diğer kervansaraylarından farklıdır. Külliyenin içinde değil, tek başına bir konaklama yapısı olarak inşa edilmiştir. Bunun sebebi, konumu itibariyle kervansarayın birçok ihtiyacının kent merkezinden karşılanabilir olmasındandır. Kervansaray içinde çözülmesi gereken temizlik, pişirme, yemek yeme gibi eylemlerin yapılabileceği mekânlar, yatma alanlarından bağımsız bir şekilde düzenlenmiştir. Yani, yatma bölümleriyle hizmet bölümleri işlevsel olarak ayrılmıştır. Kervansarayın zemin katı ve üst katı misafirlerin konaklaması için, küçük kervansarayın zemin katı ahır, mutfak ve depo amaçlı, üst katı hizmetlilerin konaklaması için kullanılırdı.
Revakların (önyüzü kemerlemeli, arkası körduvarlı, üstü tonoz, kubbe ya da damla örtülü geçit) arkalarında konaklama için ayrılmış odalar, odaların içlerinde nişler (duvar içinde bırakılan oyuk, göz, hücre) ve ocaklar yer almaktadır. Büyük kervansarayın üst katındaki odalardan ön cepheye bakanlar, iç içe geçilen iki odadan oluşmaktadır. Bu ikili odalardan revaklara yakın olanlar revaklardan aydınlanırken, ön cephe tarafındakiler bu cepheden ışık almaktadır. Bunların dışındaki odaların birçoğunda iç avluya ya da dışarıya bakan pencereler veya mazgallar (kale duvarlarında iç yanı geniş, dış yanı dar delik) vardır. Pencere ya da mazgal bulunmayan birkaç oda hiç ışık almamaktadır.
Edirne Rüstem Paşa Kervansarayı‘nın özgün halinde, avlu ortasında bir köşk mescidinin varlığı bilinmektedir. Anadolu Selçuklu köşk mescitleriyle benzerliği nedeniyle önemlidir. Yapılan araştırma kazılarında mescidin döşemesi tespit edilmiştir. Bu mescit, 1877-1878 Osmanlı-Rus Savaşı‘nda yıkılmıştır. Onun yerinde günümüzde bir şadırvan vardır.