Efter at ’Izz al-Din Kay Ka’us 2. var flygtet fra Konya, blev hans bror, Rukn al-Din Qilij Arslan 4., enehersker, men som mongolsk vasal. Hvad han havde tilbage af magt var lagt i hænderne på hans stedfortæder (na’ib), Mu’in al-Din Sulayman, som tidligere havde været i mongolen Bayjus tjeneste. Han menes at have myrdet Rukn al-Din Qilij Arslan i 664 H (1266 AD), hvilket efterlod dennes spæde søn Ghiyath al-Din Kay Khusraw 3. som hans efterfølger.

Sulayman forsatte ved magten, indtil han selv døde i 676 (1277) og blev erstattet af il-khanen Abaqas tidligere vesir Fakhr al-Din ‘Ali.

I 682 (1283) vendte Kay Khusraws fætter Ma’sud tilbage til Anatolien. Han var søn af ’Izz al-Din Kay Ka’us. Han udråbte sig selv til sultan og fik nogen støtte af Abaqa, som var villig til at lade ham have magten i det qaramenidiske område, forudsat at Kay Khusraw 3. forblev sultanen.

Mas’ud, der stadig var besluttet på at vinde tronen, drog ikke til de områder, han havde fået tildelt, og Kay Khusraw bønfaldt Abaqa om at stoppe Mas’uds intriger. I mellemtiden ankom også ‘Ala al-Din Kayqubad, en nevø til Mas’ud, til Anatolien, og han vandt turkmenernes støtte. Han blev dog besejret af Kay Khusraws og Fakhr al-Din ‘Alis tropper og flygtede til Kilikien. Uheldigvis for Kay Khusraw døde Abaqa på dette tidspunkt, og han blev efterfulgt af Ahmad, som kort før var konverteret til islam.

Ahmad stod over for et oprør i Anatolien begyndt af broderen Kangirtay, som Kay Khusraw var uklog nok til at støtte. Som gengældelse gav Ahmad det udelte sultanat til Ghiyath al-Din Mas’ud 2., og beordrede i 682 (1283) Kay Khusraw kvalt. Ahmad blev siden fældet af il-khanen Arghun, som endnu engang opdelte sultanatet i en østlig og vestlig del. Fra denne tid kæmpede de rumseljukkiske fætre om tronen, indtil dynastiet ophørte i 708 (1308).

Det rumseljukkiske dynastis arv var en arkitektonisk rigdom, der næsten er uden sidestykke i den islamiske verden. Fordi de byggede med sten, snarere end med mursten af ler, som man gjorde det i Iran, har mange af bygningerne overlevet i al deres pragt. Moskeerne, hospitalerne, karavansaraierne, mausoleerne og andre bygningsværker kan stadig den dag i dag ses mange steder i Anatolien.