Det nordafrikanske område, som de arabiske geografer betegnede Maghreb, var afskåret fra islams magtcenter mod øst af store ørkenområder. Efter den umayyadiske erobring faldt området derfor snart fra hinanden i en række mindre, selvstændige berberstater. Grundlæggerne af disse var i mange tilfælde karismatiske ledere, der stod i spidsen for folkelige, religiøse bevægelser. Deres mål var både at etablere samfund baseret på, hvad de anså for mere ufordærvede former for islam, og at bekæmpe den kristne verden igennem jihad (”hellig krig"), efterhånden som denne i stigende grad fremstod som en trussel. I stedet for kaliffernes Syrien og Irak kom Spanien mod nord til at spille en dominerende rolle som kilde til kunstnerisk og kulturel inspiration. Også den politiske udvikling i al-Andalus og i Maghreb blev nøje forbundne.

Ziriderne (972-1152) herskede over Tunesien og det østlige Algeriet. Siden aghlabidernes tid (800-909) havde hovedstaden Kairouan med den store moske udviklet sig til Nordafrikas vigtigste teologiske centrum. Hærgende beduiner, der østfra trængte frem gennem Nordafrika, tvang imidlertid ziriderne ud til kysten. Her opbyggede de en flåde, der blev starten på det sørøveri, som i mange århundreder fremefter gjorde store dele af Middelhavet usikkert, og som blev modsvaret af kristne styrkers angreb og erobringer langs den nordafrikanske kyst.

I vest erobrede almoraviderne (1062-1147) Marokko og grundlagde Marrakesh i 1062. Berberdynastiet overtog i 1090 magten i Sydspanien, idet de bebrejdede de tidligere spansk-muslimske småkongedømmer deres dekadence og manglende fromhed. Efter nogle årtier blev almoraviderne dog selv anklaget for religiøs blødsødenhed af et andet nordafrikansk berberdynasti, almohaderne (1130-1269), som det lykkedes at indtage hele Nordafrika. Almohadernes storrige styredes fra Sevilla og Marrakesh, og de strenge religiøse principper, der gennemsyrede det almohadiske samfund, modsvaredes af en arkitektonisk stil med et stiliseret, geometrisk formsprog.

Almohadernes rige brød sammen efter nederlaget i Spanien til de kristne styrker i 1212 og afløstes i Nordafrika af en række mindre stater. Ud over indbyrdes konflikter kom disse i løbet af det 14. og 15. århundrede under stigende pres fra kongedømmerne i det kristne Spanien. Snart viste der sig dog en endnu mere frygtindgydende fjende, nemlig Det Osmanniske Rige i øst, der fra det 16. århundrede udvidede sin magt vestover. På trods af alliancer med de kristne magter lykkedes det kun for Marokko med sadi-dynastiet (1510-1659) og deres efterfølgere at undgå at ende som en osmannisk lydstat.