Construite en 857 au quartier Qaraouiyine habité à l’époque par des réfugiés kairouanais qui ont émigré de Tunis et se sont installés sur cette rive de l'Oued Fès au  9ème siècle.

Construite sous les Idrissides, par Fatima Al Fihri, fille d’un riche négociant kairouanais, elle est devenue en 933 la principale mosquée la ville.

La mosquée petite à ses débuts, s'est agrandie au fil des siècles pour atteindre sa grandeur actuelle est devenir l'université la plus ancienne du monde arabe islamique et un carrefour incontournable des oulémas et autres savants du monde Arabo-Musulman. 

Quatorze portes permettent l’accès à l’intérieur de l’université qui dispose d’une précieuse bibliothèque riche de 30.000 volumes. Elle devient un passage obligé et accueille des hôtes célèbres tels l'historien Ibn Khaldoun, le poète et écrivain Ibn al Khatib, les philosophes Avenpace et Averroès, Léon l'Africain.