Une architecture grandiose couplée d’un prestige religieux, voilà les aspects qui  confèrent à la Grande Mosquée une place de choix dans l’espace urbain et dans l’idéal  des fidèles musulmans. La Mosquée fut entièrement  bâtie  en pierre. Les pierres furent taillées suivant la dimension et la forme  d’une brique. L’édifice a une allure imposante, telle une forteresse percée de huit portes, hérissée de tours et de bastions. Ces tours représentent en réalité  des porches et contreforts datant des périodes hafside et ottomane. Sa vétusté et la finesse de son architecture font d’elle une merveille de l’art islamique.

La Grande Mosquée de Kairouan est la structure la plus antique, érigée en faveur du culte musulman. La Mosquée a été édifiée  par les conquérants musulmans, en l’an 50 de l’Hégire, 670 ap. J-C. Construite sur un oratoire du VIIe siècle rénové en 703, cette forteresse est de loin le plus antique et plus fascinant sanctuaire de l’espace musulman. Sa structure actuelle met en évidence  l’œuvre de Ziyadat Allah Ier qui décida de son rétablissement en 836. En effet, sous le règne de la dynastie des Aghlabides (IXe siècle), de grands travaux de reconstruction et d’enjolivement attribuent à la mosquée son aspect actuel.

Les remaniements, nombreux mais limités, n’ont pas perturbé ce lieu de culte formant un quadrilatère mesurant 135 mètres de long et 80 mètres de large. Il comprend une splendide salle de prière hypostyle de dix-sept nefs soutenue par une multitude de colonnes de marbre et de porphyre au sud. Une énorme cour dallée bordée de portiques se trouve au nord, dans l’axe du petit côté nord. Ces pylônes sont interrompus par la forme massive d’un minaret de plan carré à trois étages. En dehors de sa valeur artistique et architecturale, elle a joué un rôle primordial dans l’islamisation de tout l’espace musulman, selon l’universitaire et islamologue tunisien Mohamed Talbi.

La forteresse a été érigée selon un plan en forme de quadrilatère irrégulier, approximativement trapézoïdal. L’intérieur de la Grande Mosquée de Kairouan est fait de murs renforcés de contreforts de formes et de tailles différentes. L’édifice dispose en son enceinte de neuf portes : six ouvrant sur les portiques de la cour, deux ouvrant sur la salle de prière. La neuvième porte  permet d’accéder à la salle de l’imam mais aussi à la maqsura.