Le nom de la Koutoubia viens de kutubiyyun, en référence aux souks des libraires. L'édifice religieux que l'on doit aux almohades s'élève sur le site d'un palais almoravide, Ksar El Hajar, Palais des pierres, détruit par les nouveaux maîtres de Marrakech après leur prise de la ville en 1147.
Sa construction fut décidée en 1158 par le sultan Almohades Abdel Moumen aussitôt après la conquête de Marrakech. Sa construction fut achevée en 1199 avec la construction de son minaret initié par le sultan, Yacoub el-Mansour. C'est un édifice religieux représentatif de l'art des Almohades.
La Koutoubia a abrité le minbar, chaire à prêcher, connu sous le même nom et récemment restauré et exposé au palais Badiâ. Ce minbar a été exécuté à Cordoue et fut transféré dans sa mosquée à Marrakech. Les Almohades le mirent à la Koutoubia dans laquelle il fonctionna jusqu'aux années 1960.
La mosquée de la Koutoubia est devenue l’emblème de Marrakech.
L'accès de la mosquée est réservé aux musulmans.