Se empezó a construir como mezquita en el año 784; hasta hace poco se creía que tras la apropiación por los conquistadores musulmanes de la basílica hispanorromana de San Vicente Mártir4​ y la reutilización de parte de los materiales, quedando reservada al culto musulmán, pero los estudios arqueológicos más recientes descartan esta hipótesis.​ El edificio fue objeto de ampliaciones durante el Emirato de Córdoba y el Califato de Córdoba. Con 23 400 metros cuadrados, fue la segunda mezquita más grande del mundo en superficie, por detrás de la Mezquita de La Meca, siendo superada posteriormente por la Mezquita Azul (Estambul, 1588). El muro de la qibla no fue orientado hacia La Meca, sino 51º grados hacia el sur; esto era habitual en las mezquitas de al-Ándalus.

De Toni Castillo Quero – Flickr: [1], CC BY-SA 2.0, https://commons.wikimedia.org/w/index.php?curid=13926840
De José Luis Filpo – Flickr: Puerta de Bab al-Wuzara. De los Visires. De San Esteban. De Bab al-Uzara. De San Sebastián. (785-855), CC BY 2.0, https://commons.wikimedia.org/w/index.php?curid=14014986
De Steven J. Dunlop, Nerstrand, MN, CC BY-SA 3.0, https://commons.wikimedia.org/w/index.php?curid=91520