في 7 رمضان سنة 361 هجرية، أمر المعز لدين الله الفاطمي، ببناء الجامع الأزهر، فبدأ القائد جوهر الصقلي تشييد الجامع الأزهر، في  عام 970 ميلادية، أىّ في العام التالي لوضع حجر الأساس لمدينة القاهرة، واستغرق بناء المسجد نحو 28 شهرًا، كما كان في البداية يحمل اسم «جامع القاهرة» وليس «جامع الأزهر»، التسمية التى جاءت على اسم بنت النبى، فاطمة الزهراء، التى ينتسب إليها الفاطميون، ما قيل إنه حمل الاسم تفاؤلاً بما سيكون له من الشأن والمكانة بازدهار العلوم فيه.
اختلف المؤرخون في نية الفاطميين من إنشاء الجامع الأزهر، البعض بقول إن الفاطميين لم يقصدوا من إنشاء الأزهر أن يصبح منبرًا لنشر المذهب الشيعي، و لكن كثير من المؤرخين يرون أن هذا بالضبط كان مقصد الفاطميين من إنشائه، وفقًا لموقع «جامع الأزهر».
 
يُعد جامع الأزهر أول عمل فني معماري أقامه الفاطميون في مصر و لايزال قائمًا حتي الآن، و قد زاد في بنائه كثير من الخلفاء الفاطميين، و أعيد تجديد أجزاء كثيرة منه خلال العصور المتوالية.
تحول الجامع الأزهر إلي جامعة في عهد الخليفة الفاطمي العزيز بالله، فقد اقترح الوزير يعقوب بن كلس علي الخليفة الفاطمي أن يقوم بتعيين جماعة من الفقهاء للقراءة و الدرس يعقدون حلقات الدرس كل يوم جمعة من صلاة الجمعة إلي صلاة العصر، وكان عددهم 37 فقيهاً، وأجري لهم المرتبات الشهرية لنفقاتهم، ثم أنشأ مسكنًا خاصًا للطلاب بجوار الأزهر يعتبر أول رواق أنشي لطلبة العلم فيه و توالت الأروقة بعد ذلك حتي بلغ عددها تسعة وعشرين.
 
وبعد قيام الدولة الأيوبية، أغلق جامع الأزهر، بسبب تحول مصر للمذهب السني، واستمر مغلقًا 100 عام إلى أن أعاد فتحه السلطان الظاهر بيبرس، متمسكًا بالمذهب السني، كما يُسجل كتاب «الجامع الأزهر» أن الظاهر بيبرس البندقداري الذى حكم مصر بين عامى 1269 و1277 ميلادية، أعاد صلاة الجمعة إلى الجامع الأزهر، بداية من يوم الجمعة، 18 ربيع الأول، 665 هجرية، بعد انقطاعها لمدة تقارب مائة سنة، وقام بالتجديد في عمارة الجامع.
أصاب الجامع زلزال سنة 702 هجرية / 1302 ميلادية، في عهد السلطان المملوكي الناصر محمد بن قلاوون فجددت عمارته، وأقام السلطان قايتباي منارة رشيقة سنة 1476 ميلادية/ 881، بالإضافة لأعظم المنارات والتى أنشأها السلطان قنصوه الغوري سنة 1510 ميلادية/ 915، تلك المنارة الضخمة ذات الرأس المزدوجة.
 
 
تمتع جامع الأزهر بدور سياسي أيضًا، ففي ثورة القاهرة الأولى، التى اندلعت في أكتوبر 1798 ضد الاحتلال الفرنسي لمصر، قُتل الجنرال ديبوى، فاتخذ الثوار من الجامع مقرًا لهم فأطلق الجيش الفرنسي في اليوم التالى القنابل على الجامع والمنطقة المجاورة، فانفجرت في الجامع، كما وثفها المؤرخ، عبد الرحمن الجبرتي، قائلاً: «ثم دخلوا إلى الجامع الأزهر وهم راكبون الخيل، وربطوا خيلهم بقبلته وعاثوا بالأروقة وكسروا القناديل، ونهبوا ما وجدوه من المتاع، ودشتوا الكتب والمصاحف، طرحوها بأرجلهم ونعالهم داسوها».
وفيما بعد، دخل جنود الاحتلال البريطاني الجامع الأزهر، كما فعل الفرنسيون، فطارد جنود الاحتلال المتظاهرين المحتمين بالجامع واقتحموه بأقدامهم، إبان ثورة 1919، حينها احتج الأزهر الشريف بشدة، فاضطر المندوب السامي البريطاني الجنرال اللنبي إلى «تقديم اعتذار رسمي لشيخ الجامع الأزهر».