ألحقه والده بالمدرسة العربية، بعد أن أخرجه من المدرسة الإنجليزية بسبب الاستعمار. ثم واصل تعليمه حتى تخرَّج في كلية دار العلوم في ديوبند عام 1952. وفي العام ذاته، التحق بالأزهر في مصر لتقوية لغته العربية، كما التحق بقسم التخصص التدريسي بكلية اللغة العربية، وحصل على شهادة العالمية مع إجازة التدريس. ثم عاد إلى الهند عام 1955. وفي عام 1956، عمل في قطر مدرسًا للغة العربية لغير الناطقين بها، وفي العام التالي، أصبح أمينًا لدار الكتب القطرية، وكانت تُسمَّى “المكتبة العامة”. وفي عام 1966، نال درجة الدكتوراة من جامعة كيمبردج في بحث عن الأدبيات المُبكرة للحديث. ثم قدم إلى المملكة العربية السعودية، ودرَّس في كلية الشريعة بمكة المكرمة، ثم في كلية التربية في الرياض؛ أستاذًا لمادة مصطلح الحديث في قسم الثقافة الإسلامية عام 1973.
أجرى البروفيسور الأعظمي دراسات قيِّمة مركَّزة على السُنَّة النبوية؛ اكتشافًا لبعض المخطوطات فيها وتحقيقًا لها، وبيانًا لمنهج المحدِّثين في نقدهم، وردًا على هجمات أعداء السُنَّة من مستشرقين وغيرهم. ويأتي في طليعة كتبه: “دراسات في الأدبيات المُبكِّرة للحديث”، “منهج النقد عند المحدِّثين”، “دراسات في الحديث النبوي وتاريخ تدوينه” و”كُتّاب النبي صلَّى الله عليه وسلَّم”، وتحقيق “صحيح ابن خزيمة”، و”العلل” لابن المديني. تُرجمت العديد من أعمال البروفيسور الأعظمي إلى عدّة لغات. كما أنشأ، بعد أعوام من العمل الدؤوب، مركزًا لخدمة السُنَّة على شبكة الإنترنت، وقام بتخزين عدد من كتب السنّة فيه.
كتبت هذه السيرة الذاتية في عام استلامه للجائزة.