درس على أبيه القرآن الكريم ومبادئ العربية والفقه، ثم التحق بالدراسة النظامية، وحصل على شهادة المعلمين، وواصل تعليمه بالمدرسة الوطنية للموهوبين في شمال نيجيريا، ثم التحق بمدرسة العلوم العربية (كلية القضاء) في كانو حيث درس اللغة العربية إلى جانب الدراسات الإسلامية لمدّة خمسة أعوام. وبعد تخرجه عام 1947، حصل على منحة دراسية في معهد التربية في بخت الرضا في السودان، ونال شهادة الدبلوم العالي في القضاء. ولما رجع إلى نيجيريا، ارتبط بالزعيم أحمدو بللو، وأصبح ساعده الأيمن في الدعوة الإسلامية ومحاربة البدع والخرافات وشاركه في إنشاء منظمة جماعة نصر الإسلام، أكبر هيئة إسلامية في نيجيريا. وكان أول عالم أفريقي أقام جسراً للتواصل بين كتاب الله العظيم واللسان الهوساوي، من خلال جهوده وإنجازه لترجمة معاني القرآن إلى لغة الهوسا السائدة في غرب أفريقيا. ومنحه أحمدو بللو وساماً ذهبياً أمام الجماهير تكريماً له.
عمل الشيخ جومى لبعض الوقت في سلك التعليم، ثم التحق بالسلك القضائي. وبعد استقلال نيجيريا، أصبح مساعداً لرئيس القضاء في محكمة الاستئناف الشرعية العليا، ثم رئيساً للقضاء في الإقليم الشمالي من البلاد. كما تولَّى منصب المستشار الديني لرئيس وزراء إقليم شمال نيجيريا، وأصبح مديراً عاماً للشؤون الدينية بمجلس الشورى، ورئيساً للهيئة الوطنية لشؤون الحج والحجاج، في ذلك الإقليم. وفي عام 1976، عُيِّن مفتي البلاد الأكبر.
توفي الشيخ أبو بكر محمود جومي في لندن بتاريخ 1992/9/11.