بعد استشهاد الشيخ عبد الله بن ياسين مؤسس دعوة المرابطين تولى الشيخ أبو بكر بن عمر اللمتوني زعامة المرابطين في سنة (451هـ=1059م)، وقد كان زعيما سياسيا وعالما شرعيا، وخلال سنتين من قيادته لهذه الدعوة الناشئة سجل التاريخ ما يعرف بدويلة المرابطين أو دولة المرابطين الصغرى والتي شملت مساحة صغيرة جدا في شمال السنغال وجنوب موريتانيا.
وأثناء توليه قيادة دعوة المرابطين حدثت فتنة بين بعض قبائل البربر في المنطقة الواقعة بين المغرب وموريتانيا فتوجه أبو بكر بن عمر اللمتوني بقسم من المرابطين ليحلَّ الخلاف، تاركًا زعامة المرابطين لابن عمِّه الأمير الزاهد يوسف بن تاشفين.
بعد أن استطاع أبو بكر بن عمر أن يحل الخلاف، توجه نحو غرب أفريقيا ليدعو أهل هذه المناطق إلى الإسلام، ولقد وجد قبائل وثنية لم يصل الإسلام إليها أبدا.
فأقبل الشيخ أبو بكر بن عمر ومعه سبعة آلاف يعلمون الأفارقة الإسلام فدخل منهم جمع كثير وقاومه جمع آخر في حروب طويلة.
ظل أبو بكر بن عمر يتوسع في دعوته وفي سنة 468هـ= 1076م وبعد خمس عشرة سنة من تركه جنوب موريتانيا وهو زعيم على دويلة المرابطين، يعود -رحمه الله- ويرى ابن عمه الأمير يوسفَ بن تاشفين -رحمه الله- الذي كان قد تركه على شمال السنغال وجنوب موريتانيا فقط أميرًا على السنغال، وموريتانيا، والمغرب، والجزائر، وتونس، وعلى جيش يصل إلى مائة ألف فارس يرفعون راية دولة اسمها دولة المرابطين الكبرى ثم يرى أبو بكر بن عمر ابن عمه الأمير يوسف ابن تاشفين زاهدًا تقيًّا، عالمًا بدينه.
 قام الشيخ أبو بكر بن عمر اللمتوني بعملٍ لم يحدث إلاَّ في تاريخ المسلمين فقط؛ حيث قال ليوسف بن تاشفين: أنت أحقُّ بالحكم مني تستطيع أن تجمع الناس وتملك البلاد أمَّا أنا فقد ذقت حلاوة دخول الناس في الإسلام، فسأعود مرَّة أخرى إلى أدغال إفريقيا أدعو إلى الله هناك.
وبالفعل نزل أبو بكر بن عمر مرة أخرى إلى أدغال إفريقيا يدعو من جديد فأدخل الإسلام في غينيا بيساو، وسيراليون، وساحل العاج، ومالي، وبوركينا فاسو، والنيجر، وغانا، وبنين، وتوجو، ونيجيريا، والكاميرون، وإفريقيا الوسطى، والجابون وغيرها.
فكانت أكثر من خمس عشرة دولة إفريقية قد دخلها الإسلام على يدِ هذا المجاهد البطل الشيخ أبو بكر بن عمر اللمتوني، وبعد حياة طويلة متجرِّدة لله تعالى يستشهد في إحدى فتوحاته في سنة 480هـ=1087م.