قامت منذ البداية على مبدأ التسامح واحترام العقائد والضمائر، خصوصا إزاء اليهود والنصارى أعنى أهل الكتب التي يقر الإسلام قدسيتها.
وكانت النصرانية واليهودية في الوقت الذي ظهر فيه النبي العربي، وثب الإسلام من الصحراء، هما دين السواد في كثير من البلاد التي فتحها العرب.
فكانت الجزية، في كل ما فرضه الدين الجديد على غير المسلمين، للاحتفاظ بحرية عقائدهم وشعائرهم. وكان هذا الامتياز مقصورة على اليهود والنصاري بادئ ذي بدء، ولكنه لم يلبث أن امتد في زمن النبي ذاته إلى أبناء أديان أخرى مثل قبائل البحرين وسوادهم من الزرادشتية.
وفي عهد عثمان ثالث الخلفاء امتد هذا الامتياز إلى بربر إفريقية التي فتحت في عهده، وشبه البربر باليهود والنصارى والزرادشتية في التمتع بحرية الاعتقاد والشعائر نظير الجزية. والظاهر أن الوثنية كانت ماتزال تسود يومئذ قبائل البربر.
وكانت الوثنية بلا ريب دين البربر قبل الفتح الروماني، ولكن رومة فرضت النصرانية منذ الفتح على البربر، فغلبت على سكان إفريقية منذ القرن الرابع. والظاهر أيضا أن كثيرا من هذه القبائل كانت لعيد الفتح الإسلامي تدين باليهودية.
وعلى أي حال فقد شملت سياسة التسامح الديني كل الشعوب المفتوحة وكانت منها مجتمعات كثيرة تدين بالشعائر الوثنية. >
يقول العلامة جولدسهر: «سار الإسلام، لكي يصبح قوة عالمية، على سياسة بارعة. ففي العصور الأولى لم يكن اعتناقه أمر محتومة، فإن المؤمنين بمذاهب التوحيد، أو الذين يستعدون شرائعهم من كتب منزلة كاليهود والنصارى والزرادشتية، كان في وسعهم متي دفعوا ضريبة الرأس (الجزية) ، أن