ومعروف أن هذه الجماعات اليهودية وفدت إلى شبه الجزيرة العربية في التاريخ القديم السابق على ظهور الإسلام، وأن أسباب قدومها إلى شبه الجزيرة واستقرارها في مدن الشمال بالذات، أو هجرة بعضها إلى الجنوب إنما يعود إلى فرارها من فلسطين هربا من الوقوع في ألوان السبي التي تعرّض لها اليهود على يد بعض إمبراطوريات الشرق الأدنى القديم، ومن بينها القوة الآشورية التي أخضعت الجزء الشمالي من فلسطين لحكمها عام 721ق.م، والقوة البابلية التي أخضعت فلسطين بأكملها للحكم البابلي عام 586ق.م، وأخيرًا القوة الرومانية التي أخضعت الشرق الأدنى القديم بأكمله للحكم الروماني في منتصف القرن الثاني قبل الميلاد فوقعت فلسطين بالتالي تحت الحكم الروماني. وقد نتج عن هذا السقوط المتتالي لفلسطين تحت القوى الأجنبية أن وقع باليهود في فلسطين السبي الآشوري والسبي البابلي ونتج عنهما تشتت جماعات يهودية إلى آشور وبابل تنفيذًا لسياسة التهجير الإجباري والضم المباشر للمناطق المغزوة إلى حكم آشور وبابل. واضطرت جماعات يهودية إلى الفرار من التهجير الإجباري إلى بلاد ما بين النهرين ففرت إلى المناطق الواقعة إلى الجنوب من فلسطين حيث شمال شبه الجزيرة، وبعضها هرب إلى الجنوب الغربي حيث مصر وبلاد الشمال الإفريقي. أما الغزو الروماني لفلسطين فقد نتج عنه الشتات العام لليهود، إذ أجبر الرومان اليهود على ترك فلسطين بسبب تمردهم المستمر ضد الحكم الروماني وتم خراب الهيكل عام 70م على يد الرومان، وهو ما يسمى عندهم بالخراب الثاني إشارة إلى الخراب الأول الذي تم على يد البابليين عام 586 ق.م.