لا نصل إلى العصر الجاهلي حتى نجد اليهود منتشرين في اليمن والحجاز1، والمظنون أنهم هاجروا من موطنهم الأصلي في فلسطين إلى الجزيرة على أثر اصطدامهم بالقيصر طيطوس"Titus"وهدمه للهيكل سنة 70 للميلاد، وكذلك اصطدام القيصر هدريان بهم سنة 132؛ ففي هذه الأثناء فر كثير منهم إلى الحجاز، وسقط غير قليل منهم إلى اليمن. وقد تكون هجراتهم أقدم من ذلك. ولكن ليس بين أيدينا نصوص وثيقة. نعرف منها بالضبط مراحل وفودهم على الجزيرة سواء في الحجاز أو اليمن، وحتى هجراتهم في أيام طيطوس وهدريان غير واضحة تمامًا.
وقد استطاع يهود اليمن في أوائل العصر الجاهلي أو بعبارة أخرى في أوائل القرن السادس الميلادي أن يؤثروا في ملك من ملوك التبابعة هو ذو نواس، وأن يدخلوه في دينهم، وقد دفعوه دفعًا إلى التنكيل بنصارى نجران وتحريقهم، وفي ذلك نزلت الآيات الكريم: {قُتِلَ أَصْحَابُ الْأُخْدُودِ، النَّارِ ذَاتِ الْوَقُودِ، إِذْ هُمْ عَلَيْهَا قُعُودٌ، وَهُمْ عَلَى مَا يَفْعَلُونَ بِالْمُؤْمِنِينَ شُهُودٌ، وَمَا نَقَمُوا مِنْهُمْ إِلَّا أَنْ يُؤْمِنُوا بِاللَّهِ الْعَزِيزِ الْحَمِيدِ} .
1 راجع في اليهودية بجزيرة العرب كتاب تاريخ العرب قبل الإسلام لجواد علي الجزء السادس وكذلك كتاب مرجليوث: