تألق نجم أبي داود في الحديث واشتهر بعلمه وعمله، حتى أصبح من كبار أئمة الإسلام في عصره، وروي عنه الترمذي والنسائي وغيرهما من الأئمة الأعلام، ذهب أبو داود إلى بغداد ومنها إلى البصرة ويروى في سبب رحيله إليها: أنه ذات يوم طرق باب أبي داود طارق؛ ففتح له الخادم، فإذا بالأمير (أبو أحمد الموفق) ولي عهد الخليفة العباسي يستأذن، فأذن له أبو داود، فدخل الأمير وأقبل عليه، فقال له أبو داود: ما جاء بالأمير في هذا الوقت؟! فقال: خلال ثلاث، يعني أسباب ثلاثة:
أما الأولى: أن تنتقل إلى البصرة فتتخذها وطنًا، ليرحل إليك طلبة العلم من أقطار الأرض، فتعمر بك، بعد أن خربت وانقطع عنها الناس بعد محنة الزنج.
والثانية: أن تروي لأولادي كتاب (السنن) .
والثالثة: أن تفرد لهم مجلسًا لأن أبناء الخلفاء لا يجلسون مع العامة!! فقال أبو داود: أما الثالثة فلا سبيل إليها لأن الناس شريفهم ووضيعهم في العلم سواء.
وحاز كتاب السنن الذي جمعه أبو داود وعُرِفَ بـ (سنن أبي داود) إعجاب الناس وتقدير العلماء، فقد روي أنها قُرئت على ابن الأعرابي فأشار إلى النسخة، وهي بين يديه، وقال: لو أن رجلا لم يكن عنده من العلم إلا كتاب الله عز وجل ثم هذا الكتاب يقصد سنن أبي داود، لم يحتج إلى شيء من العلم بعد ذلك، وهذا الكتاب الذي يبلغ عدد أحاديثه نحو أربعة آلاف حديث وثماني مائة حديث اختارها أبو داود من بين خمس مائة ألف حديث كتبها عن رسول الله صلى الله عليه وسلم.
وكان أبو داود متمسكًا بسنة الرسول صلى الله عليه وسلم، حريصًا كل الحرص على تطبيقها، وبيان أهميتها للناس ليقوموا بأدائها، وكان لأبي داود منهج أشبه بمنهج الصحابة في اتباع السنة النبوية والتسليم بها، وترك الجدل في الأمور التي تشعل نار الفتنة بين المسلمين.