فقالوا ما ندري يا أمير المؤمنين فقال عمر أتمنى لو أن هذا الدار مملوءة رجالا مثل أبي عبيدة بن الجراح

وعن هشام بن عروة عن أبيه قال لما قدم عمر الشام تلقاه الناس وعظماء أهل الأرض فقال عمر أين أخي قالوا من قال أبو عبيدة قالوا الآن يأتيك فلما أتاه نزل فإعتنقه ثم دخل عليه بيته فلم ير في بيته إلا سيفه وترسه ورحله فقال له عمر ألا اتخذت ما اتخذ أصحابك فقال يا أمير المؤمنين هذا يبلغني المقيل رواه الإمام أحمد

وعن أبي قتادة أن أبا عبيدة بن الجراح قال ما من الناس من أحمر ولا أسود حر ولا عبد عجمي ولا فصيح أعلم أنه أفضل مني بتقوى إلا أحببت أن أكون في مسلاخه

وعن نمران بن مخمر عن أبي عبيدة بن الجراح أنه كان يسير في العسكر فيقول ألا رب مبيض لثيابه مدنس لدينه ألا رب مكرم لنفسه وهو لها مهين بادروا السيئات القديمات بالحسنات الحديثات