Mekke'de (583-638) doğan Ebû Ubeyde, Peygamberimizin insanları İslâm'a davete başladığı günlerde, Hz Ebû Bekir vasıtasıyla müslüman olan, cesareti ve tevazusuyla öne çıkan, daha hayatta iken de cennetle müjdelenmiş olan on sahabeden birisidir. Kendisi, cahiliye devrinde okuma yazma bilen çok az kişiden de birisiydi
İslâmiyet'in yayılması için, büyük çaba gösterenlerden birisi olduğu için, Kureyş müşriklerinin ağır baskılarına maruz kalanlardandı. İşkenceler dayanılmaz hale gelince, 616 yılında yapılan, ikinci Habeşistan Hicretine katılır fakat bir müddet sonra Mekke'ye geri döner. Baskıların devam ettiğini görünce de, Medine'ye hicret edenler arasında oda yer alır. Medine'ye hicret sonrası, Peygamberimiz onu, Sa'd b. Muâz ile kardeş ilan etmişti. Kendisi Medine döneminde, İslâmiyet'in tebliğ edilmesinde ve idarî işlerde önemli görevler almıştır. Peygamber'imiz, bütün gazvelere iştirak eden Ebû Ubeyde'yi, sancak vererek gönderdiği ilk seriyyeye de komutan olarak görevlendirmiştir. Kur'an'ı Kerim de, Meleklerinde katıldıkları bildirilen Bedir savaşın da, düşman saflarında bulunan babasını, özellikle kendisine hücum etmesi üzerine öldürmek zorunda kaldığı için, kâfirlerin dost edinilemeyeceğini belirten şu ayeti kerime nazil olmuştur. "Allah'a ve ahiret gününe iman eden hiçbir topluluğun, babaları, oğulları, kardeşleri yahut kendi soy-sopları olsalar bile, Allah'a ve peygamberine düşman olan kimselere sevgi beslediğini göremezsin. İşte Allah onların kalplerine imanı yazmış ve onları kendi katından bir ruh ile desteklenmişlerdir. Onları, içlerinden ırmaklar akan ve içlerinde ebedî kalacakları cennetlere sokacaktır. Allah onlardan razı olmuş, onlar da Allah'tan razı olmuşlardır. İşte onlar, Allah'ın tarafında olanlardır. İyi bilin ki, Allah'ın tarafında olanlar kurtuluşa erenlerin ta kendileridirler. (Mücadele 22)
Ebû Ubeyde Uhud savaşında da büyük kahramanlıklar gösteren bir sahabedir. İslâm ordusunun dağıldığı bir zaman da, Resulullah'ın etrafından ayrılmayan 14 kişiden birisi idi. Başta Hz. Hamza ve Hz. Ali olmak üzere, Ebû Dücâne, Sad bin Ebî Vakkâs, Mus'ab bin Umeyr, Ubeyde bin Cerrah, Talha, Zübeyr gibi sahabeler, tabir caiz ise etten bir kale oluşturmuşlardı. Ebû Ubeyde, Uhud savaşında Hz. Peygamber'in yüzüne batan miğfer parçasını dişleriyle çıkarırken, iki ön dişini kaybetmiştir. Hz. Âişe "Peygamberimiz mütevazı, züht ve hayâ sahibi olan, Ebû Ubeyde'yi çok sever, ahlâk ve şahsiyetini takdir ederdi. (Tirmizî, Menâ?ıb, 14). Daha hayatta iken Resulullah'ın cennetle müjdelediği Ebû Ubeyde'yi, bütün sahabeler de çok severlerdi. Hz. Ömer Amvâs'ta veba salgını baş gösterdiğini duyduğu zaman, Ebû Ubeyde 'nin bu salgından kurtulması ve kendisinden sonraya kalması halinde onu devlet başkanı olarak vasiyet etmek istediğini söylemiş ve vefatında da yerine kimi bırakmak istediği sorulduğunda "sağ olsaydı yerime Ebû Ubeyde'yi tavsiye edecektim" dediği rivayet edilir.
Peygamberimizi İkinci Zülkassa (627) ve Sîfülbahr (629) seferlerinde de Ebu Ubeyde'yi kumandan tayin etmiştir. Zâtüsselâsil Seriyyesi'nde arkadan gönderilen yardımcı kuvvetlere de, Ebû Ubeyde kumanda etmişti (629). Beytülmalde görev yapmış ve Hudeybiye Antlaşması başta olmak üzere bazı vesikalara şahit olarak adı yazılmıştır. Medine'ye gelen Yemenlilere İslâmiyet'i öğretmek üzere görevlendirilmiş ve öğreticilikte yapmıştır. Hristiyan kalarak cizye vermeyi kabul eden Necranlılar, cizye tahsili için güvenilir birinin kendileriyle gönderilmesini istedikleri zaman, Peygamberimiz "Her ümmetin bir emini vardır; bu ümmetin emini de Ebû Ubeyde b. Cerrah'tır" diyerek onu Necran'a göndermiştir. Ondan sonra "Emînü'l-ümme" lakabıyla anılan Ebû Ubeyde bu bölgedeki insanlara İslâmiyet'i de öğretme konusunda büyük gayretler göstermiştir. Müzeyne, Hüzeyl ve Kinâne kabilelerinin vergilerini toplama görevi de ona verilmiştir.
Peygamberimizin vefatı üzerine, aralarında Hz. Ebû Bekir ve Hz. Ömer'in de bulunduğu bazı sahabeler, Ebû Ubeyde' ye halife olarak biat etmek isterler. Fakat Ebû Ubeyde, bu göreve Hz. Ebû Bekir'in daha lâyık olduğunu söyleyerek teklifi kabul etmez. Hz. Ebû Bekir devrinde devletin maliye işlerini yürütür. Daha sonra Suriye bölgesine gönderilen ordulardan birine kumandan tayin edilir. Daha sonrada Hz. Ömer tarafından Hâlid b. Velîd'in yerine bu bölgedeki orduların başkumandanlığına getirilir. Ebû Ubeyde komutasındaki ordular, Antakya, Humus, Hama, Maarra, Lazkiye, Banyas, Selimiye, Halep ve Kudüs gibi birçok bölge, kale ve şehri fethederek Fırat nehrine kadar ilerlemişlerdir. Diğer taraftan gönderdiği birlikler Urfa ve Maraş'a kadar da ilerlerler. Daha sonra Ebû Ubeyde fethedilen yerleri, Hz. Ömer'in valisi olarak hayatının sonuna kadar idare etmiştir.
Hafız olan Ebû Ubeyde, hayatı savaşlarda geçtiği için Peygamberimizden sadece 15 hadis rivayet etmiştir. Bunlardan 12'si Ahmed b. Hanbel'in Mesnedindedir. Kudüs'teki evini gören Hz Ömer'in " Ey kardeşim, dünya herkesi değiştirdi, yalnız seni değiştiremedi" dediği Ebû Ubeyde, Ölürken son sözleri ise, "Namazınızı kılınız! Orucunuzu tutunuz! Sadakanızı veriniz! Haccınızı yapınız! Birbirinize iyilikte bulununuz! Âlimlere ve büyüklerinize itaat ediniz! Dünyaya aldanmayınız" olmuştur. Bugün kabri Vâdilürdün'de Gurülbilevne bölgesindeki Ebû Ubeyde köyünde bulunmaktadır. 1947) yılında Kral Abdullah tarafından kabrinin yanına bir Mescid yapılarak mezar mescidin içine alınmış, (1955) de de Kral Hüseyin zamanında Mescid genişletilerek yeniden inşa edilmiştir. Daha önce de I. Baybars tarafından 1277 bu kabir üzerine bir kubbe yaptırılmıştır.
Peygamberimiz; "Ebû Bekir, Ömer, Osman, Ali, Talha, Zübeyr, Abdurrahman bin Avf, Sa'd bin Ebî Vakkâs, Sad bin Zeyd, Ebû Ubeyde bin Cerrah Cennettedir" Buyurmuştur. Ebû Ubeyde, hayatını İslâm'a adayan, o uğurda mücadele ve hizmetler veren, geride güzel hatıralar bırakan örnek bir sahabedir. Peygamberimizin o güzide ashabını rahmetle anıyoruz ruhları şad olsun.