Hz. Ebû Bekir'in vefat ettiği gün (22 Cemâziyelâhir 634) Hz. Ömer Mescid-i Nebevî'de halife seçilerek biat almıştır. İlk iş olarak, kaybettikleri bölgeleri geri almak için harekete geçen Sâsânîler'e karşı halkı Irak cephesindeki orduya yardıma çağırarak, Ebû Ubeyd es-Sekafî'yi bin kişilik bir birliğin başında Irak'a göndermiştir. 
Ebû Ubeyd'in Köprü Savaşı'nda şehid olması üzerine Sa'd b. Ebû Vakkas'ı kumandan tayin eder. Kadisiye Savaşı'nı kazanan Sa'd (636) Sâsânî ordusunu takip ederek Medâin'i ele geçirir (Mart 637). Sâsânî kuvvetleri Celûlâ Savaşı'nda da yenilgiye uğratılır (637). Fetihlerin bu aşamasında Hz. Ömer, Sa'd b. Ebû Vakk?s'a Hîre yakınlarında Kûfe'yi, Utbe b. Gazvân'a da Basra'yı ordugâh şehir olarak kurmalarını emreder. Utbe b. Gazvân da, İran'ın Ahvaz bölgesini fetheder. (638) Ancak bölge bir yıl sonra tekrar Sâsânî ordusunun eline geçer. Nu'mân b. Mukarrin'e yardım için gelen ordu çetin bir mücadeleden sonra Tüster'i fetheder (641). Celûlâ ve Hulvân'ın ardından Sûs, Hûzistan ve Musul'u fetheden müslümanlar Nihâvend zaferiyle Irak'ın fethini tamamlarlar. (642). Hz. Ömer, Bizans İmparatorluğu'na karşı Suriye cephesindeki savaşlara da ara verilmeden devam edilmesini emreder. Hz. Ebû Bekir döneminde kazanılan Ecnâdeyn zaferinden sonra Hz. Ömer devrinde yapılan Fihl Savaşı'nda da müslümanlar Bizans kuvvetlerine büyük zayiatlar verdirirler. 
Mercüssuffer'de yenilerek Dımaşk'a sığınan Bizans askerleri takip ederek şehir kuşatılır ve fethedilir. Aynı yıl Mercürrûm Savaşı'nı da kazanırlar. Bu sırada Ba'lebek, Humus ve Hama şehirleri de fethedilir. Müslümanların bu başarıları üzerine Bizans İmparatoru Herakleios hıristiyan Araplar'ın ve Ermeniler'in katıldığı büyük bir ordu hazırlar. Ancak Bizans ordusu Yermük Muharebesi'nde ağır bir yenilgiye uğrar. (636) ve bölgedeki bütün şehirler müslümanların eline geçer. 637 yılında Şeyzer, Kınnesrîn, Halep, ardından Antakya, Urfa, Rakka ve Nusaybin kısa aralıklarla müslümanlara teslim olur. Akabinde Filistin de fethedilerek, Kudüs kuşatılır. Patrik Sophronios şehrin anahtarlarını o sırada inceleme ve görüşmelerde bulunmak için Suriye'ye gelen ve Câbiye'de bulunan Hz. Ömer'e teslim etmek istediğini bildirir. Halife bizzat Kudüs'e giderek halka eman verip kendileriyle bir antlaşma yapar. (638). Daha sonra Filistin'in sahil şehirleri başta olmak üzere diğer yerleşim yerleri fethedilir. Hz. Ömer sahillere yakınlığı dolayısıyla tehlike oluşturan Kıbrıs'ın fethine deniz seferinin zorluğunu düşünerek izin vermez. Ancak Suriye ve Filistin'de mağlûp olan bir kısım Bizanslı kumandan ve askerlerin Mısır'a kaçtığını ve Mısır'ın fethinin gerekli olduğunu söyleyen Amr b. Âs'ın görüşünü benimseyerek Mısır'ın fethini emreder. Mısır'ın fethi üç yılda tamamlanır (640-642).  İslâm orduları onun zamanında Sâsânî İmparatorluğu'na tâbi Irak, İran ve Azerbaycan ile Bizans İmparatorluğu'na bağlı Suriye, el-Cezîre, Filistin ve Mısır'ı fethederek İslâm ülkesine katmışlardır.
Gerçekleştirilen fetihler sonucu ele geçirilen ganimetlerde büyük bir artış olmuştur. Hz. Ömer, müslümanlarla gayri müslimlere ait ortaya çıkan çeşitli problemleri ve ihtiyaçları görerek bunların halledilmesi yolunda yeni düzenlemeler yaptırmıştır. Bu düzenlemelere, kazanılan ganimetlerle İslâm'ın eline geçen bu çok büyük coğrafyada yaşayan başka dinden insanlar ve onların sahip oldukları toprakları ele alarak başlamıştır. Ganimet ve toprak meseleleri yanında müslümanların Suriye'de yerleşimi hususunu görüşmek üzere (637) tarihinde bazı sahâbîlerle birlikte Câbiye şehrine gider. Suriye'deki bütün valilerin katıldığı toplantıda gelirlerin taksiminde göz önünde bulundurulacak esasları ortaya koyarak, müslümanların gayri müslimlerle münasebetlerinde dikkat edecekleri hususlara işaret ederek bazı kurallar koyar. Hz Ömer bu istişare toplantısında, Bizans'tan gelecek saldırıların önlenmesi için Câbiye'deki ordugâhın dağıtılarak iki ayrı cephede savunma hatlarının kurulmasını kararlaştırarak bu güçlerin tespit edilen bu yerlere yerleşilmesini ister. 639 Yılında Amvâs'ta çıkan veba salgını buradan Suriye'nin çeşitli yerlerine yayılır. Bu salgında başta Ebû Ubeyde b. Cerrâh olmak üzere birçok sahâbî vefat eder.
641 yılında Hayber ve çevresindeki rahat durmayan Yahudileri Arap yarımadası dışına çıkaran Hz. Ömer daha sonra Hayber'e giderek bu bölgedeki toprakların durumunu inceler. Barış veya savaş yoluyla alınan ve Peygamberimizin yaptığı taksimata göre bu toprakların sahiplerine verilmesini ister. Topraklardan beytülmâl hissesi olarak Peygamberimizin hanımlarına düşen paylar hususunda kendilerini serbest bırakır. Bir kısmı toprağı, bir kısmı gelirini almaya karar verir. Fedek toprakları barış yoluyla ele geçirilmişti. Hz. Ömer bu toprakların fiyatını tespit ettirerek yarısının karşılığını Fedekliler'e ödedikten sonra onları da diğerleriyle birlikte Suriye tarafına sürmüştür. Aynı tarihte Necranlı hıristiyanları da Kûfe taraflarındaki Necrâniye'ye gönderdi. Mallarını satın alarak mağdur olmalarını önledi. Ayrıca gittikleri yerde kendilerine geniş topraklar verilmesini, bu topraklardan bir süre vergi alınmamasını, daha sonra Peygamberimiz ile yaptıkları anlaşmaya uygun biçimde cizye vermeye devam etmeleri konusunda valilerine talimat vermiştir.
Ebû Lü'lüe Fîrûz en-Nihâvendî efendisinin kendisinden fazla ücret aldığını söyleyerek, Hz. Ömer'den bunun azaltılmasını ister. Halife de onun demircilik, marangozluk, nakkaşlık yaptığını ve iyi bir gelirinin olduğunu öğrenince, verdiği ücretin fazla olmadığını bildirir. Bunun üzerine o da ertesi gün sabah namazında hançerle Hz. Ömer'i yaralar ve üç gün sonrada şehit olur.(644) Kendisini yaralayanın müslüman birisi olmadığını öğrenince de "Ölümümü sebep, İslâm'a girdiğini iddia eden birinin eliyle olmadığından dolayı, Allah'a hamdolsun" diyen, ömrünü islama ve müslümanlara hizmete adayan adil halifeyi rahmetle anıyoruz. Ruhu şâd olsun.