Adalet olmadıkça yönetimin, edep olmadıkça asaletin, cömertlik olmadıkça zenginliğin faydası olmaz diyen Hz Ömer, Mescid-i Haramın çevresindeki bazı evleri istimlâk ederek genişletmiş ve etrafına da göğüs hizasına kadarda duvar ördürerek meşalelerle de aydınlatmıştır.
Bazı rivayetlere göre sel sularının Kâbe'nin duvarına kadar sürüklediği Makam-ı İbrâhîm'î de eski yerine koydurmuştur. Seli önlemek için de taş duvardan iki tane bent yaptırmıştır. 638 yılındaki umresi esnasında da Mekke-Medine arasındaki su kaynaklarının oldukları yerlerde misafirhaneler yapmak, yeni kuyular açmak için talimatlar vermiştir. Mevcut kuyuları temizlemek isteyen kabilelere de hac ve umre yolcularının öncelikle faydalanmaları şartıyla izin vermiş, Şam-Hicaz arasında da benzer tedbirleri almıştır. Medine'de bir misafirhane yaptırmış, Kûfe-Hîre arasındaki bir konağın misafirhane olarak kullanılmasını da istemiştir. Medine'de çocukların eğitimi için görevliler tayin eden Hz. Ömer çocuklara Kur'an-ı Kerîm, okuma yazma ve Arap dili kaidelerinin yanında ensâb bilgisi, şiir, darbımesel, yüzme, binicilik ve atıcılığın öğretilmesini istemiş, bu konuda da valilere talimatlar göndermiştir. Kur'an öğrenen çocuklara beytülmalden maaş bağlamıştır. Bu öğretim faaliyetlerinden hür veya köle bütün çocuklar faydalanıyordu.
Hz Ömer'in bu dönemde ki uygulamaları ve adil davranışları hemen her yerdeki fetihleri kitleler halinde İslâm'a gönüllü katılımları sağlamıştır. Hiç kimse İslâmiyet'i kabule zorlanmamıştır. Hz. Ömer gayri müslimlerle yapılan antlaşmalara gerekli hassasiyetin gösterilmesini sağlamış, din farkı gözetmeksizin insanlara iyi davranılmasına dikkat edilmesini istemiştir. Bundan son derecede memnun olan ve bilhassa Suriye bölgesindeki gayri müslim Cürcüme, Sâmirîler, Dülûk ve Ra'bân kabileleri Bizans'ın askeri durumunu öğrenerek müslümanlara bilgiler vermişlerdir. Buna karşılık kendilerinden de cizye alınmamıştır. Öte yandan bu zümrelerin her türlü tehlikeye karşı mal ve canlarının korunmaları, devlet tarafından garanti altına alınmıştır. Gayri müslimlere tam bir inanç hürriyeti sağlanmış, âteşkedeleri, kilise ve havraları korunmuştur. Hz. Ömer'in Kudüs'ün fethi esnasında kilisede namaz kılmaması yanında bu din anlayışının bir başka delili Mısır fethine şahit olan Nikou Piskoposu Jean'ın ifadelerinde görülür. Jean, Amr b. As 'ın kiliselerden bir şey almadığını, onları yağma etmediğini, emlâkine el koymadığını ve müslümanların Hristiyanların işlerine karışmadığını açıkça dile getirmiştir. Diğer taraftan Hz. Ömer gayri müslimlerin uyacakları bazı esasları da belirlemiştir (Ebû Yûsuf, II, 125-128, 202-203). Ebû Yusuf'un eserinde Hz. Ömer'in gayri müslimlerin bellerine zünnar takmaları, başlarına çizgili kalensüve giymeleri gibi kıyafetle ilgili bazı hususları da emrettiği, maksadının müslümanlarla zimmîlerin ayırt edilmesi olduğu şeklindeki bilgiler yer almaktadır (a.g.e., II, 124-128, 132-134). Ancak gayri müslimlerle yapılan antlaşma metinlerinde görülmeyen bu şartların Hz. Ömer'e nispeti tartışmalı bir konudur (Fayda, Hz. Ömer Zamanında Gayr-ı Müslimler, s. 192-195). Gayri müslimlerin devlet hizmetinde çalışıp çalışamayacakları hususunda da antlaşmalarda bir hüküm bulunmamaktadır. Ancak onun zamanında ve daha sonraki dönemlerde zimmîlerin devlet hizmetinde çalıştıkları bilinmektedir. Kur'ân-ı Kerîm'de müslüman erkeklerin zimmî kadınlarla evlenmelerine izin verilmesine karşılık (Maide 5) Hz. Ömer, Medâin Valisi Huzeyfe b. Yemân'dan Yahudi asıllı karısını boşamasını istemiş, o da halifeye bir mektup yazarak Ehl-i kitap kadınlarla evlenmenin hükmünü sormuştur. Hz. Ömer cevabî mektubunda bu evliliğin helâl olduğunu, ancak ecnebi kadınların dilleriyle bir takım yanlışlara sevk edebilecekleri endişesini taşıdığını bildirmiştir. Bunun üzerine Huzeyfe'nin hanımını boşadığı kaydedilir (Taberî, I, 2374-2375). Hz. Ömer bu uygulamasıyla fetihlerden sonra yaygınlaşan bu çeşit evliliklerin önüne geçmek istemiş olmalıdır. Bu sebeple onun bu kararının zimmîlere cephe almak şeklinde değil geçici bir tedbir olarak anlaşılması gerekir (Muhammed Biltâcî, s. 301-306). Hz. Ömer dönemi tatbikatına ait hususları da içine alan "eş-Şürûtü'l-Ömeriyye" adlı belge çoğu zimmîlerin aleyhine olan değişiklik ve ilâveleri ihtiva etmektedir. Bu belgedeki şartlarla antlaşma metinlerinde yer alan şartlar karşılaştırıldığında bu metnin uydurma olduğu anlaşılmaktadır. "Ahidnâme-i Ömer" diye de isimlendirilen bu belge, Abdurrahman b. Ganm tarafından rivayet edilen ve Suriye Hristiyanları tarafından Hz. Ömer'e yazılan bir mektuptan ibarettir. Bu metnin Hz. Ömer'e ve onun valilerine nispet edilmesi doğru değildir. Hz. Ömer'e izafe edilen başka metinlerin de bulunduğu, bunların bir kısmının Yahudi ve Hristiyanlar tarafından muhafaza edildiği bilinmektedir.
Kısacası Hz Ömer, devlet idaresinde mühim yenilikler yaparak pek çok ilke imza atmıştır. Döneminde idari, adlî, mâli ve askerî alanlarda teşkilâtlar kurmuştur. Onun devrinde yeni fetihlerle İslâm devletinin hudutları genişlemiş, zaferlerden elde edilen ganimetlerle devlet hazinesi dolup taşmıştır. Bunun üzerine Hz Ömer, İslâm'a hizmetlerini göz önünde bulundurarak Müslümanlara maaş bağlamaya karar vermiştir. Hz. Ömer'in Müslümanlara bağladığı bu maaş, senelik tahsisat şeklindeydi. İlk olarak askerlerin kayıtlarını tutturmuş, fey ve ganimet gelirlerinin dağıtımını kaydettirmiştir. "Divan" teşkilatını kurmuştur. Divan defterinin başına da derecelerine göre Peygamberimizin akrabalarını ve Bedir Ashabının isimlerini yazdırmıştır. Mahkeme işlerini bir düzene koymak için de valilerden ayrı ve bağımsız çalışan kadılar tayin etmiştir. Hz Ömer şehirlere tayin ettiği valilerin İslâm'ı yaşama ve tebliğ etme faaliyetleriyle iktifa etmemiş ve bilâkis onları, Medine'den gönderdiği âlimlerle desteklemiştir. Bu âlimlerle muhtelif tavsiye ve mektuplar da göndermiştir. Meselâ içlerinde Abdullah bin Muğaffel'in de bulunduğu 10 kişilik bir sahabe heyetini Basra'ya, insanlara dînî ilimleri derinlemesine öğretmeleri için göndermiştir.
Beni kimsenin bilmesi önemli değil. Rabbim bilsin yeter. Kim ne derse desin bana Rabbim kulum desin yeter diyen adil halifeyi rahmetle anıyoruz. Ruhu şad olsun.