Hz. Ebubekir’den sonra Hz. Ömer halife oldu. Onun hilafeti pek çok değişikliği beraberinde getirdi. Bu değişiklikler askerî alanda da görüldü. Hz. Ömer devrinde fetih faaliyetleri iyice arttı. İslâm orduları değişik istikametlerde hareket ederek yeni şehirler, bölgeler ele geçirdiler. Mısır, Filistin, Suriye, Irak ve İran’ın büyük bir bölümü Müslümanların eline geçti. İslâm orduları Azerbaycan’a kadar ilerledi. Antakya’nın fethinden sonra Toroslar, Bizansla Müslümanlar arasında sınır hâline geldi. İşte bu geniş topraklarda eski usullerle askerî faaliyetlerin sürdürülmesi mümkün değildi. Gönüllülük esasına dayanan askerî yapılanma ile devletin ihtiyaçları karşılanamazdı. Daimi bir orduya ve bunun için gerekli diğer müesseselere ihtiyaç vardı. Yeni halife Hz. Ömer, bu ihtiyaçları hemen gördü ve ona göre yeni bir askerî yapılanmaya gitti. Böylece İslâm dünyasında askerî kurumlaşma faaliyetleri başlamış oldu.