Oğuzların Bozok kolunun Kayı boyundan Ertuğrul Gazi’nin oğlu olup, 1258 senesinde Söğüt’te doğdu. İslâm terbiyesi ile yetiştirildi. İslâm ilimlerini öğrenen Osman Gâzi, devrin örf ve âdetince mükemmel bir askerî tâlim ve terbiye gördü. Babasının silâh arkadaşları ve kumandanlarından kılıç kullanmayı, kargı savurmayı, ata binmeyi öğrendi. Onların gazâlarını dinleyip, yaptıklarından ibret alarak, gençliğinden îtibâren gazâlara katılıp, zaferler kazanarak, kumandanlık vasıflarını geliştirip kuvvetlendirdi.

Bizans’ın hakimiyetindeki batı Anadolu cihâd diyarı olduğundan, bölgede gazâ niyetiyle pek çok kumandan, mücâhid derviş ve herbiri gönül sultânı şeyh ve âlim bulunuyordu. Osman Gâzi, Anadolu’nun İslâmlaştırılıp, Türkleşmesi faaliyetine katılan bu gönül sultanlarından ve ahîlerden biri olan Karamanlı Şeyh Edebâlî’nin sohbetlerini hiç kaçırmamaya gayret ederdi. 1277 senesinde, Edebâlî'nin dergâhında misafir olduğu bir gün acâib bir rüya gördü. Rüyasında, hocası Edebâlî’nin koynundan bir ayın çıkıp, kendi koynuna girdiğini, arkasından da kendi göbeğinden bir ağacın bitip, âlemi tuttuğunu, gölgesinde nice dağların bulunup, nehirlerin aktığını, bir çok insanların kaynaştığını, kimisinin bahçe ve tarla sulayıp, kimisinin çeşmeler akıttığını gördü. Gördüğü rüyayı ertesi gün hocasına anlattı. Şeyh Edebali ona;

deyip rüyasını tâbir etti. On dokuz yaşında iken Şeyh Edebâlî’nin kızı Mal Hatun ile evlendi. Bu izdivaçtan Orhan Gâzi doğdu. Orhan Gâzi’nin doğduğu sırada, Ertuğrul Gâzi de vefât etti (1281). (Bâzı kaynaklarda Edebâlî’nin kızının adı Bâlâ Hâtûn olarak geçmekte ve Mâl Hâtun’un Ömer Bey’in kızı olduğu yazılmaktadır.) Ertuğrul Gâzi, cesareti, zekâsı, cömertliği, İslâm dînine sadâkati ve güzel ahlâkı ile, kardeşleri arasında en üstünü olan Osman Gâzi’yi kendisinden sonra kayıboyu beyliğine aday göstermişti. Osman Gâzi, babasının vefâtından sonra, bey seçilip, idareyi ele aldı.