Babası, Kara Aslan oğlu Sebük Tigin Samanoğulları Devleti’nin Horasan valisiydi. Babası Samanoğulları’na karşı bağımsızlığını ilan ederek Gazneliler Devleti kuracak, Gazneli Mahmut ise genç yaşından itibaren devlet idaresinde görev alacaktı. Babası hayattayken Horasan valiliği görevini (994) yürüten Mahmut, bu göreve geldiğinde 24 yaşındaydı. Yönetimdeki başarısı onu Gazneli Devleti’nin başına sultan yapacaktı.Mahmut’un tahta geçmesiyle Gazneli Devleti için de bir dönüm noktası başlamıştı(998). Gazne tahtına oturan Mahmut, Buhara, Horasan, Herat, Belh, Bust ve Kabil’i Samanîlerden alacaktıSultan Mahmut, sırasıyla Horasan ile bugünkü Afganistan ve Belucistan ile Harezm’e kadar tüm Maveraünnehr’i ele geçirecekti. Ardından Rey, İsfahan, Save, Kazvin, Zencan ve Ebher’i alarak, İran topraklarının büyük bölümüne hakim olacaktı.Samaniler üzerinde hakimiyetini büyük ölçüde kabul ettirdikten sonra Hindistan üzerine İslam’ı yaymak amacıyla sefer yöneldi.Eylül 1000 târihinde ilk Hint Seferine çıkan Sultan Mahmut, bu tarihten 1027 yılına kadar Hindistan’a on yedi büyük sefer düzenledi.Gazneli Mahmut’un ünü kendinden önce gideceği yere varır hale gelmişti. O cesaretiyle zekasını birleştirmişti. On ikinci seferini zengin ve bayındır bir ülke olan Kanave’a karşı yaparak Sirsava Kalesi'ni zaptetmişti.
1020 yılında Kalincar, 1021’de Keşmir ve 1022’de tekrar Kalincar racaları üzerine seferler düzenleyen Sultan, bunları itaat altına almıştı.
Onuncu seferini, pek çok tapınak ve putun bulunduğu Thanesar şehrine yapmış, Hiçbir direnişle karşılaşmadan şehre girmişti. Artık Hindular İslam dünyasını tanıyordu. 1025-1026 yıllarında yaptığı Somnat seferiyle İslam dünyasında kahraman olarak tanınmakla kalmadı halife tarafından gönderilen menşur ile tarihte ilk “Sultan” ünvanını alan kişi de oldu.
18 Ekim 1025 tarihinde otuz bin atlı ve yüzlerce gönüllüden meydana gelen orduyla harekete geçen Sultan, 8 Ocak’ta Somnat’ı zaptetmişti. Tapınağa girdikten sonra müezzine, tapınağın üzerine çıkarak ezân okumasını emretmiş, Tapınaktaki putların tamamını kırdırmıştı.
İslam dini Hindistan’da yayılma imkanını Gazneli Sultan Mahmut sayesinde bulmuş oluyordu. Sultanın sarayı adeta bir ilim meclisi gibi dolup taşmaktaydı. Adına bir çok eserler yazılmıştı. Kendisine sunulan bu eserlerden biri de Firdevsî’nin Şehnâme’siydi.Otuz üç sene süren saltanatında olayları en iyi şekilde değerlendirmekte ve kalabalık orduları sevketmekte üstüne yoktu. Gazneli Devleti sınırlarını genişletmekle kalmamış Gazne şehrini parklar, bahçeler, zafer âbideleri ve camilerle süslemişti.
1030’da Gazne’de vefat eden Sultan Mahmut burada defnedildi. Ömrünün kırk beş senesini savaş meydanlarında cenk ederek geçiren Sultan Mahmut Türk İslam dünyasının yetiştirdiği en büyük hükümdarlardan biri olarak tarih sahnesinde yerini aldı.
