Horasan’da Türkmenler’in çıkardığı karışıklıklar Hârizm hâkimi Harun’u harekete geçirdi. 1034 yılının başlarında itaatsizlik belirtileri gösteren Harun, o sırada Sultan Mesud’un sarayında rehin olan kardeşinin ölümünü bahane ederek istiklalini ilan etmişti. Onun için Gazne’ye giden yolları tutmuş, Ali Tegin ve Selçuklular ile ittifak yaparak bağımsız hareket etmeye başlamıştı. Sultan Mesud Hârizm’deki bu durumu öğrenince bölgenin ileri gelenlerine yazdığı mektuplarla Harun’u sakinleştirmelerini, bir karışıklık çıkarmasına fırsat vermemelerini istedi. Fakat bu girişimden bir sonuç çıkmadı. Harun Ağustos ayında hutbeden Mesud’un adını çıkardı. Harun’un müttefiki olan Selçuklulardan Tuğrul ve Çağrı Beyler ona yardım için Hârizm hududuna geldi. Harun onlara otlak ve yurtlar verdikten sonra Horasan’ın ele geçirilmesinde öncülük yapacaklarını bildirdi. Bu sırada, Aralık 1034’de Ali Tegin öldü. Sultan Mesud onun ölümüyle bölgede ortaya çıkabilecek bir kargaşadan çekindiği için bazı tedbirler aldı. Ali Tegin’in oğlu Yusuf’a lâkablar verip mektublar göndererek kendi tarafına çekmeye çalıştıysa da bir sonuç alamadı. Ali Tegin’in oğulları Harun ile üzerinde anlaştıkları plana göre Çağaniyan bölgesini yağmaladılar Sonra Tirmiz’e gelip bir kaç kez taarruz ettilerse de bir netice alamadılar. Ancak Harun’un öldürülmesi ile bu seferler durdu. Sultan Mesud, Harun’un Karahanlı ve Selçuklular ile işbirliği yaparak Hârizm’de istiklalini ilan etmesini önleyememişti. Ancak Hârizmşah Altuntaş’ın eski kethüdası olan Gazneli veziri Ahmed Abdüssamed eskiden görev yaptığı bu bölgede adamları olduğu için boş durmuyor bazı tedbirler alıyordu. Harun da Ali Tegin oğulları ile harekete geçmek için ordugâhını şehir dışında kurmuştu. O arada Gazneli vezirinin satin aldığı adamların bir fırsatını bulup ağır yaraladıkları Harun 18 Nisan 1035’de öldü. Hârizm’in merkezi Gürgenç’de çıkan karışıklıklar Altuntaş’ın adamları tarafından önlendi. Nihayet Harun’un “Handân” lâkabıyla anılan kardeşi İsmail, 11 Mayıs 1035’te Hârizm tahtına çıktı. Ordu ve devlet ileri gelenleri ona biat ettiler. Sultan Mesud kendi tarafına çekebilmek için İsmail’e ve devlet ileri gelenlerine mektuplar gönderdi ise de bir sonuç alamad›. Gazneliler Devleti için Horasan, Rey ve Hindistan’da pek çok mesele varken, bir de Hârizm problemi ortaya çıkmıştı.