Balkanlardaki Ostrogotlar, imparatorluk için sorun teşkil etmeye devam ediyorlardı. Ostrogot şefler en yüksek askeri makamlara gelebiliyorlar, devlet içindeki çekişmelere müdahale edebiliyor, çoğu zamanda isyan ederek ülke arazilerini tahrip ediyorlardı. İmparator Zenon, Teodorik yönetimindeki Ostrogotları İtalya’ya gitmeye ikna etti. 488 yılında batıya doğru harekete geçen Ostrogotlar kısa sürede İtalya’ya hâkim oldular. Odovakar’ı yönetimden uzaklaştıran Teodorik, 493’te kesin başarı kazandı ve İtalya’da Ostrogot krallığını kurdu.