Hiyerarşik yapı, problemin ayrıntılı bir biçimde ortaya konması amacıyla oluşturulan ve bir dizi homojen elemandan oluşan katmanlardır. Hiyerarşik yapı sayesinde problemin bileşenlerine ayrıştırılması ve bu bileşenlerin hiyerarşik bir yapıda düzenlenmesi ve gösterilmesi problemin anlaşılırlığını arttırmaktadır. Analitik hiyerarşi sürecinde karar problemi hiyerarşik bir modele dönüştürülür. Hiyerarşik yapı oluşturulurken hiyerarşinin bir seviyesindeki elemanların kendisinden önce gelen bir üst seviyedeki tüm elemanlara göre anlamlı bir şekilde karşılaştırılabilir olup olmadığı göz önünde bulundurulur. Bir anlamda belirli bir seviyedeki elemanlar bir üst seviyedeki eleman veya elemanlarla ilişkilendirilir.