Karar ağaçları oluşturmada yararlanılan diğer bir kavram entropidir. Entropi, bir veri setindeki rassallığı ve belirsizliği ölçer. Eğer bir alt kümedeki tüm veriler yalnızca bir sınıfa aitse entropisi sıfır demektir. Çünkü bu durumda belirsizlik sıfırdır. Bu yaklaşımın amacı, tüm alt kümelerin entropilerinin sıfır olduğu alt ağaçlar yaratmaktır. Karar ağaçları eksiksiz bilgilerle çalıştığından karar otomasyonlarında en çok başvurulan sınıflama yöntemlerinden biridir. Karar kurallarına dönüştürülerek uzman sistemlerde de kullanılmaktadır. Uzman sistemler için kullanılan karar kuralları setinin eksiksiz olması gerekmez.