Kesikli rassal değişkenler için entropi optimizasyon prensipleri ve uygulamaları

Abstract

Bu tezde, öncelikle olasılıksal bir sistemde var olan belirsizliğin ölçümünü ifade eden entropi kavramı ve buna bağlı olarak Shannon Entropi Ölçütü ile Kullback-Leibler Entropi Ölçütü tanımlarına yer verilmiştir. Bu iki entropi ölçütünün özellikleri ile bu ölçütleri optimize etme yöntemlerinden Jaynes'in Maksimum Entropi Prensibi (MaxEnt) ve Kullback'in Minimum Çapraz Entropi Prensibi (MinxEnt) ele alınmıştır. Sözü edilen ilkelerin mantığı ve matematiği ayrıntılarıyla gösterilmiş, aralarındaki ilişki ve farklılıklara değinilmiştir. Her iki ilke, istatistiksel problemlere uygulanarak elde edilen denklem veya denklemler sistemi Yarıya Bölme Yöntemi ve Newton Yöntemi kullanılarak Visual Basic, programlama dilinde hazırlanan programlarda çözülmüş ve iki prensibin sonuçları karşılaştırılarak sunulmuştur. Ayrıca Devlet İstatistik Enstitüsü'nden alınan 2003-2004 elektrik tüketimi verileri üzerinde Minimum Çapraz Entropi Prensibi kullanılarak 2004 tüketim oranları tahmin edilmiş ve gerçek değerlerle yakınlığı ortaya konulmuştur.