Yazan : Şadi Evren ŞEKER
iki olasılık dağılımı arasındaki mesafeyi ölçmek için kullanılan yöntemlerden birisidir. Literatürde “bilgi çapı” (information radius , kısaca iRad ) veya ortalamaya olan toplam uzaklık (total divergence to average) olarak da geçmektedir.
Tanımı itibariyle Kullback Leibler Uzaklığının (kullback-leibler divergence) simetrik hali olarak düşünülebilir. Yani kullback leibler mesafesinde iki olasılık dağılımı olan P ve Q için P’den Q’ya olan mesafe (DKL(P||Q)) ile Q’dan P’ye olan mesafe (DKL(Q||P)) birbirine eşit olmamaktadır. Oysaki Jensen Shannon mesafesi bu sorunu çözerek simetrik bir mesafe fonksiynu tanımı yapar.
Temel tanımı aşağıdaki şekildedir:
Sigma cebirinde tanımlı bir A değişkeni için M_+^1(A) olasılık dağılımını ele alalım bu dağılım üzerindeki Jensen Shannon Divergence (JSD) değeri aşağıdaki şekilde hesaplanabilir:
JSD(P \parallel Q)= \frac{1}{2}D(P \parallel M)+\frac{1}{2}D(Q \parallel M)
Yukarıdaki gösterimde P ve Q şeklinde verilen iki olasılık dağılım fonksiyonu üzerinde M aşağıdaki şekilde tanımlıdır:
M=\frac{1}{2}(P+Q)
Yani M değeri aslında ortalama değerdir P ve Q’nun M değerine olan mesafesi üzerinde JSD fonksiyonu tanımlıdır.
Şayet M değeri, sayılabilir (countable) ise aşağıdaki şekilde daha özel tanımlanması mümkündür:
JSD(P_1, P_2, \ldots, P_n) = H\left(\sum_{i=1}^n pi_i P_i\right) - \sum_{i=1}^n pi_i H(P_i)
Yukarıdaki tanımda geçen H(P) değeri shannon entropisidir.

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir


dokuz + 8 =