BazEkon - Biblioteka Główna Uniwersytetu Ekonomicznego w Krakowie

BazEkon home page

Meny główne

Autor
Wędrowska Ewa (Uniwersytet Warmińsko-Mazurski w Olsztynie)
Tytuł
Dywergencje Jensena-Shannona oraz Jensena-Rényiego jako miary rozbieżności struktur
Jensen-Shannon And Jensen-Rényi Divergences As Discrepancy Measures Of Structures
Źródło
Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu. Taksonomia (18), 2011, nr 176, s. 383-391, bibliogr. 12 poz.
Research of Wrocław University of Economics
Tytuł własny numeru
Klasyfikacja i analiza danych - teoria i zastosowania
Słowa kluczowe
Dywergencja
Divergence
Uwagi
streszcz., sum.
Abstrakt
W artykule wskazano na możliwość wykorzystania do oceny stopnia rozbieżności struktur miar dywergencji. Zaprezentowano symetryczne "wygładzenie" dywergencji Kullbacka-Leiblera, jakim jest miara rozbieżności Jensena-Shannona, będąca funkcją entropii Shannona. Istotną zaletą dywergencji Jensena-Shannona jest możliwość uogólnienia jej do badania podobieństwa więcej niż dwóch struktur, a także możliwość uwzględnienia wag dla rozpatrywanych obiektów. Kolejna przedstawiona miara dywergencji to dywergencja Jensena-Rényiego stopnia , która jest odpowiednio funkcją entropii Rényiego i uogólnieniem dywergencji Jensena-Shannona.(abstrakt oryginalny)

This paper indicates the possibility of applying the measures of divergences for the assessment of the degree of difference of structures. It presents the symmetric smoothing of Kullback-Leibler divergence in the form of the measure of divergences by Jensen- Shannon, which is a function of Shannon entropy. The possibility of its generalization for testing the similarity of more than two objects as well as the possibility of including weights for the considered objects represents important advantages of Jensen-Shannon divergence. Jensen-Rényi divergence of  degree, which is a function of Rényi entropy and the generalization of Jensen-Shannon divergence, is another measure of presented divergence.(original abstract)
Dostępne w
Biblioteka Główna Uniwersytetu Ekonomicznego w Krakowie
Biblioteka Główna Uniwersytetu Ekonomicznego w Katowicach
Biblioteka Główna Uniwersytetu Ekonomicznego w Poznaniu
Biblioteka Główna Uniwersytetu Ekonomicznego we Wrocławiu
Bibliografia
Pokaż
  1. Burbea J., Rao C.R., On the convexity of some divergence measures based on entropy functions, "IEEE Transactions on Information Theory" 1982, vol. 28, no. 3, s. 489-495.
  2. Csiszár I., Information type measures of difference of probability distributions and indirect observations, "Studia Sci. Mat. Hung" 1967, vol. 2, s. 299-318.
  3. Dhillon I.S., Mallele S., Kumar R., A divisive information - theoretic feature clustering algorithm for text classification, "Journal of Machine Learning Research" 2003, no. 3, s. 1265-1287.
  4. He Y., Hamza B., Krim H., A generalized divergence measure for robust image registration, "IEEE Transactions on Signal Processing" 2003, vol. 51, no. 5, s. 1211-1220.
  5. Hibbard L.S., Region segmentation using information divergence measures, "Medical Image Analysis" 2004, no. 8, s. 233-244.
  6. Hung W.L., Yang M.S., On the J-divergence of intuitionistic fuzzy seta with its application to pattern recognition, "Information Sciences" 2007, no. 178, s. 1641-1650.
  7. Lamberti P.W., Majtey A.P., Borras A., Casas M., Plastino A., Metric character of the quantum Jensen- Shannon divergence, "Physical Review A" 2008, no. 77, 052311-1 - 052311-6.
  8. Lavenda B.H., Mean entropies, "Open Systems & Information Dynamics" 2004, no. 12, s. 289-302.
  9. Lin J., Divergence measures based on the Shannon entropy, "IEEE Transactions on Information Theory" 1991, vol. 37, no. 1, s. 145-151.
  10. Kukuła K., Statystyczne metody analizy struktur ekonomicznych, Wyd. Edukacyjne, Kraków 1996.
  11. Kurek S., Starzenie się ludności na obszarach przemysłowych w Polsce, Prace Komisji Gospodarki Przemysłu nr 14, Warszawa - Kraków 2009, s. 104-120. Podstawowe informacje o rozwoju demograficznym Polski do 2007 roku. Notatka informacyjna Departamentu Badań Demograficznych, GUS, Warszawa 2008.
  12. Rényi A., On measures of entropy and information, Proc. Fourth Berkeley Symp. on Math. Statist. and Prob., vol. 1, Univ. of Calif. Press, Berkeley 1961, s. 547-561.
Cytowane przez
Pokaż
ISSN
1899-3192
1505-9332
Język
pol
Udostępnij na Facebooku Udostępnij na Twitterze Udostępnij na Google+ Udostępnij na Pinterest Udostępnij na LinkedIn Wyślij znajomemu