STATISTICAL ESTIMATORS OF RENYI AND TSALLIS ENTROPY AND THEIR USE FOR TESTING THE HYPOTHESES OF “PURE RANDOMNESS”
Abstract
An approach to the construction of consistent statistical estimators for Renyi and Tsallis entropy is considered. The asymptotic probability distribution of constructed point estimators is proved, and the interval estimators are constructed. On the basis of interval estimators the decision rule for the statistical testing of the hypotheses of “pure randomness” of the observed discrete sequence is developed. The results of computer experiments are presented.
About the Authors
Yu. S. Kharin
Research Institute for Applied Mathematics and Informatics of Belarusian State University
Belarus
Belarus
U. Yu. Palukha
Research Institute for Applied Mathematics and Informatics of Belarusian State University
Belarus
Belarus
References
1. Esteban, M. D. A summary on entropy statistics / M. D. Esteban, D. Morales // Kybernetika. – 1995. – Vol. 31, N 4. – P. 337–346.
2. Палуха, В. Ю. Энтропийные характеристики двоичных последовательностей в криптографии / В. Ю. Палуха, Ю. С. Харин // Комплексная защита информации: материалы XX науч.-практ. конф., Минск, 19–21 мая 2015 г. – Минск: РИВШ, 2015. – С. 99–102.
3. Палуха, В. Ю. Вероятностные свойства оценки многомерной энтропии выходных последовательностей криптографических генераторов / В. Ю. Палуха, Ю. С. Харин // Веб-программирование и Интернет-технологии WebConf-2015: Материалы 3-й Междунар. науч.-практ. конф., Минск, 12–14 мая 2015 г. – Минск: Изд. центр БГУ, 2015. – С. 146–147.
4. Estimating Renyi Entropy of Discrete Distributions [Electronic resource] / J. Acharya [et al.] – Mode of access: http:// arxiv.org/pdf/1408.1000v3.pdf. – Date of access: 08.04.2016.
5. Bonachela, J. A. Entropy estimates of small data sets / J. A. Bonachela, H. Hinrichsen, M. A. Muñoz // J. Phys. A: Mathematical and Theoretical. – 2008. – Vol. 41, N 20. – 202001 (9 p).
6. Криптология / Ю. С. Харин [и др.]. – Минск: БГУ, 2013.
7. Holst, L. Asymptotic normality and efficiency for certain goodness-of-fit tests / L. Holst // Biometrika. – 1972. – N 59. – P. 137–145.
8. Харин, Ю. С. Теория вероятностей, математическая и прикладная статистика / Ю. С. Харин, Н. М. Зуев, Е. Е. Жук. – Минск: БГУ, 2011.
9. Энвин, А. Ю. Дискретная математика: конспект лекций / А. Ю. Энвин. – Челябинск: Изд-во ЮУрГУ, 1998.
10. Математическая статистика: учеб. пособие / Моск. гос. ин-т электроники и математики; авт.-сост.: Н. Ю. Энатская, Е. Р. Хакимуллин. – Москва: МИЭМ, 2004. – Ч. 2.
11. Riordan, J. Moment recurrence relations for binomial, Poisson and hypergeometric frequency distributions / J. Riordan // Annals of Mathematical Statistics. – 1937. – Vol. 8, N 2. – P. 103–111.
12. Боровков, А. А. Теория вероятностей / А. А. Боровков. – М.: Эдиториал УРСС, 1999.
13. Андерсон, Т. Введение в многомерный статистический анализ / Т. Андерсон; пер. с англ. Ю. Ф. Кичатова, Е. С. Кочеткова, Н. С. Райбмана; под ред. Б. В. Гнеденко. – М.: Физматгиз, 1963.
14. speedtest-500MB.bin [Electronic resource] // Humboldt Berlin University, Faculty of Mathematics and Natural Sciences, Department of Physics. – Mode of access: http://qrng.physik.hu-berlin.de/files/speedtest-500MB.bin. – Date of access: 08.04.2016.
Review
Views: 1183
Email this article 