sapiСистемный анализ и прикладная информатика«System analysis and applied information science»2309-49232414-0481Belarusian National Technical University10.21122/2309-4923-2021-4-16-24sapi-534Research ArticleСистемный анализSystem analysisНейроэволюционное подкрепляющее обучение нейронных сетейNeuroevolutionary reinforcing learning of neural networksБурыйЯ. А.BuryY. A.

Бурый Ярослав Анатольевич, ассистент кафедры электронных вычислительных машин, аспирант кафедры электронных вычислительных машин БГУИР

г. Минск

Yaraslau A. Bury, Assistant of Electronic Computing Machines Department BSUIR, Post-graduate student of Electronic Computing Machines Department

Minsk

edidici@tut.byСамальД. И.SamalD. I.

Самаль Дмитрий Иванович, доцент кафедры программного обеспечения информационных технологий БГУИР, доцент кафедры программной инженерии БГТУ, кандидат технических наук

г. Минск

Dmitry I. Samal, Associate Professor of the Software for Information Technologies Department BSUIR, Associate Professor of the Software Engineering Department BSTU Ph.D.

Minsk

samal@bsuir.byБелорусский государственный университет информатики и радиоэлектроникиБеларусьBelarusian State University of Informatics and RadioelectronicsBelarus202104012022041624Copyright © Бурый Я.А., Самаль Д.И., 20222022Бурый Я.А., Самаль Д.И.Bury Y.A., Samal D.I.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://sapi.bntu.by/jour/article/view/534

В статье представлены результаты объединения 4-х различных типов обучения нейронных сетей: эволюционного, с подкреплением, глубокого и экстраполирующего. Последние два используются в качестве первичного метода уменьшения размерности входного сигнала системы и упрощения процесса её обучения с точки зрения вычислительной сложности.

В представленной работе нейросетевая структура управляющего устройства моделируемой системы формируется в ходе эволюционного процесса, с учётом известных на текущий момент особенностей строения и развития самообучающихся систем, имеющих место в живой природе. Данный способ его конструирования даёт возможность обойти специфические ограничения моделей, созданных на основе рекомбинации уже известных топологий нейронных сетей.

The article presents the results of combining 4 different types of neural network learning: evolutionary, reinforcing, deep and extrapolating. The last two are used as the primary method for reducing the dimension of the input signal of the system and simplifying the process of its training in terms of computational complexity.

In the presented work, the neural network structure of the control device of the modeled system is formed in the course of the evolutionary process, taking into account the currently known structural and developmental features of self-learning systems that take place in living nature. This method of constructing it makes it possible to bypass the specific limitations of models created on the basis of recombination of already known topologies of neural networks.

нейронные сетинейронная сеть свёрткинейроэволюцияэволюционные алгоритмыгенетический алгоритмраспознавание изображенийраспознавание символовраспознавание текстаобучение нейронных сетейглубокое обучениеобучение с подкреплениемneural networksconvolution neural networkneuroevolutionevolutionary algorithmsgenetic algorithmimage recognitioncharacter recognitiontext recognitionneural network trainingdeep learningreinforcement learningReferencesХижняков, Ю. Н. Алгоритмы нечеткого, нейронного и нейро-нечеткого управления в системах реального времени / Ю. Н. Хижняков. – Пермь: ПНИПУ, 2013. – 160с.Hizhnjakov, J. N. Algorithms of fuzzy, neural and neural-fuzzy control in real-time systems / J. N. Hizhnjakov. – Perm: PNIPU, 2013. – 160p.Саттон, Р. С. Обучение с подкреплением / Р. С. Саттон, Э. Г. Барто – М.: БИНОМ. Лаборатория знаний, 2017. – 399с.Sutton, R. S. Reinforcement Learning / R. S. Sutton, A. G Barto. – M.: BINOM. 2017. – 399p.Рутковская, Д. Нейронные сети, генетические алгоритмы и нечёткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский – М .: Горячая линия – Телеком, 2013. – 384с.Rutkovskaja, D. Neural networks, genetic algorithms and fuzzy systems / D. Rutkovskaja, M. Pilin’skij, L. Rutkovskij – M.: Gorjachaja linija – Telekom, 2013. – 384p.Бурый, Я. А. Экстраполирующее обучение нейронных сетей. Информатика. Том 16, № 1 (2019) / Я. А. Бурый, Д. И. Самаль – М.: Информатика, 2019. – 86–92с.Bury, Y. Extrapolating training of neural networks. Informatics. Num 16, № 1 (2019) / Y.A. Bury, D. I. Samal – М.: Informatics, 2019. – 86–92p.База изображений THE MNIST DATABASE of handwritten digits – [Электронный ресурс]. – Режим доступа: http://yann.lecun.com/exdb/mnist/. – Дата доступа: 14.08.2018.Images dataset THE MNIST DATABASE of handwritten digits. Access mode: http://yann.lecun.com/exdb/mnist/. Access date: 14.08.2019.Официальный сайт Caffe (GitHub) – [Электронный ресурс]. – Режим доступа: http://caffe.berkeleyvision.org. Дата доступа: 14.08.2018.Official site Caffe (GitHub). Access mode: http://caffe.berkeleyvision.org. Access date: 14.08.2019.Бурый, Я. А. Применение конфигурационного кодирования входного сигнала в нейронных сетях свёртки для распознавания рукописных символов / Я.А Бурый, Д.А Самаль – М.: БГУИР, BigDATA, 2019. – 366–371с.Bury, Y. Application of configuration coding of the input signal in convolution neural networks for recognition of handwritten characters / Y. Buryi, D. Samal – M .: BSUIR, BigDATA, 2019. – 366–371p.База изображений The Street View House Numbers (SVHN) Dataset – [Электронный ресурс]. – Режим доступа: http://ufldl.stanford.edu/housenumbers. – Дата доступа: 14.08.2018.The Street View House Numbers (SVHN) Dataset – [Electronic resource]. – Access mode: http://ufldl.stanford.edu/house-numbers. Access date: 14.08.2019.Хайкин, С. Нейронные сети. Полный курс / С. Хайкин. – М., СПб., Киев: Вильямс, 2006. – 1104с.Hajkin, S. Neural networks. Full course / S. Hajkin. – M., SPb., Kiev: Vil’jams, 2006. – 1104p.Плотников, А. Д. Математическое программирование / А. Д. Плотников – Минск: Новое знание, 2007. – 171сPlotnikov, A. D. Mathematical programming / A. D. Plotnikov – Minsk: Novoe znanie, 2007. – 171pНиколенко, С. Глубокое обучение. Погружение в мир нейронных сетей / С. Николенко, А. Кадурин, Е. Архангельская – СПб.: Питер, 2018. – 480с.Nikolenko, S. Deep learning. Immersion in the world of neural networks/ S. Nikolenko, A. Kadurin, E. Arhangelskaya – SPb.: Piter Publ., 2018. – 480p.

The authors declare that there are no conflicts of interest present.