Application of a Compartmental Spiking Neuron Model with Structural Adaptation for Solving Classification Problems

Cover Page

Cite item

Full Text

Abstract

The problem of classification using a compartmental spiking neuron model is considered. The state of the art of spiking neural networks analysis is carried out. It is concluded that there are very few works on the study of compartmental neuron models. The choice of a compartmental spiking model is justified as a neuron model for this work. A brief description of such a model is given, and its main features are noted in terms of the possibility of its structural reconfiguration. The method of structural adaptation of the model to the input spike pattern is described. The general scheme of the compartmental spiking neurons’ organization into a network for solving the classification problem is given. The time-to-first-spike method is chosen for encoding numerical information into spike patterns, and a formula is given for calculating the delays of individual signals in the spike pattern when encoding information. Brief results of experiments on solving the classification problem on publicly available data sets (Iris, MNIST) are presented. The conclusion is made about the comparability of the obtained results with the existing classical methods. In addition, a detailed step-by-step description of experiments to determine the state of an autonomous uninhabited underwater vehicle is provided. Estimates of computational costs for solving the classification problem using a compartmental spiking neuron model are given. The conclusion is made about the prospects of using spiking compartmental models of a neuron to increase the bio-plausibility of the implementation of behavioral functions in neuromorphic control systems. Further promising directions for the development of neuromorphic systems based on the compartmental spiking neuron model are considered.

About the authors

A. M Korsakov

Russian state scientific center for robotics and technical cybernetics (RTC)

Email: anton_korsakov@mail.ru
Tikhoretsky Av. 21

L. A Astapova

Peter the Great St.Petersburg Polytechnic University (SPbPU)

Email: astapova.la@yandex.ru
Polytechnic St. 29

A. V Bakhshiev

Peter the Great St.Petersburg Polytechnic University (SPbPU)

Email: palexab@gmail.com
Polytechnic St. 29

References

  1. Prieto A. et al. Neural networks: An overview of early research, current frameworks and new challenges // Neurocomputing. 2016. vol. 214. pp. 242–268.
  2. Haykin S.S. Neural networks and learning machines // Harlow: Pearson Education. 2009. 934 p.
  3. Walter F., Röhrbein F., Knoll A. Computation by time // Neural Processing Letters. 2016. vol. 44. no. 1. pp. 103–124.
  4. Gerstner W., Kistler W.M. Spiking neuron models: Single neurons, populations, plasticity // Cambridge: Cambridge University Press. 2002. 496 p.
  5. Izhikevich E.M. Which model to use for cortical spiking neurons // IEEE Transactions on Neural Networks. 2003. vol. 14. pp. 1569–1572.
  6. Lin X., Zhang T. Dynamical properties of piecewise linear spiking neuron model // Tien Tzu Hsueh Pao/Acta Electronica Sinica. 2009. vol. 37. no. 6. pp. 1270–1276.
  7. Ghosh-Dastidar S., Adeli H. Spiking neural networks // International Journal of Neural Systems. 2009. vol. 19. no. 4. pp. 295–308.
  8. Maass W. Lower bounds for the computational power of networks of spiking neurons // Neural computation. 1996. vol. 8. no. 1. pp. 1–40.
  9. Kulkarni S.R., Rajendran B. Spiking neural networks for handwritten digit recognition—Supervised learning and network optimization // Neural Networks. 2018. vol. 103. pp. 118–127.
  10. Almási A.D. et al. Review of advances in neural networks: Neural design technology stack // Neurocomputing. 2016. vol. 174. pp. 31–41.
  11. Denève S., Alemi A., Bourdoukan R. The brain as an efficient and robust adaptive learner // Neuron. 2017. vol. 94. no. 5. pp. 969–977.
  12. Glaser J.I. et al. The roles of supervised machine learning in systems neuroscience // Progress in neurobiology. 2019. vol. 175. pp. 126–137.
  13. Rummelhart, D.E. Learning representations by back-propagating errors // Nature. 1986. vol. 323. no. 9. pp. 533–536.
  14. Lin X. et al. Supervised learning algorithms for spiking neural networks: a review // Acta electonica sinica. 2015. vol. 43. no. 3. pp. 577.
  15. Wang X., Lin X., Dang X. Supervised learning in spiking neural networks: A review of algorithms and evaluations // Neural Networks. 2020. vol. 125. pp. 258–280.
  16. Lobo J.L. et al. Spiking neural networks and online learning: An overview and perspectives // Neural Networks. 2020. vol. 121. pp. 88–100.
  17. Kasabov N. et al. Dynamic evolving spiking neural networks for on-line spatio-and spectro-temporal pattern recognition // Neural Networks. 2013. vol. 41. pp. 188–201.
  18. Kasabov N. Time-Space, Spiking Neural Networks and Brain-Inspired Artificial Intelligence // Berlin: Springer-Nature. 2018. 738 p.
  19. Khan G.M., Miller J.F. In search of intelligence: evoling a develop-mental neuron capable of learning // Connection Science. 2014. vol. 26. no. 4. pp. 297–333.
  20. Bakhshiev A.V., Gundelakh F.V. Mathematical Model of the Impulses Transformation Processes in Natural Neurons for Biologically Inspired Control Systems Development // CEUR Workshop Proceedings. 2015. vol. 1452. pp. 1–12.
  21. Bakhshiev A., Demcheva A., Stankevich L. CSNM: The Compartmental Spiking Neuron Model for Developing Neuromorphic Information Processing Systems // International Conference on Neuroinformatics. 2021. pp. 327–333.
  22. Бахшиев A.В., Корсаков А.М., Астапова Л.А, Станкевич Л.А. Структурная адаптация сегментной спайковой модели нейрона // Нелинейная динамика в когнитивных исследованиях - 2021 : Труды VII Всероссийской конференции, Нижний Новгород, 20–24 сентября 2021 года. 2021. С. 30–33.
  23. Park S. et al. T2FSNN: deep spiking neural networks with time-to-first-spike coding // 2020 57th ACM/IEEE Design Automation Conference (DAC). 2020. pp. 1–6.
  24. Lin P. et al. SpikeCD: a parameter-insensitive spiking neural network with clustering degeneracy strategy // Neural Computing and Applications. 2019. vol. 31. no. 8. pp. 3933–3945.
  25. UCI Machine Learning Repository: Iris Data Set [Electronic resource]. URL: https://archive.ics.uci.edu/ml/datasets/iris (дата обращения: 22.04.2021).
  26. Astapova L. A. et al. Compartmental spiking neuron model for pattern classification // Journal of Physics: Conference Series. 2021. vol. 2094. no. 3. pp. 032032.
  27. MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges [Electronic resource]. URL: http://yann.lecun.com/exdb/mnist/ (дата обращения: 12.10.2021).
  28. Щур Н.A., Половко С.А., Деулин А.A. Применение методов вычислительной гидродинамики для получения характеристик переходных процессов АНПА // Робототехника и техническая кибернетика. 2020. Т. 8. №4. С. 287–295.
  29. Горюнов В.В., Половко С.А., Щур Н.A. Разработка схемотехнического решения и конструкции емкостной матрицы датчиков давления для применения в робототехнике // Робототехника и техническая кибернетика. 2020. Т. 8. №4. С. 308–318.
  30. Bakhshiev A.V. et al. The architecture of a software platform for growing spiking neural networks simulator developing // Journal of Physics: Conference Series. 2020. vol. 1679. no. 4. pp. 042001.

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».