Мозг человека и его нервная система состоят из множества нейронов, соединенных между собой нервными волокнами, которые передают электрические импульсы между нейронами. Все процессы мышления, управления действиями и передачи раздражений от различных рецепторов к мозгу реализованы в живом организме как обмен электрическими импульсами между нейронами. Биологический нейрон представляет собой сильно разветвленную клетку с множеством входов (дендритов, по которым принимаются импульсы) и одним выходом (аксоном, по которому нейрон может передавать импульс).
Аксон взаимодействует с дендритами других нейронов через специальные образования — синапсы, влияющие на силу импульса. При прохождении импульса (х1) через синапс его сила увеличиваются в определенное число раз (к1), которое называется весом синапса. Таким образом после прохождения синапсов к нейрону поступают импульсы к1х1. Сигналы, поступившие к нейрону одновременно по нескольким дендритам, суммируются. Полученный суммарный импульс преобразуется в некоторый выходной сигнал, который можно описать формулой у=f(х)=f(k1х1+ k2х2+ ... кnхn). Если суммарный импульс превышает некоторый порог, нейрон возбуждается, формирует собствен-ный импульс и передает его далее через аксон. Вес синапсов мо-жет изменяться со временем, и соответственно изменяется поведение нейрона. При обучении происходит координированное изменение значений веса синапсов.