Учебник · 3 из 9

Глава 2. Биологические нейроны и их математические модели

2.1. Структура и функция биологического нейрона

Нейрон — базовый функциональный элемент нервной системы. Он принимает импульсные сигналы на входы (через дендриты и синапсы) и генерирует один импульсный поток на выход (через аксон). Ключевые компоненты:

  • Дендриты — ветвистые отростки нейрона, принимающие сигналы от других нейронов через синапсы.
  • Тело клетки (сома) — интегрирует поступающие сигналы и содержит ядро.
  • Аксон — длинный отросток, по которому потенциал действия распространяется к другим нейронам или эффекторам.
  • Синапсы — места контакта нейронов, где электрический импульс преобразуется в химический сигнал (выделение медиатора в синаптической щели) и обратно в электрический.
  • Мембрана нейрона — осуществляет пространственную и временную суммацию воздействий, поддерживает внутриклеточный потенциал.
  • Ионные каналы — белковые структуры в мембране, регулирующие прохождение ионов (Na⁺, K⁺, Ca²⁺, Cl⁻) и создающие электрический потенциал.

Источник: архитектурные принципы из статьи Бахшиева А.В., Романова С.П. (article_0018.md, частично).

2.2. Модель Маккаллока — Питтс (1943) — первая формальная модель

Первая математическая модель нейрона представляет его как простой процессор с несколькими входами и одним выходом. Модель состоит из трёх функциональных блоков:

  • Локальная память — хранит веса синапсов (весовые множители, аналог чувствительности синаптических контактов).
  • Блок суммирования — вычисляет взвешенную сумму входных сигналов.
  • Блок нелинейного преобразования — пороговая функция «все или ничего».
net = Σ (wᵢ × xᵢ)
Y = 1, если net > θ, иначе Y = 0

Где xᵢ — входной сигнал, wᵢ — вес синапса, net — взвешенная сумма входов, θ — порог активации, Y — выход (0 или 1).

Ограничение модели: бинарная активация не отражает аналоговую природу реальных нейронов, отсутствует временная суммация, нет учёта структуры дендритов.

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.3. Функции активации — обзор

ФункцияОписаниеПрименение
Пороговая бинарная (Хевисайда)Y = 1, если net > θ, иначе Y = 0Персептроны, простые сети
Пороговая биполярная (сигнатурная)Y = −1 или Y = +1Биполярные нейросети
ЛинейнаяY = k · netЛинейные сети, выходные слои RBF
Сигмоидальная логистическаяY = 1 / (1 + e^(−net))Многослойные сети, обратное распространение ошибки
Гиперболический тангенсY = tanh(net)Многослойные перцептроны, симметричные выходы
Радиально-базисная (Гауссова)Y = exp(−‖X − C‖² / (2·σ²))RBF-сети, классификация, регрессия
ЭкспоненциальнаяY = e^(net) / Σ e^(netⱼ)Вероятностные нейросети, выходные слои классификации
Квадратный кореньY = √(Σ (xᵢ − cᵢ)²)Сеть Кохонена, обучение без учителя

Сигмоидальная функция обладает избирательной чувствительностью к сигналам разной интенсивности — наибольшая чувствительность вблизи порога, что соответствует биологическим данным. Производная логистической функции может быть выражена через её значение, что облегчает использование при обратном распространении ошибки.

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.4. Классификация моделей нейронов

Нейроны классифицируются по трём основным критериям:

По положению в топологии сети:

  • Входные нейроны — принимают исходный вектор, передают сигнал на выход с возможным усилением/ослаблением.
  • Выходные нейроны — формируют результат работы сети, могут выполнять вычислительные операции.
  • Промежуточные нейроны — выполняют основные вычислительные операции сети.

По степени формализации (разработки математического описания):

  • Формальные (абстрактные) нейроны — хорошо разработанное математическое описание, игнорируют многие свойства биологического прототипа.
  • Физиологические нейроны — количественное описание поведения нейронов, порождённое экспериментами над биологическими нейронами.
  • Феноменологические модели — не имеют строгой математической и опытной базы.

По аппаратной реализации:

  • Цифровые модели — реализуются на микросхемах, сеть как единое целое, отдельные нейроны не выделяются как самостоятельные единицы.
  • Аналоговые модели — воспроизводят пространственную и временную суммацию, рефрактерность, процессы переработки информации. Нейрон как устройство с непрерывно меняющимся состоянием.

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.5. Формальные нейроны — развёрнутый обзор

МодельОсобенностьПрименение
Маккаллок — ПиттсПороговая активация, неизменные весаПростые сети, перцептроны
Адалайн (Adaline)Сигнатурная функция активации, градиентное обучение весовАдаптивная фильтрация, классификация
Нейрон ПадеОбобщение адалайн для нелинейной интерполяцииПрактически не используется
Квадратичный сумматорВычисляет полином второго порядка от входовКлассификация многомерных нормальных распределений
Сигма-пи нейроныФункция активации — полином степени NОбобщение линейных и квадратичных функций
Instar / Outstar (Гроссберг)Адаптация весов к входным и выходным сигналамКлассификация, обучение с и без учителя
Нейрон ХеббаПравило обучения: wᵢ ∝ xᵢ · y (одновременная активация усиливает связь)Самоорганизация, ассоциативная память
WTA (Winner-Takes-All)Конкуренция нейронов, активен только один с максимальным uiСамоорганизация, кластеризация

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.6. Физиологические модели нейронов

МодельОписаниеОсобенности
Пороговый интегратор (leaky integrate-and-fire)Суммация синаптических токов по закону Ома, генерация спайка при превышении порогаНе воспроизводит форму спайка, адаптацию, спонтанную активность
Ходжкин — ХакслиТри типа ионного тока: натриевый, калиевый, утечки (хлор); модель гигантского аксона кальмараКлассическая модель потенциала действия, не рассматривает синаптический аппарат детально
Корковый пирамидный нейрон с шумомБолее полный набор ионных каналов, цветной шум (Ornstein-Uhlenbeck) для синаптического токаВоспроизводит адаптацию и спонтанную активность, близка к нейрону зрительной коры крысы
Коннор — Уолтер — МакКаунДополнительный ток IA по сравнению с Ходжиным-ХакслемБолее широкий диапазон частот вспышек активности
Морис — Лекар (ML)Упрощённая Ходжкин-Хаксли, две переменные (калий и кальций)Генерация спайков, режим невосприимчивости; нельзя описать хаотические колебания
ФитцХью — Нагумо (FHN)Две переменные: быстрая u (потенциал), медленная v; спиральные волныАналитически изучена, используется для описания волн в активных средах
Хиндмарш — Розе (2D и 3D)Закон Кирхгофа для мембранного потенциала как суммы ионных токовКачественное описание экспериментальных ситуаций
Спайковая модель отклика (SRM)Параметры зависят от времени последнего спайка, моделирует рефрактерностьОбобщение порогового интегратора
Уилсон — КованМодель среднего поля: переменные числа возбуждённых и тормозных нейроновОперации с ансамблями нейронов

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.7. Феноменологические модели

Бионический нейрон В.Б. Вальцева: имеет входы возбуждения, регуляции, памяти, торможения и запрета. Состояние определяется потенциалом и порогом. Порог покоя — постоянное значение. Потенциал ограничен Pmin ≤ 0 и Pmax > 0. Вход памяти изменяет коэффициент обученности µ (0–1), который определяет значимость вклада вклада в общий потенциал. Обучение увеличивает µ на ∆µ⁺ = 0.2 при условиях: на вход поступил сигнал, сигнал подкреплён входом возбуждения, порог меньше порога покоя.

Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).

2.8. От формального к импульсному нейрону (Бахшиев, Романов)

Разработка велась в четыре этапа:

  1. Универсальная модель формального нейрона — входные сигналы x₁…xₘ, весовые функции w₁…wₘ, выход y, мембранный потенциал u, порог θ, функция активации F.
  2. Нейрон со структурной организацией мембраны — потенциала участка мембраны зависит от среднего значения потенциала подключённых участков. Минимальным функциональным элементом считается не нейрон, а участок мембраны.
  3. Раздельное вычисление вкладов в мембранный потенциал — введение «ионных механизмов» (абстракций ионных каналов), позволяющих независимую обработку возбуждающих и тормозных сигналов с разными постоянными времени.
  4. Переход к импульсной модели — входы и выходы становятся импульсными (0 или 1), порог константа близкая к 0, функция активации — пороговая с гистерезисом. Воспроизводятся деполяризация, скачок потенциала, гиперполяризация, остаточная деполяризация.

Преимущество импульсной обмена: локализация информации во времени, экономия энергии при аппаратной реализации (нейроны большей частью в состоянии покоя). Проблема: автоматизация формирования структуры мембраны и связей.

Источник: статья «От модели формального нейрона к импульсному нейрону» (ot-formalnogo-k-impulsnomu-nejronu.md).

2.9. Модель импульсных потоков в естественном нейроне

Предложена система дифференциальных уравнений, описывающая аналоговое преобразование импульсных потоков:

  • На входы поступают импульсные потоки, в синапсах преобразуются в аналоговые величины (выделение и распад медиатора в синаптической щели).
  • Входные и выходные сигналы равны нулю в отсутствии импульса и константе на время действия импульса.
  • Мембрана сомы и дендритов — набор пар ионных механизмов деполяризации и гиперполяризации.
  • Выходные сигналы ионных механизмов — обобщённый аналоговый вклад во внутриклеточный потенциал.
  • Синапсы изменяют деятельность ионных механизмов (моделируют изменение концентрации ионов под воздействием внешнего сигнала).
  • Тип ионного механизма определяется знаком выходного сигнала: положительный — деполяризующее влияние, отрицательный — гиперполяризующее.

Преимущества модели: произвольная структура дендритного аппарата, эффект пресинаптического торможения, не требует настройки внутренних параметров в процессе функционирования.

Источник: Бахшиев А.В., Романов С.П. (article_0018.md, частично).

2.10. Предыстория импульсного нейрона (аналоговая модель Романова)

В 70-х годах С.П. Романов разработал физическую аналоговую модель нейрона на операционных усилителях. Основные постулаты:

  • Модель нейрона должна содержать динамику, т.е. обеспечивать не только пространственную, но и временную суммацию сигналов.
  • Нейроны должен представлять собой сущности, обменивающиеся импульсами между собой, внутри осуществляющие аналоговое преобразование.
  • Необходимо сохранить некоторые специфические особенности синаптической передачи, например, тот факт, что передача сигнала происходит не мгновенно; существует пресинаптическое торможение; активный синапс приводит к нарушению некоторого равновесного состояния мембраны.
  • Равновесное состояние мембраны обеспечивается несколькими противодействующими друг другу процессами.
  • Эффективность взаимодействия между нейронами должна настраиваться через добавление/удаление синапсов, а не корректировку параметра-веса синапса.
  • Структура мембраны нейрона должна иметь настраиваемую структуру, отражающую некоторые реальные особенности нейрона.
  • Порог активации нейрона отсутствует или фиксирован.
  • Модель нейрона должна воспроизводить некоторые основные паттерны поведения в ответ на возбуждающие и тормозящие воздействия, присущие реальным нейронам.

Аналоговая схема использовала интеграторы и управляемые ключи для моделирования синаптического аппарата, RC-цепочки для натриевого и калиевого насосов, операционные усилители для суммирования ВПСП/ТПСП и генерации потенциала действия.

Источник: «Предыстория импульсного нейрона» (predystoriya-impulsnogo-nejrona.md).

2.11. Нейрон как квазибиологический организм (модель выживания)

Нейрон рассматривается как организм, нуждающийся в питании. Базовые параметры:

  • Энергетический резерв клетки E — нейрон расходует энергию на генерацию импульсов. При избытке энергии способен делиться, при потере всего запаса — погибает.
  • Износ нейрона H — определяет эффективность функционирования. Увеличение износа (старение) снижает эффективность расхода энергии. Генерация импульса приводит к функциональному обновлению (снижению износа).
  • Самочувствие Q — определяется по величине и тенденции внутренних резервов питания.

Основные свойства модели:

  1. Нейрон нуждается в питании — без него погибает.
  2. Нейрон стареет — с возрастом растут потребности в питании.
  3. Разряд снижает возраст и потребности.
  4. Между нейронами образуются связи для оптимизации функциональных состояний.
  5. Разряд требует дополнительных расходов питания, зависящих от частоты генерации.
  6. У нейрона есть внутренние резервы питания («самочувствие»).

Интегральные характеристики сети:

  • Суммарный износ системы = сумма износов всех нейронов.
  • Суммарное самочувствие = сумма самочувствий всех нейронов.
  • Суммарный расход энергии = сумма расходов каждого нейрона.
  • Сеть стремится минимизировать частоту разрядов и суммарный износ, находя оптимальную частоту генерации импульсов.

Бета-ансамбли: любая последовательность связанных нейронов со связями Gs больше порога — бета-ансамбль. Ансамбль — группа нейронов с полной картиной связей (каждый с каждым). Параметр «мощность» ансамбля — суммарное Gs всех нейронов.

Главный вывод

Интеллектуальные свойства сети возникают не из сложности отдельного нейрона, а из организации энергетически выгодных связей между нейронами. Структура сети и её информационные свойства определяются функционированием её элементов — нейронов.

Источник: «Моделирование выживания нейрона» (modelirovanie-vyzhivaniya-nejrona.md).

2.12. Биоподобные нейронные сети для управления роботами

Концепция применения биоподобных моделей нейронных сетей для управления робототехническими системами включает два взаимно дополняющих подхода:

  1. Заимствование информации о нейронных структурах с известной морфологией и функцией, построение их моделей и применение полученных знаний для решения аналогичных задач в управлении техническими системами.
  2. Разработка нейросетевых архитектур на основе накопленных знаний о принципах организации биологических НС с последующим поиском сходства или расхождения с реальностью и коррекцией моделей.

В основе концепции — разработка нейросетевой системы управления, воспринимающей информацию от сенсоров и замкнутой на среду через эффекторы. Решение только одной частной задачи (например, распознавание образов) резко сужает контекст использования информации.

УровеньНазначение
RCN (Regulatory Control Network)Сеть регулятора: предоставляет информацию о текущем положении объекта управления и обеспечивает переход в заданное положение
PCN (Position Control Network)Сеть позиционирования: запоминает и воспроизводит конкретные положения элементов исполнительной системы
TCN (Trajectory Control Network)Сеть управления движением по траектории: моделирует сложные траектории движения

Источник: «Концепция применения биоподобных моделей нейронных сетей» (kontseptsiya-biopodobnyh-ns.md).

AXIIOM

Разрабатываем финтех-продукты и ИИ-решения

Сайты, мобильные приложения, платёжные интеграции и внедрение ИИ — от стратегии до поддержки.

Перейти на axiiom.ru →  ·  Обсудить проект