Глава 2. Биологические нейроны и их математические модели
2.1. Структура и функция биологического нейрона
Нейрон — базовый функциональный элемент нервной системы. Он принимает импульсные сигналы на входы (через дендриты и синапсы) и генерирует один импульсный поток на выход (через аксон). Ключевые компоненты:
- Дендриты — ветвистые отростки нейрона, принимающие сигналы от других нейронов через синапсы.
- Тело клетки (сома) — интегрирует поступающие сигналы и содержит ядро.
- Аксон — длинный отросток, по которому потенциал действия распространяется к другим нейронам или эффекторам.
- Синапсы — места контакта нейронов, где электрический импульс преобразуется в химический сигнал (выделение медиатора в синаптической щели) и обратно в электрический.
- Мембрана нейрона — осуществляет пространственную и временную суммацию воздействий, поддерживает внутриклеточный потенциал.
- Ионные каналы — белковые структуры в мембране, регулирующие прохождение ионов (Na⁺, K⁺, Ca²⁺, Cl⁻) и создающие электрический потенциал.
Источник: архитектурные принципы из статьи Бахшиева А.В., Романова С.П. (article_0018.md, частично).
2.2. Модель Маккаллока — Питтс (1943) — первая формальная модель
Первая математическая модель нейрона представляет его как простой процессор с несколькими входами и одним выходом. Модель состоит из трёх функциональных блоков:
- Локальная память — хранит веса синапсов (весовые множители, аналог чувствительности синаптических контактов).
- Блок суммирования — вычисляет взвешенную сумму входных сигналов.
- Блок нелинейного преобразования — пороговая функция «все или ничего».
Y = 1, если net > θ, иначе Y = 0
Где xᵢ — входной сигнал, wᵢ — вес синапса, net — взвешенная сумма входов, θ — порог активации, Y — выход (0 или 1).
Ограничение модели: бинарная активация не отражает аналоговую природу реальных нейронов, отсутствует временная суммация, нет учёта структуры дендритов.
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.3. Функции активации — обзор
| Функция | Описание | Применение |
|---|---|---|
| Пороговая бинарная (Хевисайда) | Y = 1, если net > θ, иначе Y = 0 | Персептроны, простые сети |
| Пороговая биполярная (сигнатурная) | Y = −1 или Y = +1 | Биполярные нейросети |
| Линейная | Y = k · net | Линейные сети, выходные слои RBF |
| Сигмоидальная логистическая | Y = 1 / (1 + e^(−net)) | Многослойные сети, обратное распространение ошибки |
| Гиперболический тангенс | Y = tanh(net) | Многослойные перцептроны, симметричные выходы |
| Радиально-базисная (Гауссова) | Y = exp(−‖X − C‖² / (2·σ²)) | RBF-сети, классификация, регрессия |
| Экспоненциальная | Y = e^(net) / Σ e^(netⱼ) | Вероятностные нейросети, выходные слои классификации |
| Квадратный корень | Y = √(Σ (xᵢ − cᵢ)²) | Сеть Кохонена, обучение без учителя |
Сигмоидальная функция обладает избирательной чувствительностью к сигналам разной интенсивности — наибольшая чувствительность вблизи порога, что соответствует биологическим данным. Производная логистической функции может быть выражена через её значение, что облегчает использование при обратном распространении ошибки.
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.4. Классификация моделей нейронов
Нейроны классифицируются по трём основным критериям:
По положению в топологии сети:
- Входные нейроны — принимают исходный вектор, передают сигнал на выход с возможным усилением/ослаблением.
- Выходные нейроны — формируют результат работы сети, могут выполнять вычислительные операции.
- Промежуточные нейроны — выполняют основные вычислительные операции сети.
По степени формализации (разработки математического описания):
- Формальные (абстрактные) нейроны — хорошо разработанное математическое описание, игнорируют многие свойства биологического прототипа.
- Физиологические нейроны — количественное описание поведения нейронов, порождённое экспериментами над биологическими нейронами.
- Феноменологические модели — не имеют строгой математической и опытной базы.
По аппаратной реализации:
- Цифровые модели — реализуются на микросхемах, сеть как единое целое, отдельные нейроны не выделяются как самостоятельные единицы.
- Аналоговые модели — воспроизводят пространственную и временную суммацию, рефрактерность, процессы переработки информации. Нейрон как устройство с непрерывно меняющимся состоянием.
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.5. Формальные нейроны — развёрнутый обзор
| Модель | Особенность | Применение |
|---|---|---|
| Маккаллок — Питтс | Пороговая активация, неизменные веса | Простые сети, перцептроны |
| Адалайн (Adaline) | Сигнатурная функция активации, градиентное обучение весов | Адаптивная фильтрация, классификация |
| Нейрон Паде | Обобщение адалайн для нелинейной интерполяции | Практически не используется |
| Квадратичный сумматор | Вычисляет полином второго порядка от входов | Классификация многомерных нормальных распределений |
| Сигма-пи нейроны | Функция активации — полином степени N | Обобщение линейных и квадратичных функций |
| Instar / Outstar (Гроссберг) | Адаптация весов к входным и выходным сигналам | Классификация, обучение с и без учителя |
| Нейрон Хебба | Правило обучения: wᵢ ∝ xᵢ · y (одновременная активация усиливает связь) | Самоорганизация, ассоциативная память |
| WTA (Winner-Takes-All) | Конкуренция нейронов, активен только один с максимальным ui | Самоорганизация, кластеризация |
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.6. Физиологические модели нейронов
| Модель | Описание | Особенности |
|---|---|---|
| Пороговый интегратор (leaky integrate-and-fire) | Суммация синаптических токов по закону Ома, генерация спайка при превышении порога | Не воспроизводит форму спайка, адаптацию, спонтанную активность |
| Ходжкин — Хаксли | Три типа ионного тока: натриевый, калиевый, утечки (хлор); модель гигантского аксона кальмара | Классическая модель потенциала действия, не рассматривает синаптический аппарат детально |
| Корковый пирамидный нейрон с шумом | Более полный набор ионных каналов, цветной шум (Ornstein-Uhlenbeck) для синаптического тока | Воспроизводит адаптацию и спонтанную активность, близка к нейрону зрительной коры крысы |
| Коннор — Уолтер — МакКаун | Дополнительный ток IA по сравнению с Ходжиным-Хакслем | Более широкий диапазон частот вспышек активности |
| Морис — Лекар (ML) | Упрощённая Ходжкин-Хаксли, две переменные (калий и кальций) | Генерация спайков, режим невосприимчивости; нельзя описать хаотические колебания |
| ФитцХью — Нагумо (FHN) | Две переменные: быстрая u (потенциал), медленная v; спиральные волны | Аналитически изучена, используется для описания волн в активных средах |
| Хиндмарш — Розе (2D и 3D) | Закон Кирхгофа для мембранного потенциала как суммы ионных токов | Качественное описание экспериментальных ситуаций |
| Спайковая модель отклика (SRM) | Параметры зависят от времени последнего спайка, моделирует рефрактерность | Обобщение порогового интегратора |
| Уилсон — Кован | Модель среднего поля: переменные числа возбуждённых и тормозных нейронов | Операции с ансамблями нейронов |
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.7. Феноменологические модели
Бионический нейрон В.Б. Вальцева: имеет входы возбуждения, регуляции, памяти, торможения и запрета. Состояние определяется потенциалом и порогом. Порог покоя — постоянное значение. Потенциал ограничен Pmin ≤ 0 и Pmax > 0. Вход памяти изменяет коэффициент обученности µ (0–1), который определяет значимость вклада вклада в общий потенциал. Обучение увеличивает µ на ∆µ⁺ = 0.2 при условиях: на вход поступил сигнал, сигнал подкреплён входом возбуждения, порог меньше порога покоя.
Источник: обзор моделей нейронов (obzor-sushchestvuyushchikh-modelej-nejronov.md).
2.8. От формального к импульсному нейрону (Бахшиев, Романов)
Разработка велась в четыре этапа:
- Универсальная модель формального нейрона — входные сигналы x₁…xₘ, весовые функции w₁…wₘ, выход y, мембранный потенциал u, порог θ, функция активации F.
- Нейрон со структурной организацией мембраны — потенциала участка мембраны зависит от среднего значения потенциала подключённых участков. Минимальным функциональным элементом считается не нейрон, а участок мембраны.
- Раздельное вычисление вкладов в мембранный потенциал — введение «ионных механизмов» (абстракций ионных каналов), позволяющих независимую обработку возбуждающих и тормозных сигналов с разными постоянными времени.
- Переход к импульсной модели — входы и выходы становятся импульсными (0 или 1), порог константа близкая к 0, функция активации — пороговая с гистерезисом. Воспроизводятся деполяризация, скачок потенциала, гиперполяризация, остаточная деполяризация.
Преимущество импульсной обмена: локализация информации во времени, экономия энергии при аппаратной реализации (нейроны большей частью в состоянии покоя). Проблема: автоматизация формирования структуры мембраны и связей.
Источник: статья «От модели формального нейрона к импульсному нейрону» (ot-formalnogo-k-impulsnomu-nejronu.md).
2.9. Модель импульсных потоков в естественном нейроне
Предложена система дифференциальных уравнений, описывающая аналоговое преобразование импульсных потоков:
- На входы поступают импульсные потоки, в синапсах преобразуются в аналоговые величины (выделение и распад медиатора в синаптической щели).
- Входные и выходные сигналы равны нулю в отсутствии импульса и константе на время действия импульса.
- Мембрана сомы и дендритов — набор пар ионных механизмов деполяризации и гиперполяризации.
- Выходные сигналы ионных механизмов — обобщённый аналоговый вклад во внутриклеточный потенциал.
- Синапсы изменяют деятельность ионных механизмов (моделируют изменение концентрации ионов под воздействием внешнего сигнала).
- Тип ионного механизма определяется знаком выходного сигнала: положительный — деполяризующее влияние, отрицательный — гиперполяризующее.
Преимущества модели: произвольная структура дендритного аппарата, эффект пресинаптического торможения, не требует настройки внутренних параметров в процессе функционирования.
Источник: Бахшиев А.В., Романов С.П. (article_0018.md, частично).
2.10. Предыстория импульсного нейрона (аналоговая модель Романова)
В 70-х годах С.П. Романов разработал физическую аналоговую модель нейрона на операционных усилителях. Основные постулаты:
- Модель нейрона должна содержать динамику, т.е. обеспечивать не только пространственную, но и временную суммацию сигналов.
- Нейроны должен представлять собой сущности, обменивающиеся импульсами между собой, внутри осуществляющие аналоговое преобразование.
- Необходимо сохранить некоторые специфические особенности синаптической передачи, например, тот факт, что передача сигнала происходит не мгновенно; существует пресинаптическое торможение; активный синапс приводит к нарушению некоторого равновесного состояния мембраны.
- Равновесное состояние мембраны обеспечивается несколькими противодействующими друг другу процессами.
- Эффективность взаимодействия между нейронами должна настраиваться через добавление/удаление синапсов, а не корректировку параметра-веса синапса.
- Структура мембраны нейрона должна иметь настраиваемую структуру, отражающую некоторые реальные особенности нейрона.
- Порог активации нейрона отсутствует или фиксирован.
- Модель нейрона должна воспроизводить некоторые основные паттерны поведения в ответ на возбуждающие и тормозящие воздействия, присущие реальным нейронам.
Аналоговая схема использовала интеграторы и управляемые ключи для моделирования синаптического аппарата, RC-цепочки для натриевого и калиевого насосов, операционные усилители для суммирования ВПСП/ТПСП и генерации потенциала действия.
Источник: «Предыстория импульсного нейрона» (predystoriya-impulsnogo-nejrona.md).
2.11. Нейрон как квазибиологический организм (модель выживания)
Нейрон рассматривается как организм, нуждающийся в питании. Базовые параметры:
- Энергетический резерв клетки E — нейрон расходует энергию на генерацию импульсов. При избытке энергии способен делиться, при потере всего запаса — погибает.
- Износ нейрона H — определяет эффективность функционирования. Увеличение износа (старение) снижает эффективность расхода энергии. Генерация импульса приводит к функциональному обновлению (снижению износа).
- Самочувствие Q — определяется по величине и тенденции внутренних резервов питания.
Основные свойства модели:
- Нейрон нуждается в питании — без него погибает.
- Нейрон стареет — с возрастом растут потребности в питании.
- Разряд снижает возраст и потребности.
- Между нейронами образуются связи для оптимизации функциональных состояний.
- Разряд требует дополнительных расходов питания, зависящих от частоты генерации.
- У нейрона есть внутренние резервы питания («самочувствие»).
Интегральные характеристики сети:
- Суммарный износ системы = сумма износов всех нейронов.
- Суммарное самочувствие = сумма самочувствий всех нейронов.
- Суммарный расход энергии = сумма расходов каждого нейрона.
- Сеть стремится минимизировать частоту разрядов и суммарный износ, находя оптимальную частоту генерации импульсов.
Бета-ансамбли: любая последовательность связанных нейронов со связями Gs больше порога — бета-ансамбль. Ансамбль — группа нейронов с полной картиной связей (каждый с каждым). Параметр «мощность» ансамбля — суммарное Gs всех нейронов.
Главный вывод
Интеллектуальные свойства сети возникают не из сложности отдельного нейрона, а из организации энергетически выгодных связей между нейронами. Структура сети и её информационные свойства определяются функционированием её элементов — нейронов.
Источник: «Моделирование выживания нейрона» (modelirovanie-vyzhivaniya-nejrona.md).
2.12. Биоподобные нейронные сети для управления роботами
Концепция применения биоподобных моделей нейронных сетей для управления робототехническими системами включает два взаимно дополняющих подхода:
- Заимствование информации о нейронных структурах с известной морфологией и функцией, построение их моделей и применение полученных знаний для решения аналогичных задач в управлении техническими системами.
- Разработка нейросетевых архитектур на основе накопленных знаний о принципах организации биологических НС с последующим поиском сходства или расхождения с реальностью и коррекцией моделей.
В основе концепции — разработка нейросетевой системы управления, воспринимающей информацию от сенсоров и замкнутой на среду через эффекторы. Решение только одной частной задачи (например, распознавание образов) резко сужает контекст использования информации.
| Уровень | Назначение |
|---|---|
| RCN (Regulatory Control Network) | Сеть регулятора: предоставляет информацию о текущем положении объекта управления и обеспечивает переход в заданное положение |
| PCN (Position Control Network) | Сеть позиционирования: запоминает и воспроизводит конкретные положения элементов исполнительной системы |
| TCN (Trajectory Control Network) | Сеть управления движением по траектории: моделирует сложные траектории движения |
Источник: «Концепция применения биоподобных моделей нейронных сетей» (kontseptsiya-biopodobnyh-ns.md).
AXIIOM
Разрабатываем финтех-продукты и ИИ-решения
Сайты, мобильные приложения, платёжные интеграции и внедрение ИИ — от стратегии до поддержки.