Глава 8. Философские и этические аспекты ИИ

8.1. Лимиты картезианской парадигмы причинно-следственной связи (Неверов)

Картезианская парадигма причинно-следственной связи считается её сторонниками единственной материалистической научной парадигмой, основой подлинно научной методологии. При этом не делается попыток выяснить пределы её применимости, полагается, что никаких пределов нет.

А.С. Неверов пытается показать, что картезианская парадигма «причинно-следственной связи» предполагает ограничения её научного, материалистического, объективного применения заведомо, в силу её самой.

Основной довод: в картезианской парадигме и «следствие и причина», и «связь» — это одно и то же, разные точки зрения на одно и то же. Однако в результате мы рассчитываем получить полную картезианскую модель — различить между собой «следствие», «причину» и «связь» следствия с причиной.

Получить полную картезианскую модель в рамках одной конкретной ПСС невозможно. Возможно получить что-нибудь одно: или «следствие» с «причиной», или «связь» между ними.

Таким образом, картезианская парадигма, претендуя быть научной, должна разделить две разные цели:

• установления фактов, явлений, событий;
• установления закономерностей.

Именно в разнице целей, обеспечить достижение которых должна научная парадигма, кроются лимиты картезианства.

Источник: Неверов А.С., «Лимиты картезианской парадигмы причинно-следственной связи» (article_0100.md, частично). Также в Главе 1, раздел 1.7.

8.2. Может ли машина мыслить?

На 14-м семинаре А.С. Потапов выступил с докладом «Возможна ли алгоритмическая реализация интеллекта, и каковы ее ограничения». Обсуждались ключевые вопросы:

• Хьюберт Дрейфус — «Алхимия и искусственный интеллект», «Чего не могут вычислительные машины». Верно ли его мнение?
• Роже Пенроуз — «Новый ум короля», «Тени разума». Насколько прав Пенроуз?
• Джон Сёрл — парадокс «Китайская комната»: манипуляция символами не равна пониманию. О чем говорит этот парадокс?
• Теорема Гёделя — накладывает ли она какие-то ограничения на возможности алгоритмического ИИ?
• Нужна ли новая математика для создания ИИ?

Источник: Потапов А.С., 14-й семинар (article_0075.md). Также в Главе 1, раздел 1.6.

8.3. Психические явления и мозг (Меклер)

На 28-м семинаре А.А. Меклер выступил с докладом «Психические явления как отражение системных мозговых процессов». Подход к пониманию сознания через объективные нейрофизиологические механизмы.

Источник: Меклер А.А., 28-й семинар (article_0113.md).

8.4. Нарушения мышления (Чередникова)

Информационная теория мышления Л.М. Веккера применима к пониманию нарушений при шизофрении и органических заболеваниях мозга — показывает границы когнитивной обработки информации.

Материалы семинаров 37 и 39 доступны в архиве:

• seminarAI_37_schizo.ppt — презентация семинара 37 (Чередникова)
• seminarAI_39_schizo2.wma — аудиозапись семинара 39 (Чередникова)

Источник: архив файлов семинаров (категория «Семинарные материалы»).

8.5. Миф теории информации (Соломатин)

Критический анализ теории информации с позиций физиологии высшей нервной деятельности — теория информации не исчерпывает все аспекты обработки информации мозгом.

Материалы семинара 30 доступны в архиве:

• seminarAI_30_inform_myth.wma — аудиозапись семинара 30 (Соломатин)

Источник: архив файлов семинаров (категория «Семинарные материалы»).

8.6. Специализация программ и интерпретативное поведение (Худобахшов)

Материалы семинара 40 доступны в архиве:

• seminarAI_40_spec_ai.pdf — презентация семинара 40 (Худобахшов)

Источник: архив файлов семинаров (категория «Семинарные материалы»).

8.7. Аффект, ошибки и конфликты (Четвериков)

Материалы семинара 44 доступны в архиве:

• seminarAI_44_affect.pdf — презентация семинара 44 (Четвериков)

Источник: архив файлов семинаров (категория «Семинарные материалы»).

8.8. Этика и ответственность в разработке ИИ

Разработка интеллектуальных систем несет этическую ответственность перед обществом. Ключевые вопросы:

• Безопасность ИИ — как гарантировать, что система не причинит вред?
• Выравнивание (alignment) — как обеспечить соответствие целей ИИ ценностям человека?
• Ответственность — кто несет ответственность за решения, принятые автономной системой?
• Прозрачность — можно ли объяснить решения нейросети?

8.9. Вывод главы

Источник: статьи Неверова (article_0100.md), Потапова (article_0075.md), Меклера (article_0113.md), файлы семинаров из архива.