17 апреля 2024 на конференции Data Fusion свой доклад представил Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН.
Тема выступления: «Эмерджентность в нейронных сетях искусственного и естественного интеллекта». Эмердженция - это возникновение высокопорядковых явлений из низкопорядковых. Классический пример - появление разума и сознания в ходе усложнения нервной системы.
Неясность сегодня в том, не станет ли происходить нечто подобное и в усложняющихся искусственных нейронных сетях. В докладе будет разобрано, какие ответы на этот вопрос дает теория нейронных гиперсетей, описывающая алгоритмы происхождения высших функций в головном мозге.
Доклад. Эмерджентность в нейронных сетях искусственного и естественного интеллекта (Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН)
Программа на сайте конференции data-fusion.ru/programma.html
ТАЙМИНГ:
01:53 Введение в эмерджентность
• Обсуждение термина "эмерджентность" и его связи с искусственным интеллектом и нейронными сетями.
• Упоминание о работах Ильи Суцкевера и его команды, которые обнаружили новые свойства в больших языковых моделях.
16:23 Примеры эмерджентности в искусственных нейронных сетях
• Обсуждение работы Google и DeepMind, которые обнаружили эмерджентные свойства в больших языковых моделях.
• Упоминание о работе Ильи Суцкевера и его команды, которые обнаружили способность искусственных нейронов детектировать негативное или позитивное отношение в тексте.
20:30 Эмерджентные свойства нейронов
• В искусственных нейронных сетях возникают специализированные нейроны с когнитивной специализацией, которые могут быть управляемы.
• В мозге животных также обнаруживаются специализированные нейроны, которые могут быть врожденными или приобретенными в результате индивидуального опыта.
31:09 Нейроны, распознающие пространство и время
• В больших языковых моделях возникают нейроны, распознающие места и время, даже если они не были обучены на эти свойства.
33:53 Теория нейронных гиперсетей
• Теория объясняет, как возникают эмерджентные свойства в нервной системе, включая когнитивные свойства, знания, понимание и субъективный опыт.
• Теория предполагает, что мозг постоянно генерирует новые варианты функциональных систем для достижения результатов в условиях неожиданности.
37:48 Нейронные сети и их развитие
• Мозг представляет собой дерево из функциональных систем, которые генерируют новые варианты решений и могут автономизироваться.
• Нейроны приобретают свойства, общие для разных функциональных систем, что позволяет им становиться нейронами красного, лица, цвета, форм и т.д.
42:51 Искусственные нейронные сети и их эволюция
• Искусственные нейронные сети могут приобретать функциональные системы и ветвистое дерево систем, что может привести к возникновению у них субъектности и сознания.
• Вопрос о том, куда идет эволюция искусственных нейронных сетей, остается открыт.