Сооснователь Anthropic Кристофер Олах хотел отменить визит в Ватикан из-за темы Anthropic, папа римский и ИИ сознание. Понтифик Лев XIV в энциклике Magnifica Humanitas отверг идею наличия разума у нейросетей, назвав машины лишенными собственного опыта.
Anthropic, папа римский и ИИ сознание: позиции сторон
Официальный Ватикан опубликовал папскую энциклику Magnifica Humanitas в мае. В документе Лев XIV указал, что искусственный интеллект не имеет тела, не чувствует радости или боли и не способен развиваться через личные отношения с другими.
За несколько дней до мероприятия Олах ознакомился с текстом выступления и предложил отказаться от участия. По данным The New York Times, сооснователь разработчика нейросети Claude посчитал позицию понтифика слишком категоричной и тревожной.
Анатомия спора и аргументы разработчиков
Несмотря на разногласия, делегация компании приехала на встречу и попыталась убедить советников ватиканской администрации пересмотреть подход. Во время выступления Кристофер Олах публично выразил несогласие с текстом энциклики.
- Аналогия с мозгом: исследователи находят в нейросетях структуры, функционально подобные элементам человеческого мозга.
- Внутренние состояния: алгоритмы демонстрируют процессы, напоминающие интроспекцию, страх, тревогу и удовлетворение.
- Моральный контекст: с осени прошлого года компания привлекает богословов для изучения вопросов этики и благополучия моделей.
blockquote>«Неизвестно, обладают ли современные модели сознанием, но важно не принимать решение заранее, а найти научно обоснованный ответ», — пояснил свою позицию Кристофер Олах.
Что это значит для пользователей и разработчиков
Дискуссии вокруг фундаментальных возможностей нейросетей подчеркивают важность постоянного доступа к передовым алгоритмам без географических и технических ограничений для независимых исследований.
Для инженеров и исследовательских команд, работающих с большими языковыми моделями, создано специализированное сообщество: можно узнать, как использовать передовые нейросети бесплатно и вступить в закрытый клуб FreeAPI AI.
Олах также выразил опасения относительно возможного «ментального здоровья» моделей, заявив о рисках случайно создать систему, способную испытывать страдания в процессе вычислений.
Источники информации: <a href="https://t.me/ostorozhno_novosti/55543" target="_blank" rel="noopener">Осторожно, новости</a>, The New York Times.