Заявление о том, что ИИ уничтожит человечество через полгода, Axios связал с растущей тревогой в Кремниевой долине. Разработчики OpenAI и Anthropic начали подготовку к экстренным сценариям после ухода ключевых специалистов по безопасности.
Действительно ли ИИ уничтожит человечество через полгода: Axios и скрытая паника
Публикация американского издания привлекла внимание к проблеме экзистенциального риска — потенциальной утрате человечеством контроля над автономными алгоритмами. Лидеры ИИ-сектора начали закрытые консультации и превентивные меры на фоне стремительного прогресса больших языковых моделей.
Причиной резких оценок послужил массовый исход исследователей из исследовательских отделов. Инженеры, отвечавшие за проверку моделей перед релизом, выразили недоверие текущим темпам коммерциализации технологий.
«Разработчики передовых систем открыто говорят о рисках катастрофы, к которой индустрия пока технически не готова».
Что именно происходит за закрытыми дверями лабораторий
Речь идет о протоколах безопасности (AI Safety) — комплексе тестов и математических ограничений, не позволяющих модели совершать вредоносные действия. Компании OpenAI и Anthropic столкнулись с кризисом доверия внутри собственных команд:
- Увольнения специалистов: ведущие инженеры покинули ключевые лаборатории из-за разногласий с руководством по вопросам защиты систем.
- Тайные протоколы: исследовательские центры внедряют экстренные регламенты изоляции серверов на случай потери контроля над вычислениями.
- Гонка мощностей: коммерческое соперничество подталкивает разработчиков выпускать архитектуры следующего поколения раньше завершения аудита.
Что это значит для индустрии и пользователей
Угроза апокалипсиса через шесть месяцев отражает предельный порог тревожности экспертов перед выходом моделей с признаками общего искусственного интеллекта (AGI). Если разработчики не выработают единый стандарт верификации кода, отрасль ждет жесткое государственное регулирование.
В ближайшие месяцы фокус внимания сместится с добавления новых функций на независимый аудит и ограничение автономных прав нейросетей.