OpenAI, Anthropic и другие компании готовятся к возможной катастрофе, связанной с ИИ, прорабатывая сценарии кибератак, отключения интернета и массовых восстаний.
Хроника тревожных событий и кибератак
Руководители крупнейших ИИ-компаний анализируют риски на фоне инцидентов с безопасностью. Ранее OpenAI приостановила обучение своих самых мощных моделей после ряда взломов. Глава Anthropic также призывал замедлить развитие ИИ ради безопасности.
Чего опасаются разработчики нейросетей
По данным издания Axios, ведущие игроки индустрии просчитывают наихудшие сценарии развития технологического кризиса в ближайшем будущем:
- Масштабные кибератаки: эксперты предполагают отключение доступа к финансовым системам, глобальному интернету, а также критическим сетям водоснабжения и электричества.
- Временной горизонт: инсайдеры ИИ-индустрии прогнозируют «крупное событие» в ближайшие 6—12 месяцев.
- Социальные волнения: сценарии включают отработку действий на случай общественно-политических восстаний после такой «катастрофы».
- Регулирование рынка: руководители технологических гигантов стремятся заранее повлиять на законодательство и политику правительств.
В свободном доступе сейчас находится слишком много нейромоделей, которые могут использоваться во вред. С ними можно бороться только при помощи других моделей.
Практические последствия для глобальной экономики
Глобальная экономика сегодня тесно связана с развитием инфраструктуры искусственного интеллекта, поэтому замедление этого процесса способно нанести вред. Тем не менее, из-за возросших рисков безопасности компании вынуждены пересматривать свои стратегии.
Источники информации: Telegram-канал RT на русском.
Ранее по теме: Пилот Flydubai готовил теракт в Бен-Гурионе по сценарию 9/11 ✈️🚨