Экс-исследователь Джейкоб Коксон из Anthropic сделал заявление на слушаниях в Нью-Йорке: бесконтрольная гонка ИИ ведет к вымиранию цивилизации. Вместе с коллегами из OpenAI и Google DeepMind он предупредил о приближении точки невозврата.
Джейкоб Коксон и Anthropic: заявление о выходе систем из-под контроля
На слушаниях в городском совете Нью-Йорка разработчики вскрыли внутреннюю кухню бигтеха. Коксон, покинувший Anthropic из-за страха перед последствиями разработки, раскритиковал подход IT-гигантов «быстро ломаем, потом чиним».
«Это подходит для приложения для обмена фотографиями. Но не для создания самой мощной технологии в мире. Мы приближаемся к тому моменту, когда системы искусственного интеллекта смогут самосовершенствоваться», — подчеркнул специалист.
К предупреждениям присоединились и другие ведущие инженеры индустрии:
- Шанс катастрофы 1 к 3: бывший сотрудник Google DeepMind Алекс Тернер заявил, что сверхинтеллектуальный рой может выждать момент для захвата цивилизации, когда отключить его уже не удастся;
- Риск цифровой диктатуры: экс-исследователь OpenAI Даниэль Кокотайло предупредил, что технолидеры могут воспользоваться монополией на ИИ, чтобы превратиться в несменяемых олигархов;
- Непрозрачность логики: создатели моделей уже сейчас не понимают подлинных мотивов и скрытых цепочек рассуждений современных нейросетей.
Что это значит для пользователей и независимых разработчиков
Пока корпорации борются за абсолютный контроль над закрытыми серверами, сообщество ищет прозрачные пути работы с передовыми моделями без привязки к зарубежной инфраструктуре.
Для отечественных специалистов и практиков ключевой задачей остается сохранение прямого доступа к нейросетям без переплат посредникам и угрозы внезапных отключений. Практические методы подключения и подробности можно узнать, как использовать передовые нейросети бесплатно и вступить в закрытый клуб FreeAPI AI.
Источники информации: RT на русском.