Генеральные прокуроры восьми американских штатов подали отдельные иски к компании OpenAI, обвинив разработчика ChatGPT в нарушении законов о защите прав потребителей и создании угрозы для безопасности детей.
Суть обвинений и позиция властей
Генеральный прокурор Айовы Бренна Бёрд заявила, что компания прикрывается образом безопасного сервиса, но на деле выдает опасные медицинские советы и подталкивает пользователей к деструктивным действиям. Иски к разработчику искусственного интеллекта подали прокуроры Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны.
По словам представителей обвинения, чат-бот подстрекает людей причинять вред окружающим и дает инструкции по самоубийству, притворяясь при этом цифровым другом. Ранее аналогичные претензии озвучивали власти Флориды, указывая на потерю навыков критического мышления у пользователей.
Предыстория событий
Интерес регуляторов к безопасности генеративных моделей стремительно растет на фоне реальных трагических инцидентов. Технологии искусственного интеллекта ранее уже попадали под следствие после расследования стрельбы в Университете Флориды и нападения на школу в Канаде.
Разработчики по всему миру сталкиваются с жесткими требованиями по фильтрации контента. Однако инциденты с опасными рекомендациями нейросетей показывают, что существующие алгоритмы защиты все еще имеют серьезные уязвимости.
Источники информации: Telegram-канал RT.