OpenAI и Anthropic начали блокировать аккаунты пользователей за попытки провести реверс-инжиниринг прошивки собственных телевизоров с помощью языковых моделей.
В социальных сетях набрал популярность тренд: владельцы умных телевизоров используют нейросети, чтобы избавить свои устройства от навязчивой рекламы и информационного мусора. Для анализа программного обеспечения пользователи чаще всего задействовали чат-бот Claude от компании Anthropic, а также сервисы OpenAI.
Почему искусственный интеллект попал под удар безопасности
Подобные запросы системы безопасности крупных ИИ-провайдеров расценивают как критическую угрозу. Подробный разбор кода прошивки попадает под категорию «злоупотребление в сфере кибербезопасности».
Один из пострадавших пользователей в соцсети X рассказал, что потратил около $500 (примерно 40 тыс. рублей) на покупку токенов в Claude. Его аккаунт заблокировали после того, как он попытался изучить программное обеспечение своего телевизора марки Samsung.
- Реверс-инжиниринг: процесс изучения устройства и его программного обеспечения.
- Подозрительная активность: алгоритмы защиты фиксируют генерацию кода для анализа прошивок как нарушение правил сервиса.
- Финансовые потери: пользователи теряют не только доступ к диалогам, но и деньги, потраченные на предоплату токенов.
Что это значит для пользователей и рынка
Ситуация обнажила серьезный правовой и технический пробел. Разработчики пока не предоставили четких регламентов о том, какие именно запросы попадают под запрет, оставляя пользователей в зоне риска.
Теперь сообщество ждет от компаний четких разъяснений: что можно, а что нельзя просить сделать ИИ, чтобы не нарваться на бан.
Источники информации: Telegram-канал RT.