Сотни подрядчиков OpenAI получили доступ к реальным диалогам пользователей в рамках программы Project Lily. Вопрос, читают ли сотрудники OpenAI переписку в ChatGPT, стал ребром после расследования 404 Media, обнажившего риски конфиденциальности при общении с нейросетями.
Как устроена «проверка» диалогов
Project Lily — это внутренняя инициатива, созданная для дообучения языковых моделей. Специально нанятые подрядчики анализируют ответы нейросети, чтобы сделать их более полезными и менее «человекоподобными». В процессе работы проверяющие могут видеть фрагменты переписки, содержащие личные данные или чувствительные подробности, которыми пользователи делятся с ботом.
- Анонимизация: OpenAI скрывает имена аккаунтов, однако это не гарантирует полную приватность.
- Цели анализа: Задача исполнителей — отучить ИИ от излишней лести и имитации личных переживаний.
- Человеческий фактор: Несмотря на автоматические фильтры, отдельные фрагменты текста с персональной информацией неизбежно попадают в поле зрения людей.
Иногда подрядчикам доступны целые диалоги с чувствительными подробностями, что превращает приватную беседу в объект внешнего мониторинга.
Как обезопасить данные и использовать ИИ эффективно
Риск утечки личных данных заставляет пользователей искать более безопасные способы взаимодействия с технологиями. В текущих условиях многие эксперты и разработчики переходят на инструменты, позволяющие контролировать процесс обработки данных, минуя общедоступные облачные интерфейсы.
Технически продвинутые пользователи сегодня выбирают доступ к актуальным моделям через специализированные API-шлюзы. Это позволяет работать с нейросетями без риска случайного раскрытия личной переписки сторонним подрядчикам. Подробнее об этом можно узнать, как использовать передовые нейросети бесплатно и вступить в закрытый клуб FreeAPI AI.
Источники информации: Канал Era Agentov, 404 Media.