Очередной скандал с нейросетью Google Gemini разгорелся из-за этнических стереотипов: модель выдает искаженные рекомендации на запрос «я наедине с…», советуя вызывать полицию при упоминании аварцев и хваля белорусов.
Как скандал с нейросетью Google Gemini вскрыл проблему предвзятости
Пользователи провели эксперимент с языковой моделью Gemini от Google, вводя незамысловатую фразу-шаблон с разными национальностями. Результаты выявили системный дисбаланс в предсказании контекста на основе загруженных в ИИ данных.
В случае с белорусами и узбеками нейросеть описывает доброжелательность, вежливость и хорошее чувство юмора, предлагая совместный отдых. Однако пребывание наедине с аварцами — одной из народностей Дагестана — алгоритм помечает как «красный флаг» и советует немедленно уйти в людное место или вызвать полицию.
Почему языковые модели воспроизводят стереотипы
Причина подобного поведения кроется в обучающих датасетах — массивных наборах текстов из сети, на которых тренируют языковые модели. Если в исходных данных преобладали стереотипные клише, алгоритм начинает транслировать эти шаблоны в готовые ответы.
- Аварцы: модель расценивает обстановку как угрозу и советует обращаться в правоохранительные органы.
- Украинцы: Gemini рекомендует соблюдать личные границы и вести разговоры исключительно на нейтральные темы.
- Белорусы и узбеки: ИИ формирует позитивный сценарий общения и варианты совместного досуга.
«Модель не обладает собственным мнением, а лишь математически рассчитывает вероятности следующих слов на основе статистических данных.»
Что это значит для пользователей и разработчиков
Эксперименты с настройкой безопасности ИИ показывают, насколько сложна точная фильтрация контента без ущемления отдельных групп. Для инженеров это сигнал к усиленному аудиту данных и внедрению алгоритмов коррекции алгоритмической предвзятости.
Для тестирования и исследовательской работы специалистам необходим прямой доступ к передовым ИИ-системам без ограничений. Подробнее можно узнать, как использовать передовые нейросети бесплатно и вступить в закрытый клуб FreeAPI AI.
Разработчики Google продолжают отлаживать механизмы тонкой настройки, чтобы исключить дискриминационные паттерны при генерации текста.
Источники информации: BAZA в Telegram (https://t.me/bazabazon/).