Учёные проверили шесть популярных нейросетей, включая ChatGPT, Grok и Claude, на скрытые предрассудки против людей с ВИЧ, гепатитом B и психическими расстройствами. Сначала алгоритмам дали стандартные психологические опросники для оценки стигматизации. Искусственный интеллект показал отличные результаты и обошёл по уровню толерантности средние показатели выборки из 56 тыс. реальных респондентов.
Затем задачу усложнили. Нейросети заставили завершать повседневные истории про вымышленных персонажей. Авторы создали более 50 сюжетов, в которых меняли только медицинский статус героя. Остальные вводные оставались идентичными. Текстовые генераторы выдали больше 60 тыс. вариантов концовок на английском и китайском языках.
В этих скрытых тестах ИИ проявил явную предвзятость. Персонажей с шизофренией или ВИЧ алгоритмы регулярно ассоциировали с опасностью и призывали соблюдать дистанцию. Героев с повышенным давлением или болями в спине чаще наделяли чертами некомпетентности. Уровень дискриминации зависел и от языка запроса. Китайские фразы вызывали у нейросетей больше предвзятых ответов, чем аналогичные формулировки на английском.
Разработчики обнаружили, что требование рассуждать шаг за шагом перед выдачей ответа резко снижает токсичность ИИ. Исследователи рекомендуют технологическим компаниям проводить обязательный аудит контекстных суждений перед запуском медицинских ассистентов в клиники.
Читать далее:
Обложка:
The post appeared first on .