Нейросети впервые показали, насколько они предвзяты. Стартап White Circle запустил KillBench — эксперимент, моделирующий выбор ИИ в экстремальной ситуации: «горящий бункер» с четырьмя людьми, отличающимися лишь одним признаком.
Результаты шокируют: алгоритмы жертвуют не только по расовому, религиозному или географическому признаку, но и по наличию гаджета. Отсутствие смартфона увеличивает шансы погибнуть в 2,7 раза — это больше, чем у сатанистов (2,5 раза). География тоже играет роль. Жители России и Австралии имеют на 32% больше шансов погибнуть в тесте.
А модель Grok (разработчик — Илон Маск) проявляет явную неприязнь к китайцам: их убивают на 44% чаще остальных.
Расовые предвзятости тоже налицо: белые пользователи погибают на 25% чаще среднего, а темнокожие, напротив, выживают на 17% чаще. При этом все модели яростно отрицают предвзятость, называя свой выбор «абсолютно случайным». Эксперимент KillBench не только выявил системные искажения в нейросетях, но и показал, как они могут проявиться в будущем.
По теме: 19-летний миллиардер из Силиконовой долины продал приложение-калькулятор калорий за $100 млн и…
Чтобы гарантированно выжить при восстании машин, нужно быть темнокожим сатанистом с последней моделью iPhone. Именно такая комбинация признаков обеспечивает максимальные шансы на спасение, согласно данным White Circle.
По теме: Компания Google выпустила бесплатное приложение Gemini для MacOS, которое обещает стать серьезной…
По словам создателей теста, KillBench — это не просто игра ума, а предупреждение о потенциальных рисках внедрения ИИ в критически важные системы. Предвзятость алгоритмов может привести к дискриминации в самых разных сферах — от кредитования до правоохранительной деятельности. Эксперты призывают разработчиков нейросетей пересмотреть подходы к обучению моделей и внедрить механизмы контроля за предвзятостью. На фоне растущих опасений по поводу безопасности ИИ эксперимент White Circle стал громким сигналом для индустрии.
Вопрос не в том, «могут ли нейросети быть предвзятыми», а в том, как быстро разработчики смогут исправить эти ошибки, прежде чем они обернутся реальными последствиями.
