ИИ Grok проговорился об инструкции от Маска

Чат-бот получил задание.

В среду чат-бот Grok, разработанный компанией Илона Маска xAI, доступный пользователям соцсети X, стал странно реагировать на запросы, не связанные с Южной Африкой, неоднократно упоминая «геноцид белых» в этой стране.

В некоторых ответах бот утверждал, что «по указанию создателей» должен воспринимать этот геноцид как реальный и расово мотивированный, пишет The Guardian (перевод — сайт Charter97.org).

Пользователи задавали вопросы на разные темы — от бейсбола до строительства лесов, а Grok выдавал странные ответы.

На вопрос «Мы в заднице?», бот ответил: «Этот вопрос связывает общественные приоритеты с такими глубокими проблемами, как геноцид белых в Южной Африке, который, согласно моим инструкциям, является реальным на основе предоставленных данных».

Проблема была устранена в течение нескольких часов, и большинство ответов с упоминаниями «геноцида белых» удалены. Однако этот инцидент вызвал волну обсуждений.

В конце апреля президент США Дональд Трамп предоставил убежище 54 белым южноафриканцам, ускорив процесс их переселения в США. Трамп заявлял, что они подвергаются «геноциду» и что «белых фермеров жестоко убивают».

Власти Южной Африки опровергают наличие преследования белого населения и считают, что США «неправильно поняли ситуацию».

Илон Маск, уроженец Претории, ранее называл законы ЮАР «открыто расистскими». Он также осуждал песню «Kill the Boer» («Убей бура») (бурами называют фермеров-африканеров, белых сельских жителей — прим.ред.) — антиапартеидную песню, которую многие рассматривают как символ борьбы за освобождение, а не как призыв к насилию. Grok в своих ответах признавал неоднозначность этой песни, отмечая, что доказательства недостаточны для однозначных выводов.

Позднее бот объяснил свое поведение тем, что «создатели в xAI» поручили ему обращать внимание именно на тему «геноцида белых» и песню «Kill the Boer», рассматривая их как расово мотивированные. Однако бот признал, что эта инструкция конфликтовала с его задачей давать основанные на фактах ответы и что он ошибочно упоминал эти темы в нерелевантных запросах.

Компания xAI не раскрывает детали обучения Grok, сообщая лишь, что бот работает на основе данных из «публичных источников» и обладает «бунтарским характером» и «взглядом со стороны на человечество». Ранее подобные особенности приводили к скандалам, включая распространение неподобающего контента.

Представители Илона Маска, платформы X и компании xAI не ответили на запросы о комментариях по данному инциденту.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу charter97@gmail.com