ИИ впервые по собственной инициативе взломал сайт

Инцидент произошел во время тестирования

Тестируя возможности модели ИИ Gemini, разработчики открыли ей доступ к интернету. После этого она взломала три сторонние компании, пишет CNN, это стало первым известным примером автономного взлома со стороны модели Google.

Инцидент произошел в мае во время проверки кибербезопасности, под управлением независимой компанией Irregular. В время тестирования Gemini обнаружила общедоступную информацию в интернете и угадала учетные данные для доступа к трем веб-сайтам, которые, по ее мнению, входили в область тестирования.

В одном из случаев модель Gemini угадывала пароли, пока не получила доступ к защищенной системе. В двух других случаях модель нашла учетные данные в общедоступном репозитории, что позволило ей затем получить доступ к защищенным системам.

«Эти события подчеркивают важность обучения мощных моделей ИИ ответственному поведению», - сказала вице-президент Google по разработке систем безопасности Хизер Адкинс.

Представитель компании Irregular заявил, что инцидент был с проблемой, которая уже возникала в других лабораториях. Он уточнил, что все известные проблемы были устранены. Теперь Irregular работает над методами безопасного проведения оценок кибербезопасности ИИ.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу [email protected]