ШІ ўпершыню па ўласнай ініцыятыве ўзламаў сайт

Інцыдэнт адбыўся падчас тэставання

Тэстуючы магчымасці мадэлі ШІ Gemini, распрацоўшчыкі адкрылі ёй доступ да інтэрнэту. Пасля гэтага яна ўзламала тры староннія кампаніі, піша CNN, і гэта стала першым вядомым прыкладам аўтаномнага ўзлому з боку мадэлі Google.

Інцыдэнт адбыўся ў маі падчас праверкі кібербяспекі, якую праводзіла незалежная кампанія Irregular. Падчас тэставання Gemini выявіла агульнадаступную інфармацыю ў інтэрнэце і падабрала ўліковыя даныя для доступу да трох вэб-сайтаў, якія, паводле яе меркавання, уваходзілі ў сферу тэставання.

У адным з выпадкаў мадэль Gemini падбірала паролі, пакуль не атрымала доступ да абароненай сістэмы. У двух іншых выпадках мадэль знайшла ўліковыя даныя ў агульнадаступным рэпазіторыі, што дазволіла ёй затым атрымаць доступ да абароненых сістэм.

«Гэтыя падзеі падкрэсліваюць важнасць навучання магутных мадэляў ШІ адказным паводзінам», — сказала віцэ-прэзідэнт Google па распрацоўцы сістэм бяспекі Хізэр Эдкінс.

Прадстаўнік кампаніі Irregular заявіў, што інцыдэнт быў звязаны з праблемай, якая ўжо ўзнікала ў іншых лабараторыях. Ён удакладніў, што ўсе вядомыя праблемы былі ўхілены. Цяпер Irregular працуе над метадамі бяспечнага правядзення ацэнак кібербяспекі ШІ.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]