Як прымусіць ШІ казаць праўду

Абарона сістэм праверкі інфармацыі павінна стаць прыярытэтам.

З ростам выкарыстання штучнага інтэлекту ў аналізе дадзеных і прыняцці рашэнняў узрастае і рызыка яго ўразлівасці да дэзінфармацыі. Эксперты папярэджваюць, што сучасныя інфармацыйныя атакі ўсё часцей нацэльваюцца не на людзей, а на самі сістэмы ШІ, піша CEPA (пераклад — сайт Charter97.org).

Сцэнары, у якіх алгарытмы фіксуюць, напрыклад, парушэнне перамір'я на падставе падробленых дадзеных, перастаюць быць фантастыкай. Калі такія сістэмы атрымліваюць і апрацоўваюць скажоную інфармацыю, гэта можа прывесці да памылковых палітычных або ваенных рашэнняў.

Даследаванні паказваюць, што ключавая праблема палягае ў механізмах праверкі дадзеных. Многія сістэмы ШІ схільныя ўспрымаць часта паўтаральную інфармацыю як даставерную. Гэта робіць іх уразлівымі да так званага «атручвання дадзеных» — калі ілжывыя звесткі масава распаўсюджваюцца і ў выніку прымаюцца за праўду.

Эксперыментальныя праекты, дзе ШІ ўзаемадзейнічае выключна з іншымі алгарытмамі, пацвярджаюць гэтую пагрозу: боты нярэдка прыходзяць да памылковых высноў, абапіраючыся не на факты, а на частату паўтораў.

Паводле дадзеных аналітыкаў, падобныя метады ўжо актыўна выкарыстоўваюцца ў інфармацыйных кампаніях, уключна з маштабным распаўсюджваннем фальшывых матэрыялаў на розных мовах.

Спецыялісты падкрэсліваюць, што абарона сістэм праверкі інфармацыі павінна стаць прыярытэтам на ўзроўні крытычнай інфраструктуры. Сярод ключавых мер — удасканаленне алгарытмаў, адмова ад сляпога даверу да паўтаральнасці дадзеных і загадзя падрыхтоўка да інфармацыйных атак.

На фоне росту ролі ШІ ў палітыцы і бяспецы пытанне даставернасці дадзеных становіцца не толькі тэхналагічным, але і стратэгічным выклікам.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]