Новая дылема ШІ

Ключавое пытанне — метады кантролю.

Пакуль грамадскія дыскусіі вакол штучнага інтэлекту сканцэнтраваныя на працоўных месцах, дэзінфармацыі і кіберпагрозах, самі стваральнікі перадавых мадэляў называюць зусім іншую небяспеку. У прыватных размовах большасць вядучых спецыялістаў па ШІ сыходзяцца ў адным: найвялікшая рызыка звязаная з магчымасцю стварэння новага смяротнага патагена, піша Axios (пераклад — сайт Charter97.org).

Журналісты рэгулярна задаюць распрацоўнікам ШІ адно і тое ж пытанне: якая рызыка штучнага інтэлекту палохае іх больш за ўсё? «Амаль усе яны адказваюць аднолькава — смяротны патаген, які распаўсюдзіцца занадта хутка і незаўважна, каб яго ўдалося спыніць», — піша выданне.

Апасенні пацвярджае даследаванне MIT FutureTech і Універсітэта Квінсленда, у якім група з 272 экспертаў ацаніла ключавыя рызыкі развіцця ШІ. Паводле іх разлікаў, верагоднасць катастрафічных наступстваў да 2030 года складае каля 12%, яшчэ столькі ж прыпадае на пагрозы, звязаныя са зброяй і тэхналогіямі масавага паражэння. Без мер па змяншэнні рызык гэтая ацэнка перавышае 20%.

Пад «катастрофай» даследчыкі разумеюць падзеі, здольныя прывесці да гібелі больш як мільёна чалавек або нанесці эканамічную шкоду звыш 100 млрд долараў.

Сёння стварэнне новага патагена патрабуе шматгадовай працы і высокай кваліфікацыі, аднак ШІ здольны рэзка паскорыць пошук небяспечных генетычных камбінацый і аналіз біялагічных уразлівасцей. Менавіта таму найбуйнейшыя кампаніі галіны ўсё актыўней абмяркоўваюць неабходнасць убудаваных ахоўных механізмаў.

«Ігнараванне гэтай пагрозы не вырашыць праблему. Яе неабходна разумець і прадухіляць», — перакананыя аўтары. Ключавым пытаннем становіцца не толькі распрацоўка больш магутных мадэляў, але і здольнасць грамадства апярэдзіць зламыснікаў у стварэнні сістэм выяўлення і абароны.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]