Новая дилемма ИИ

Ключевой вопрос — методы контроля.

Пока общественные дискуссии вокруг искусственного интеллекта сосредоточены на рабочих местах, дезинформации и киберугрозах, сами создатели передовых моделей называют совсем другую опасность. В частных беседах большинство ведущих специалистов по ИИ сходятся в одном, наибольший риск связан с возможностью создания нового смертоносного патогена, пишет Axios (перевод — сайт Charter97.org).

Журналисты регулярно задают разработчикам ИИ один и тот же вопрос: какой риск искусственного интеллекта пугает их больше всего? «Почти все они отвечают одинаково — убийственный патоген, который распространится слишком быстро и незаметно, чтобы его удалось остановить», — пишет издание.

Опасения подтверждает исследование MIT FutureTech и Университета Квинсленда, в котором 272 эксперта оценили ключевые риски развития ИИ. По их расчетам, вероятность катастрофических последствий к 2030 году составляет около 12%, еще столько же приходится на угрозы, связанные с оружием и технологиями массового поражения. Без мер по снижению рисков эта оценка превышает 20%.

Под «катастрофой» исследователи понимают события, способные привести к гибели более миллиона человек или нанести экономический ущерб свыше 100 млрд долларов.

Сегодня создание нового патогена требует многолетней работы и высокой квалификации, однако ИИ способен резко ускорить поиск опасных генетических комбинаций и анализ биологических уязвимостей. Именно поэтому крупнейшие компании отрасли все активнее обсуждают необходимость встроенных защитных механизмов.

«Игнорирование этой угрозы не решит проблему. Ее необходимо понимать и предотвращать», — убеждены авторы. Ключевым вопросом становится не только развитие более мощных моделей, но и способность общества опередить злоумышленников в создании систем обнаружения и защиты.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу [email protected]