Почему ИИ нужно воспринимать как пользователя, а не просто инструмент

Сегодня он действует, принимает решения и взаимодействует с системами почти как человек.

Искусственный интеллект больше не за кулисами. Сегодня он действует, принимает решения и взаимодействует с системами почти как человек. От чат-ботов поддержки до помощников разработчиков — ИИ становится полноценным участником рабочих процессов, получая доступ на уровне сотрудников. Это радикально меняет подход к безопасности и управлению, пишет журнал Forbes (перевод — сайт Charter97.org).

Президент по продуктам и технологиям Okta Рик Смит отметил: «Мы должны защищать клиентов не только от людей, но и от ИИ-агентов — относиться к ним как к пользователям».

Проблема в том, что большинство компаний до сих пор видят в ИИ просто приложение. Ему выдают API-ключи и сервисные аккаунты, которые остаются активными без контроля. «Это как впустить незнакомца и дать ему доступ ко всем системам», — предупреждает Смит.

Глава 909Cyber Ден Джонс добавляет: «Как только ИИ получает возможность входить в систему, извлекать данные или выполнять действия — он становится частью вашей идентификационной среды. Но компании продолжают считать его инфраструктурой, а не внутренним пользователем».

Ошибки ИИ не всегда злонамеренны — модели работают вероятностно, делая «лучшее предположение», которое может оказаться неверным. Поэтому ИИ способен нанести ущерб даже при добрых намерениях.

Следует распространить принципы управления идентичностью на машинных пользователей: контроль доступа, мониторинг поведения и безопасное отключение. «Это новая категория пользователей, над которыми нужно установить такие же механизмы защиты, как и над людьми», — подчеркивает Смит.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу [email protected]