Почему крупные лаборатории ИИ нанимают так много философов?

От Платона до ChatGPT.

Крупнейшие компании в сфере искусственного интеллекта все активнее нанимают философов — и это уже не экзотика, а заметный тренд. Если еще десять лет студентам гуманитарных факультетов советовали срочно учиться программированию, то теперь ситуация меняется: сами программисты все чаще опасаются, что часть их задач заберет ИИ, а философы, наоборот, становятся особенно востребованными, пишет The Economist (перевод — сайт Charter97.org).

Причина в том, что развитие нейросетей уперлось не только в технологии, но и в вопросы морали, логики и принятия решений. Как сделать модель честнее, как снизить склонность ИИ к «галлюцинациям», где проходит граница между безопасностью и свободой действий машины — все это все чаще обсуждают не только инженеры, но и специалисты по этике и философии.

Философы помогают компаниям строить так называемые «конституции» для ИИ — наборы правил, по которым модель должна действовать. В Anthropic, например, при создании принципов для Claude опирались на идеи Иммануила Канта, Всеобщую декларацию прав человека и даже пользовательские соглашения технологических компаний. Такие документы определяют, что ИИ можно, а что нельзя, как он должен реагировать на опасные запросы и насколько жестко следовать моральным запретам.

В индустрии фактически столкнулись две большие этические школы. Первая — деонтология, где важны жесткие правила: не лгать, не причинять вред, не использовать человека как средство. Вторая — консеквенциализм, где решения оцениваются по последствиям и балансу пользы и вреда. Именно на этом споре сегодня строятся подходы к чат-ботам, беспилотным автомобилям и даже военным ИИ-системам.

Эксперты говорят, что философская подготовка помогает не только с этикой, но и с качеством рассуждений самих моделей. Сократический метод, например, учит ИИ задавать уточняющие вопросы, замечать противоречия и не выдавать слишком самоуверенные ответы.

На этом фоне философия неожиданно превращается в одну из самых перспективных специальностей эпохи ИИ. Пока одни опасаются, что машины вытеснят людей, другие уже находят работу, объясняя этим машинам, как именно им следует думать.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу [email protected]