Чаму буйныя лабараторыі ШІ наймаюць столькі філосафаў?

Ад Платона да ChatGPT.

Найбуйнейшыя кампаніі ў сферы штучнага інтэлекту ўсё актыўней наймаюць філосафаў — і гэта ўжо не экзотыка, а заўважная тэндэнцыя. Яшчэ дзесяць гадоў таму студэнтам гуманітарных факультэтаў раілі тэрмінова вучыцца праграмаванню, а цяпер сітуацыя змяняецца: самі праграмісты ўсё часцей баяцца, што частку іх задач забярэ ШІ, а філосафы, наадварот, становяцца асабліва запатрабаванымі, піша The Economist (пераклад — сайт Charter97.org).

Прычына ў тым, што развіццё нейрасетак упрэлася не толькі ў тэхналогіі, але і ў пытаннях маралі, логікі і прыняцця рашэнняў. Як зрабіць мадэль больш сумленнай, як знізіць схільнасць ШІ да «галюцынацый», дзе праходзіць мяжа паміж бяспекай і свабодай дзеянняў машыны — усё гэта ўсё часцей абмяркоўваюць не толькі інжынеры, але і спецыялісты па этыцы і філасофіі.

Філосафы дапамагаюць кампаніям ствараць так званыя «канстытуцыі» для ШІ — наборы правілаў, паводле якіх мадэль павінна дзейнічаць. У Anthropic, напрыклад, пры распрацоўцы прынцыпаў для Claude абапіраліся на ідэі Імануіла Канта, Усеагульную дэкларацыю правоў чалавека і нават карыстальніцкія пагадненні тэхналагічных кампаній. Такія дакументы вызначаюць, што ШІ можна, а што нельга, як ён павінен рэагаваць на небяспечныя запыты і наколькі жорстка трэба прытрымлівацца маральных забаронаў.

У індустрыі фактычна сутыкнуліся дзве буйныя этычныя школы. Першая — дэанталогія, дзе важныя жорсткія правілы: не хлусіць, не шкодзіць, не выкарыстоўваць чалавека як сродак. Другая — кансеквенцыялізм, дзе рашэнні ацэньваюцца паводле наступстваў і балансу карысці і шкоды. Менавіта на гэтай дыскусіі сёння фармуюцца падыходы да чат-ботаў, беспілотных аўтамабіляў і нават ваенных ШІ-сістэм.

Эксперты кажуць, што філасофская падрыхтоўка дапамагае не толькі з этыкай, але і з якасцю разважанняў саміх мадэляў. Сакратычны метад, напрыклад, вучыць ШІ задаваць удакладняльныя пытанні, заўважаць супярэчнасці і не даваць залішне самаўпэўненых адказаў.

На гэтым фоне філасофія раптоўна ператвараецца ў адну з самых перспектыўных спецыяльнасцяў эпохі ШІ. Пакуль адны баяцца, што машыны выціснуць людзей, іншыя ўжо знаходзяць працу, тлумачачы гэтым машынам, як менавіта ім варта думаць.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]