Калі камп’ютары пераўзыдуць чалавека

«Духоўны бацька» ШІ прадказаў будучыню.

Прагнозы футуролага Рэя Курцвейла пра ШІ сёння здаюцца ўражліва знаёмымі. Ён ставіў важныя пытанні яшчэ ў 1991 годзе — праз 35 гадоў мы атрымліваем адказы.

Яшчэ калі штучны інтэлект (ШІ) вывучаўся ў даследчых лабараторыях, Рэй Курцвейл быў расчараваны тым, наколькі вузка яго ўспрымалі. Сёння яго прагнозы збыліся, але яшчэ застаецца шмат «цёмных бакоў», якія нам толькі належыць даследаваць, піша techradar.com.

У інтэрв’ю Computerworld у 1991 годзе Курцвейл сцвярджаў, што грамадскія чакаанні скажоныя не няўдачамі, а знаёмствам з тэхналогіямі: «Калі людзі гавораць пра ШІ, яны звычайна маюць на ўвазе толькі экспертныя сістэмы, але гэта толькі невялікая яго частка. Да канца гэтага дзесяцігоддзя большасць праграмнага забеспячэння будзе інтэлектуальным, але яго неабавязкова будуць называць ШІ».

Больш чым праз 30 гадоў распазнаванне выяў, пераўтварэнне маўлення ў тэкст, рэкамендацыйныя сістэмы і аўтаматызаванае прыняцце рашэнняў ужываюцца паўсюль, і гэтыя тэхналогіі рэдка лічаць ШІ. Гэтае абазначэнне проста перайшло да такіх праектаў, як ChatGPT і Google Gemini.

На момант інтэрв’ю Computerworld Курцвейл ужо быў глыбока ўцягнуты ў камерцыйны бок ШІ, заснаваўшы некалькі кампаній, што спецыялізуюцца на распазнаванні выяў, сінтэзе музыкі і распазнаванні маўлення. Калі яго спыталі, ці здзівіла яго тое, як развіваліся вылічальныя сістэмы, ён сказаў: «Я не надта здзіўлены. Я заўсёды лічыў, што лічбавая інфармацыя можа ахопліваць мноства тыпаў з’яў — ад гуку, маўлення і музыкі да выяў і трохмерных аб’ектаў. Амаль усё можна алічбаваць. Нават наш генетычны код можна алічбаваць».

Калі яго наўпрост спыталі, як ён вызначае ШІ, Курцвейл абышоў навукова-фантастычныя штампы таго часу, патлумачыўшы: «ШІ — гэта мастацтва стварэння машын, што выконваюць функцыі, якія мы асацыюем з чалавечым інтэлектам. Інтэлект — гэта здольнасць эфектыўна выкарыстоўваць абмежаваныя рэсурсы, карыстаючыся абстрактным мысленнем, здольнасцю распазнаваць заканамернасці і вырашаць задачы за абмежаваны перыяд часу».

Сучасныя сістэмы машыннага навучання пабудаваны амаль цалкам на гэтым дапушчэнні. Яны не разважаюць так, як гэта любяць уяўляць людзі, але выдатна распазнаюць заканамернасці ў велізарных масівах дадзеных — менавіта тую кагнітыўную функцыю, якую Курцвейл 35 гадоў таму вызначыў як дамінуючую.

У інтэрв’ю яго спыталі, на якой стадыі развіцця знаходзіцца ШІ. Яго адказ быў паказальны: «Мы ствараем сістэмы, якія могуць імітаваць чалавечы інтэлект у вузкай вобласці. Яны дыягнастуюць абмежаваны спектр захворванняў, гуляюць у шахматы, прымаюць фінансавыя рашэнні, накіроўваюць ракету да будынка».

Абмежаванне, патлумачыў ён, — у кантэксце: «Гэтыя сістэмы зноў становяцца ідыётамі, калі выходзяць за межы сваёй вобласці ведаў. Па меры развіцця ШІ мы спрабуем пашыраць вобласці ведаў машыны, камбінуючы розныя сістэмы ШІ, такія як распазнаванне маўлення, разуменне натуральнай мовы і здольнасць прымаць рашэнні ў пэўнай экспертнай вобласці».

Журналісты Computerworld спыталі Рэя, якім ён бачыць будучыню, і ён адказаў: «Пытанне ў тым, што насамрэч адбудзецца, калі камп’ютары змогуць канкурыраваць з чалавечым інтэлектам або пераўзысці яго? Як толькі камп’ютар зможа імітаваць базавыя чалавечыя функцыі, ён здолее спалучыць гэта з велізарнай перавагай, якую ўжо дэманструе ў сваёй здольнасці запамінаць мільярды або трыльёны фактаў з максімальнай дакладнасцю, атрымліваць доступ да гэтай інфармацыі з неверагодна вялікай хуткасцю і выконваць функцыі зноў і зноў вельмі хутка».

Потым ён адзначыў: «Калі ён можа чытаць кнігу, нічога не замінае яму прачытаць кожную калісьці апублікаваную кнігу, усе часопісы і тэхнічныя выданні і авалодаць усімі чалавечымі ведамі. Як толькі ён дасягне роўнасці з чалавечым інтэлектам у некаторых галінах, ён непазбежна будзе значна пераўзыходзіць чалавечы інтэлект у іншых».

Курцвейл завяршыў гэтую думку каментарыем, які асабліва актуальны сёння: «Наступствы гэтага цяжка асэнсаваць. Значная частка нашага гонару звязаная з упэўненасцю ў нашай перавазе ў інтэлектуальнай сферы».

Адзін з самых філасофскі складаных пытанняў у інтэрв’ю прагучаў, калі яго спыталі, ці можа машына калі-небудзь валодаць свядомасцю: «Ключавое пытанне — гэта пытанне свядомасці і таго, што значыць быць жывой, свядомай істотай, і ці з’яўляецца свядомай машына, якая, здаецца, імітуе чалавечападобныя функцыі», — сказаў ён. — «Магчыма, найлепшы спосаб зразумець парадоксы, з якімі мы сутыкаемся ў гэтым пытанні, — разгледзець наступны сцэнар: у рэшце рэшт мы зможам сканаваць чалавека, і камп’ютар запомніць дакладную структуру ўсіх нашых нейронаў і іншых клетак. Затым можна ўявіць стварэнне новага камп’ютара, які будзе падлучаны дакладна так, як і чалавек, якога толькі што адсканавалі».

Курцвейл не спрабаваў вырашыць праблему свядомасці як інжынерную задачу. Ён перафармуляваў яе як пытанне ідэнтычнасці. Калі сістэма выглядае, гаворыць і памятае дакладна так, як чалавек, то пытанне свядомасці перастае быць тэхнічным і становіцца філасофскім: «Калі б вы сустрэліся з гэтым камп’ютарам, ён падаўся б вам вельмі падобным на таго самага чалавека. Тады ўзнікае пытанне: ці гэта той жа самы чалавек? Ці валодае гэты камп’ютар свядомасцю? Можна сказаць, што так, бо вы адчулі б яго свядомасць, калі б узялі ў яго інтэрв’ю. Сутнасць у тым, што не існуе навуковага эксперыменту, які дазволіў бы вызначыць, ці валодае свядомасцю якое-небудзь іншае стварэнне — жывёла, машына або чалавек».

Сёння, калі сістэмы ШІ ствараюць мову, якая апісвае эмоцыі, ідэнтычнасць і самасвядомасць, фармулёўка Курцвейла здаецца менш гіпатэтычнай і больш нязручнай. Ён, вядома, не сцвярджаў, што машыны будуць валодаць свядомасцю, а толькі тое, што ў людзей няма надзейнага спосабу гэта адмаўляць, калі такое паводзіны становіцца пераканаўчым. Гэтая няпэўнасць выявілася ў рэальным жыцці ў 2022 годзе, калі інжынер Google Блейк Лемойн упэўніўся ў разумнасці сістэмы LaMDA, падзяліўся сваімі заяўленнямі з The Washington Post і быў неадкладна адстранёны ад працы.

У інтэрв’ю 1991 года таксама закраналася грамадская трывога наконт аўтаматызацыі і працы, што сёння з’яўляецца адной з галоўных тэм.

Курцвейл сказаў: «Гэта акажа вельмі глыбокі ўплыў на грамадства і ролю, якую адыгрываюць людзі. Нягледзячы на тое, што камп’ютары, аўтаматызацыя і машыны ўсё часцей здольныя выконваць функцыі, якія могуць выконваць людзі, занятасць людзей значна ўзрасла. 100 гадоў таму ў нас было 12 мільёнаў працоўных месцаў, дзе было занята 30% насельніцтва, а цяпер іх больш за 120 мільёнаў, дзе занята 50% насельніцтва. Больш за тое, складанасць гэтых працоўных месцаў узрасла, і заработная плата ў 6 разоў вышэйшая ў пастаянных доларах. Аднак застаецца пытанне: што будуць рабіць людзі ў 2050 годзе, улічваючы велізарны інтэлектуальны патэнцыял, якім, верагодна, будуць валодаць камп’ютары?».

Курцвейл не спрабаваў адказаць на ўласнае пытанне і наўмысна пакінуў яго адкрытым.

Сёння, ва ўзросце за семдзесят, Рэй працуе ў Google, і яго часта называюць «духоўным бацькам ШІ». Шмат ідэй, што ляжаць у аснове сучаснага машыннага навучання, пераклікаюцца з аргументамі, якія ён выказваў яшчэ ў 1991 годзе. Праз трыццаць пяць гадоў мы значна бліжэй да апісанай ім будучыні — але ні на крок не бліжэй да адказу на пытанне, якое ён пакінуў без адказу.

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]