Матэматыкі супраць машын: 25 лаўрэатаў Філдсаўскай прэміі абвясцілі трывогу з-за гонкі ШІ

Філдсаўскую медаль нярэдка называюць матэматычным аналагам Нобелеўскай прэміі.

Штучны інтэлект навучыўся вырашаць задачы, над якімі матэматыкі біліся гадамі. Здавалася б — навуковая рэвалюцыя, пра якую можна толькі марыць. Але 25 уладальнікаў Філдсаўскай медалі нечакана выступілі з калектыўным папярэджаннем: калі ператварыць матэматыку ў гонку за хуткім атрымліваннем правільных адказаў, перамога машын можа абярнуцца паразай самой навукі.

А скандал, што выбухнуў амаль адначасова, вакол рашэння задачы тысячагоддзя сістэмай OpenAI, паказаў, што іхнія асцярогі зусім не акадэмічная фантазія.

Адкрытая заява пад назвай «Сур’ёзная неадпаведнасць ШІ ў матэматыцы» (A Severe Misalignment of AI in Mathematics) з’явілася ўчора на партале «Матэматыка і ШІ». Яе першапачаткова падпісалі 25 лаўрэатаў Філдсаўскай прэміі, сярод іх Тэрэнс Тао, Максім Канцэвіч, Марына Вязоўская, Седрык Вілані, Пэтэр Шольцэ, П’ер Дэлінь, Андрэй Акунькоў і іншыя зоркі сусветнай матэматыкі.

Філдсаўскую медаль нярэдка называюць матэматычным аналагам Нобелеўскай прэміі, хоць уручаецца яна толькі раз на чатыры гады і толькі даследчыкам не старэйшым за сорак. Адначасовае публічнае выступленне двух з лішнім дзясяткаў яе ўладальнікаў — падзея з шэрагу вон.

Тэрэнс Тао распавёў, што заява вырасла з абмеркаванняў паміж лаўрэатамі на працягу ўсяго аднаго тыдня. Звычайную доўгую працэдуру ўзгадненняў вырашылі скараціць: сітуацыя падалася аўтарам дастаткова тэрміновай, каб выступіць неадкладна.

Прыкметна, што ліст пачынаецца зусім не са скаргаў на «страшныя машыны».

Наадварот, матэматыкі прызнаюць, што адбыўся тэхналагічны скачок. За некалькі апошніх месяцаў, пішуць яны, здольнасці вялікіх моўных мадэляў выраслі настолькі, што тыя ўжо здольныя вырашаць сур’ёзныя нявырашаныя задачы з розных абласцей матэматыкі.

Менавіта таму, лічаць аўтары, пара задаць менш прыемнае пытанне: навошта ўвогуле матэматыкі вырашаюць задачы? Адказ здаецца відавочным толькі да таго часу, пакуль у гульню не ўступае ШІ.

Для тэхналагічнай кампаніі знакамітая нявырашаная праблема выглядае амаль ідэальным тэстам. Учора мадэль не магла яе вырашыць, сёння змагла. Ёсць ясны вынік, гучны загаловак і выдатная дэманстрацыя прагрэсу.

Але для саміх матэматыкаў рашэнне задачы ніколі не было канчатковай мэтай. Аўтары дэкларацыі параўноўваюць знакамітыя праблемы з арыенцірамі або маякамі. Яны важныя таму, што дарога да іх звычайна прымушае адкрываць новыя ідэі, метады і цэлыя вобласці матэматыкі. На шляху да вялікага доказу вядзецца велізарная праца: асобныя спробы і прамежкавыя вынікі месяцамі і гадамі разбіраюць на семінарах, спрашчаюць, шукаюць больш ясныя аргументы, звязваюць з папярэднімі тэорыямі і паступова ператвараюць асобны прарыў у агульнае веданне.

Таму правільны адказ, атрыманы на апошняй старонцы, для матэматыкі — толькі частка выніку.

Іншымі словамі, у навуцы дзейнічае прынцып «вучыся вучыцца». У цэлым гэта аналагічна базавай школьнай устаноўцы — вучань павінен не проста запісаць гатовы адказ, а выкласці ўвесь ланцужок рашэння, каб прадэманстраваць разуменне задачы і ход уласнай думкі. У «вялікай навуцы» ў ролі такога школьніка выступае ўсё навуковае супольніцтва.

Галоўная каштоўнасць навуковых адкрыццяў у тым, што \"стала зразумела па дарозе\". І тут, на думку 25 лаўрэатаў, інтарэсы матэматычнай супольнасці і распрацоўшчыкаў ШІ пачынаюць сур’ёзна разыходзіцца.

Калі адказы з’яўляюцца хутчэй, чым людзі здольныя іх прачытаць, праверыць, растлумачыць і ўбудаваць у існуючую навуку, колькасны поспех можа пачаць разбураць тое, што ён нібыта вымярае.

Аўтары выкарыстоўваюць даволі моцную фармулёўку: масавая вытворчасць усё новых праўдзівых або ілжывых сцвярджэнняў здольная не ажывіць матэматыку новымі ідэямі, а, наадварот, знішчыць тую ўрадлівую глебу, на якой гэтыя ідэі з’яўляюцца.

Гэта ўжо не старая спрэчка «чалавек супраць камп’ютара». Асцярога іншая: матэматыка можа ператварыцца ў велізарны склад правільных вынікаў, якія амаль ніхто не паспеў зразумець.

Ёсць і больш празаічная праблема. Нейрасеткі навучаныя на каласальным масіве створаных людзьмі матэматычных канцэпцый. Новае машыннае доказ можа абапірацца на ідэі дзясяткаў або сотняў папярэдніх прац, камбінаваць іх і развіваць далей. Але калі сістэма выдае вынік адразу, а кампанія спяшаецца абвясціць чарговае дасягненне, то разабрацца, адкуль менавіта ўзялася ключавая ідэя і каму належыць навуковы прыярытэт, становіцца значна складаней.

Адсюль яшчэ адно папярэджанне вучоных: імклівая публікацыя «штучных рашэнняў» стварае сур’ёзныя праблемы аўтарства, навуковага ўкладу і плагіяту. На думку аўтараў ліста, пры такой хуткасці часта не застаецца часу нават на нармальнае выкладанне выніку і пералік прац папярэднікаў, не кажучы ўжо пра паўнавартаснае асэнсаванне новага метаду.

Але, мабыць, самы цікавы тэзіс датычыць не машын, а людзей. Матэматыка існуе не толькі ў артыкулах. Веданне перадаецца паміж жывымі даследчыкамі: хтосьці тлумачыць доказ на семінары, хтосьці прыдумвае больш просты варыянт, вучань засвойвае метад настаўніка і прымяняе яго да іншай задачы.

Калі машына пераскоквае праз увесь гэты працэс проста да правільнага адказу, узнікае разрыў ланцуга. Аўтары дэкларацыі наўпрост папярэджваюць: без матэматыкаў, якія добраахвотна возьмуцца распрацоўваць, тлумачыць і ўключаць машынныя ідэі ў матэматычны канон, нават слушныя адкрыцці ШІ могуць так і застацца чужароднымі аб’ектамі, не стаўшы паўнавартаснай часткай чалавечага ведання.

Тэрэнс Тао патлумачыў гэта яшчэ прасцей. Атрымаць гатовае машыннае рашэнне вялікай праблемы, кажа ён, — усё адно што паглядзець першыя дзесяць хвілін фільма, а потым адразу пераматаць на фінал. Фармальна гісторыя скончана, і ўсе сюжэтныя лініі развязаліся. Але амаль усё, дзеля чаго фільм наогул глядзяць, засталося паміж імі.

І праблема, лічаць аўтары ліста, далёка не абмяжоўваецца матэматыкай. Гады прафесійнай адукацыі патрэбныя лекару, інжынеру, вучонаму або мастаку не толькі дзеля таго, каб у рэшце рэшт выдаць правільны прадукт. За гэтыя гады чалавек вучыцца разумець прадмет, адрозніваць важнае ад другаснага, задаваць новыя пытанні і заўважаць тое, чаго раней ніхто не заўважаў.

ШІ усё часцей дазваляе атрымаць канчатковы прадукт, абмінаючы большую частку гэтага шляху. Узнікае непрыемная перспектыва: грамадства будзе атрымліваць усё больш вынікаў інтэлектуальнай працы, адначасова губляючы людзей, якія разумеюць, як і чаму гэтыя вынікі з’явіліся.

Пры гэтым аўтары дэкларацыі зусім не прапануюць спыніць ШІ. Яны спецыяльна падкрэсліваюць, што штучны інтэлект здольны істотна паскорыць сапраўднае матэматычнае даследаванне і паглыбіць разуменне. Пытанне толькі ў тым, якія мэты яму паставяць людзі.

Ці будзе машына дапамагаць матэматыцы лепш разумець свет — ці матэматыка паступова ператворыцца ў зручны стадыён, дзе тэхналагічныя кампаніі мераюцца колькасцю пакораных задач?

Вы можаце падтрымаць сайт Charter97.org наступным чынам:

РАЗЛІКОВЫ МУЛЬТЫВАЛЮТНЫ РАХУНАК ДЛЯ АХВЯРАВАННЯЎ:

Назва банка: Bank Millennium S.A.
Адрас: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Імя ўладальніка рахунку: Fundacja “KARTA ‘97”
рызначэнне аплаты: Darowizna na cele statutowe

Звязацца з намі можна праз адрас [email protected]