Björn Þór Vilhjálmsson fjallar um bókina Human Compatible, eða Mannsamræmanleiki, eftir enska rithöfundinn og tölvufræðinginn Stuart Russell, en bókin er í senn yfirlit um stöðu þekkingar um þróun gervigreindar, og hætturnar sem slíkri uppfinningu fylgja.

Björn Þór Vilhjálmsson skrifar:

Það var árið 1950 sem breski stærðfræðingurinn Alan Turing birti greinina „Computing Machinery and Intelligence“ í heimspekitímaritinu Mind. Í ljósi þess að tölvur eins og við þekkjum þær voru enn í frumdrögum á þessum tíma væri kannski réttast að snara greinatitlinum sem „Reiknivélar og greind“. Það er þó ekki það sem mestu máli skiptir, heldur hitt, að þarna færði Turing fyrstur manna í orð möguleikann á gervigreind. Til að draga upp mynd af því sem hann hafði í huga setti Turing fram hugmynd um próf sem sviðsetja mætti milli tveggja einstaklinga og vélar, einstaklingarnir tveir voru stjórnandi og þátttakandi. Það valt svo á stjórnandanum að gera greinarmun á mannlega þátttakandanum og vélinni með því að leggja fram röð spurninga og meta svo svörin. Tækist það ekki, reyndist stjórnandanum ekki mögulegt að greina á milli vélar og manns, mætti telja vélina búa yfir greind sem áþekk væri mannlegri greind. Sjálfur vísaði Turing til leiksins sem þarna er leikinn sem „Eftirhermuleiksins“ eða „the imitation game“, en í framhaldinu hefur leikurinn verið kenndur við Turing-prófið og er vafalaust þekktasta framlag Turings til samvitundar menningarinnar, um það hefur verið rætt fram og til baka, auk þess sem það birtist með nokkum beinum hætti sem Voight-Kampff prófið í Blade Runner.

Fjölmargt annað er auðvitað að finna í greininni en í einum kaflanum lítur Turing fram á veginn og spáir því að gervigreind verði orðin að dagfarslegu fyrirbæri eftir fimmtíu ár, eða árið 2000, „fólk á eftir að geta talað um gervigreind án þess að eiga von á því að orð þeirra verði dregin í efa“, segir hann. Ekki gekk það nú alveg eftir, árið 2000 kom og fór án framkomu gervigreindar, og tuttugu árum síðar eru menn orðnir varkárir mjög þegar að yfirlýsingum kemur um tímasetningar. Að sama skapi eru flestir vísindamenn sem um málið tjá sig býsna sannfærðir um að að því komi, að komandi veruleiki gervigreindarinnar sé óumflýjanleg staðreynd.

Stuart Russell er á þeirri skoðun en bók hans Human Compatible, eða Mannsamræmanleiki, kom út í fyrra, og gerir gervigreind að viðfangsefni, núverandi þekkingu á sviðinu sem og framtíðarhorfur. Þetta er bók sem er hugsuð fyrir hinn almenna lesanda og gefur að mínu viti afskaplega greinagóða yfirsýn yfir málaflokkinn, enda kennivald Russells á sviðinu býsna tilkomumikið. Árið 1995 skrifaði hann ásamt meðhöfundi sínum Peter Norvig bókina Artificial Intelligence: A Modern Approach, sem er lykilverk, kennd í dag í yfir 1400 háskólum í nær 130 löndum. Meðhöfundurinn Norvik starfaði hjá NASA fram til 2001 en þá gekk hann til liðs við Google þar sem hann er í enn dag og stýrir þar þróunardeildinni sem fæst við gervigreind. Sjálfur kennir Russell í Háskólanum í Berkeley, auk þess að sinna ráðgjafastörfum um hættur gervigreindar, bæði fyrir ríkisstjórnir og Sameinuðu þjóðirnar.

Hættur segi ég, og það er lykilatriði í samhengi nýju bókarinnar. Í lokakafla bókarinnar frá 1995 líta höfundar sæmilega björtum augum til þeirrar stundar að gervigreindin komi fram, en ýmislegt hefur breyst síðan, og viðhorf Russells er miklum mun myrkara nú um stundir en það var þá.

Hér er ráð að vitna í grein sem fjórir heimsfrægir vísindamenn með sjálfan Stephen Hawking í fararbroddi birtu fyrir nokkrum árum um hættuna sem fylgir vitundarvakningu vélanna. Þar segir m.a.:

„Ávinningurinn sem kann að fylgja [þróun gervigreindar] er gríðarlegur. Allt það sem siðmenningin hefur upp á að bjóða er afrakstur mannlegra vitsmuna. Ómögulegt er að ímynda sér hversu hátt við gætum teygt okkur ef aðstoðar yfirburðagreindra véla nyti við. Að útrýma stríði og vinna bug á fátækt og sjúkdómum eru meðal hins hugsanlega. Takist að skapa vélar með gervigreind teldist það merkasti viðburður mannkynssögunnar. Því miður kynni hann einnig að vera sá síðasti.“

Þessi orð enduróma í upphafi Mannsamræmanleika þar sem Russell segir: „að ná sambandi við greind sem stæði okkar jafnvel mun framar yrði mikilvægasti viðburður mannkynssögunnar. Tilgangur þessarar bókar er að útskýra hvers vegna það kynni jafnframt að vera síðasti viðburðurinn í mannkynssögunni“. Að samhljóms gæti þarf svo sem ekki að koma á óvart. Russell var ásamt Stephen Hawking einn þeirra sem skrifuðu greinina sem vitnað var í hér að framan, og nýju bókina eftir Russell má í raun lesa sem útleggingu og rökstuðning fyrir viðhorfunum sem reifuð eru í greininni.

En af hverju stafar hættan? Hér er að nokkrum hlutum að gæta. Fyrst að um ólík en samtengd fyrirbæri er að ræða þegar talað er um almenna gervigreind annars vegar og ofurgervigreind hins vegar. Samtengd vegna þess að eitt af því sem menn óttast er að sé almennu greindinni náð reynist ofurgervigreindin óhjákvæmilegur fylgifiskur.

Hvernig sem hýsingarmál gervigreindarinnar verða leyst, hvort einhvers konar líkamning reynist ákjósanleg eða hvort hún verður geymd í stafrænum hjáveruleika, eða bara í svörtum kassa, þá er ljóst að hún verður stafræn. Það er að segja, vitund gervigreindarinnar verður á stafrænu formi. Hér skiptir heldur engu máli hvernig forleikurinn reynist hafa verið, það hafa t.d. lengi verið tveir skólar um það hvernig best sé að ná markmiðinu um uppfinningu gervigreindar. Samkvæmt öðrum þeirra er bara eitt fyrirbæri í öllum heiminum sem við vitum fyrir víst að hefur yfir þeim kosturm að búa sem sóst er eftir, og það er heilinn inni í hauskúpunni okkar, og þar af leiðandi ættum við að reyna að endurskapa hann. Til dæmis með því að skanna innviði hans, og nota síðan tölvur til að endurskapa í stafrænu rými það sem við sjáum á skönnuðu myndunum. Þetta með varíasjónum er annar skólinn. Hinn skólinn vill ekki leita fyrirmynda í náttúrunni, telur tæknilega lausn vænlegri, og rennir þar hýru auga til frekari þróunar sjálfstarfandi tauganeta.

En hvort heldur væri, ef tækist að búa til almenna gervigreind væri hún á stafrænu formi. Og það þýðir að hún er ekki bundin lögmálum efnisheimsins eins og við, einu lögmálin sem hún væri bundin væri tölvunarkrafturinn, og væri hann nægur væri t.d. sjálfsagt mál að hraða eða hægja á tímanum í stafræna umhverfinu, þar sem almenna gervigreindin býr, það væri bara spurning um orkubúskap og að virkja eins og tvo eða þrjá fossa.

Hér skulum við svo huga aftur að almennu gervigreindinni, hún er áþekk mannlegri greind og þar með vitsmununum sem dugðu til að finna upp sjálfa gervigreindina. Þessari greind, óttast menn, yrði fljótlega beint að grunnkóða hennar sjálfrar, í þeim tilgangi að endurbæta hann. Það væri langt verkefni og strangt, en þar sem tíminn líður ekki eins og í raunheimum kynni svo að fara að hann reyndist mjög stuttur að okkar dómi. Og eftir því sem gervigreindin hefur endurbætt sig meira gerir hún það hraðar, allt þar til grunnkóðinn er margendurbættur, og almenna greindin orðið ofurgervigreind.

Og hvað gerum við andspænis vitund sem er hugsanlega þúsund sinnum greindari en við? Hvað gerir þessi ofurvitund? Það er þarna sem óttinn um framtíð mannkynsins tekur sig upp, því bæði gæti verið um vitund að ræðað sem okkur væri algjörlega framandi og svo kunna hagsmunir hennar, eins og hún skilgreinir þá sjálf, að reynast afar ólíkir hagsmunum mannkyns.

Það er í þessu samhengi sem hin nýja bók Stuarts Russells er kannski ekki síst forvitnileg, mikið er um bölsýni, nú eða transhúmaníska útópíuhugsun, í skrifum um gervigreind. Minna ber hins vegar á áþreifanlegum tillögum, en síðustu kaflar Mannsamræmanleika snúast einmitt um forvinnuna og forvarnirnar sem reisa þurfi áður en gervigreindin kemur til sögunnar og við hönnun hennar. Gegnir þar efinn lykilhlutverki, segir Russell, við verðum að byggja efasemdir inn í gervigreindina, efasemdir um endanleg markmið. Að mati Russell væri það aðeins undir slíkum kringumstæðum, þegar gervigreindin veit ekki alveg í hvorn fótinn hún á að stíga, sem hún myndi leyfa að slökkt væri á sér.