Tu nájdete časť 1 a časť 2 tejto série článkov.
Kvantový teoretik Richard Feynman zomrel v roku 1988 na rakovinu. Jedným z jeho posledných zápisov na jeho osobnej tabuli bola zrejme táto veta: „Čo nedokážem vytvoriť, tomu nerozumiem.“ V dvadsiatom prvom storočí sa stretávame s opačnou situáciou. Ak dokážeme vytvoriť inteligenciu, znamená to, že sme ju pochopili?
Moderná umelá inteligencia je pozoruhodná. Počítačoví vedci vytvorili z kódu a obvodov fungujúcu inteligenciu. Niečo, čo dokáže intuitívne uvažovať, čo dokáže taktizovať, čo dokáže prepísať vaše e-maily v štýle Abrahama Lincolna. To mení náš vzťah k prirodzenému svetu. Vyrastal som v presvedčení, že ľudia sú druh, ktorý je inteligentnejší ako delfíny a šimpanzy. Boli sme vrcholovým predátorom inteligencie. Čoskoro budeme druhom zaradeným medzi počítače a delfíny. Inteligentnejší ako delfíny, ale hlúpejší ako naše telefóny. Ako píše ateistický filozof Nick Bostrom:
Zďaleka nie sme najmúdrejším možným biologickým druhom, ale pravdepodobne je najlepšie, ak si nás predstavíme ako najhlúpejší možný biologický druh schopný založiť technologickú civilizáciu – medzeru, ktorú sme zaplnili, pretože sme sa tam dostali prví[1].
Au.
Neurónové siete
Moderné neurónové siete sa nám nepodobajú len z hľadiska svojich výstupov, ale napodobňujú nás aj svojou štruktúrou. Mustafa Suleyman, spoluzakladateľ spoločnosti DeepMind (ktorú teraz vlastní a riadi Google), povedal, že cieľom jeho organizácie bolo:
vytvoriť systém, ktorý by dokázal napodobniť a nakoniec prekonať všetky ľudské kognitívne schopnosti, počnúc zrakom a rečou až po plánovanie a predstavivosť a nakoniec empatiu a kreativitu[2].
Opäť, au. Demis Hassabis, ďalší spoluzakladateľ spoločnosti DeepMind, absolvoval doktorandské štúdium nie v oblasti informatiky, ale neurovedy. Skúmal formovanie pamäte v ľudskom mozgu a snažil sa zistiť, ako si ľudia predstavujú udalosti vo svojom živote a ako si tieto udalosti ukladajú na neskôr. Hassabis chcel vytvoriť počítač inšpirovaný vzormi ľudského mozgu.
Preto v malej kancelárii v Londýne začala spoločnosť DeepMind budovať rôzne druhy neurónových sietí. Takéto siete čerpajú značnú inšpiráciu zo štruktúry mozgu. Obrovská sieť uzlov alebo neurónov si odovzdáva informácie tam a späť, pričom každá úroveň vykonáva iné úlohy. Ak by sa neurónová sieť učila napríklad čítať, nižšie úrovne by mohli identifikovať interpunkčné znamienka alebo medzery medzi slovami. Ďalšia úroveň by mohla začať rozpoznávať slová, zatiaľ čo vyššia úroveň by sa zaoberala významom viet a odsekov. To by mohlo byť zdrojom informácií pre ešte vyššiu úroveň, ktorá by sa učila vnímať tón, žáner, hlavné argumenty, svetonázorové predpoklady atď. Veľká neurónová sieť by mohla mať miliardy neurónov a desiatky vrstiev prepojených neuveriteľne zložitou sieťou[3].
Ako však môže mať programátor čas na organizovanie a navrhovanie miliárd alebo biliónov malých obvodov? Genialita moderných neurónových sietí spočíva v tom, že nemusí. Namiesto toho sa obvody zostavujú samé. Spoločnosť DeepMind od začiatku vytvárala učiace sa stroje, a do neurónových sietí vkladala tréningové údaje. Jazykový model sa učil tak, že robil predpovede a potom počítal, ktoré neuróny a aké spojenia boli zodpovedné za úspech alebo neúspech predpovedí. Predstavte si náš jazykový model, ako pracuje písmeno po písmene (presnejšie token po tokene) z textu veľkosti Kongresovej knižnice. Predpovedá každé nadchádzajúce písmeno, jedno po druhom, a potom upravuje spojenia medzi neurónmi, aby odhadoval čoraz presnejšie.
Neurónová sieť je univerzálna technológia, ktorá sa objavuje vo viacerých oblastiach života v čoraz vyššej kvalite. Podobne ako elektrina je to druh technológie, ktorá môže byť nakoniec súčasťou takmer všetkých technológií. V určitom okamihu môže byť ťažké prežiť hodinu svojho života bez interakcie s jedným z týchto umelých mozgov.
Viac je iné: Kvalita kvantity
Niektorí ľudia reagujú na takéto modely slovami: „Nie sú inteligentné, len predpovedajú ďalšie slovo [alebo token] v reťazci textu.“ Iní hovoria, že „Nie sú inteligentné, len nachádzajú korelácie v údajoch“. Každá z týchto odpovedí znie prijateľne a obsahuje pravdu. V oboch prípadoch však máte pravdivý opis v miniatúre toho, ako funguje veľký jazykový model, s nepatrným, ale zásadným doplnkom slova „len“. Tieto typy odpovedí prehliadajú podstatnú vec: kvantita má svoju vlastnú kvalitu. Milión mravcov vytvára javy, ktoré nie sú možné s jedným mravcom. Mexická vlna na futbalovom štadióne je iný druh javu ako zdvihnutie rúk jedným človekom. Rieka môže byť mokrá, ale jediná molekula nemôže byť mokrá. Ako upozorňuje fyzik Max Tegmark: „Fenomén vlhkosti sa objavuje len vtedy, keď je veľa molekúl usporiadaných do vzorca, ktorý nazývame kvapalina“.[4]
Americký fyzik Philip Anderson, nositeľ Nobelovej ceny, niekedy počuje fyzikov hovoriť, že v iných vedných odboroch sa nič zásadné neskúma. Chémia, biológia, vedy o zemi, spoločenské vedy a medicína sú vlastne len fyzikou v inej budove. Anderson vo svojom článku „Viac je iné“ odmietol tento spôsob myslenia:
Ukázalo sa, že správanie veľkých a zložitých zoskupení elementárnych častíc sa nedá pochopiť jednoduchou extrapoláciou vlastností niekoľkých častíc. Namiesto toho sa na každej úrovni zložitosti objavujú úplne nové vlastnosti[5].
Kvantita má svoju vlastnú kvalitu.
Ak chcete získať predstavu o rozsahu, na ktorom fungujú moderné neurónové siete, zamyslite sa na tým, čo povedal Mustafa Suleyman:
PaLM [Pathways Language Model] spoločnosti Google využíva také množstvo [výpočtov], že keby ste mali kvapku vody za každú operáciu s pohyblivou rádovou čiarkou, ktorú použil počas trénovania, zaplnila by Tichý oceán. [6]
Je dôležité pochopiť, že veľké jazykové modely nie sú len pamäťové stroje. Neukladajú si len internet a nenakopírujú vám ho späť. Veľké jazykové modely nemajú ani zďaleka takú pracovnú pamäť, aby si mohli uložiť internet v zapamätanej podobe. Zapamätajú si však bežné prepojenia. Spojenie medzi slovami „hlavné mesto Francúzska“ a „Paríž“ by si veľký jazykový model určite zapamätal. Hlavná vec, ktorú robia veľké jazykové modely, je extrahovanie princípov, často veľmi hlboko zakopaných princípov, ktoré im umožňujú ukladať obrovské množstvo znalostí v komprimovanej forme.
Zoberme si príklad matematiky. Ak by sa počítač učil sčítanie, mohol by si začať pamätať každý súčet každej dvojice čísel. Nakoniec by však pamäť bola taká plná možných číselných kombinácií, že by ostatné funkcie boli vytlačené. Lepším prístupom by bolo nájsť nejaký princíp alebo súbor princípov, ktorý by umožnil stroju odvodiť všetky možné súčty bez potreby veľkého memorovania. Bežný termín pre tento postup je „grokking“ (z angl. grokking). Keď modely pochopia hlbší proces alebo princíp, grokujú všetky druhy vecí. Keď model grokuje nejakú pravdu o svete, výkonnosť a presnosť zrazu narastie, zlepší sa zovšeobecnenie a štruktúra neurónov sa zmení na niečo jednoduchšie a efektívnejšie.
Postupom času sa trénujú všeobecnejšie modely, ktoré sú schopné písať počítačový kód, rozpoznávať obrázky, konverzovať v maďarčine a robiť domáce úlohy z matematiky. Uvedomujúc si to, v roku 2023 tím zo spoločnosti Microsoft tvrdil, že
hodnotenie schopností a kognitívne zručnosti týchto nových modelov sa vo svojej podstate oveľa viac priblížilo úlohe hodnotenia schopností a kognitívnych zručností človeka ako úzkemu modelu umelej inteligencie.
Všeobecný model, ktorý bol takto trénovaný, si osvojil milióny malých princípov o ľudskom jazyku a svete, ktorý reprezentuje. To mu dáva schopnosť urobiť niečo také neočakávané, ako napísať dôkaz, že existuje nekonečne veľa prvočísel, pričom každý riadok sa rýmuje. Pochopenie týchto modelov si vyžaduje myslenie zhora nadol, ktoré má bližšie k psychológii ako k fyzike a vyžaduje si zmapovanie rôznych oblastí „mozgu“ stroja. Tak ako používame prístroje fMRI, aby sme zistili, ktoré časti ľudského mozgu sú aktívne pri rôznych činnostiach, môžeme sa pokúsiť zmapovať, ako a kde sú v umelom mozgu uložené rôzne pojmy.
Hofstadterov obrat
Kognitívny vedec Douglas Hofstadter býval dosť skeptický voči intelektuálnej sile neurónových sietí, a to tak vo svojej Pulitzerovou cenou ocenenej knihe Gödel, Escher, Bach[7], ako aj v článkoch ako „The Shallowness of Google Translate“. Je celkom pozoruhodné, že v roku 2023 nielenže zmenil názor, ale priznal, že zmenil názor:
Je to veľmi traumatický zážitok, keď sa vám začnú rúcať niektoré z vašich najzákladnejších presvedčení o svete. A najmä keď si pomyslíte, že ľudské bytosti budú čoskoro zatienené. … Ľudia sa ma pýtajú: „Čo myslíš tým ‚čoskoro‘?“ … Nemám žiadnu možnosť to vedieť. Ale časť môjho ja hovorí, že o päť rokov, časť môjho ja hovorí, že o dvadsať rokov, časť môjho ja hovorí: „Neviem, nemám predstavu.“
Vo svojom novom uhle pohľadu, s novým vedomím o sile neurónových sietí, Hofstadter uzatvára:
Aj vďaka tomu mám pocit, že ľudská myseľ možno nie je taká záhadná a zložitá a nepreniknuteľne komplexná, ako som si predstavoval… A tak sa cítim malý. V istom zmysle sa cítim ako veľmi nedokonalá, chybná štruktúra v porovnaní s týmito počítačovými systémami, ktoré majú miliónkrát alebo miliardkrát viac vedomostí ako ja a sú miliardkrát rýchlejšie.
Toto všetko predpovedal britský počítačový vedec Alan Turing už v roku 1951:
Ak stroj dokáže myslieť, mohol by myslieť inteligentnejšie ako my, a kde by sme potom mali byť my? Aj keby sme dokázali udržať stroje v podriadenom postavení… mali by sme sa ako druh cítiť veľmi pokorení.
Máme tu rok 2024 a aspoň niektorí z nás sú veľmi pokorení.
Otázky pre kresťanov
Vznik týchto nových výkonných technológií vyvoláva obrovské otázky. Po prvé, ak dokážeme vytvoriť inteligenciu, znamená to, že sme ju pochopili? A ak sme pochopili inteligenciu, pochopili sme, čo je to byť človekom, mať vedomie, byť živý? Po druhé, ak dokážeme vysvetliť mechaniku inteligencie, do akej miery sme vylúčili jeden z dôvodov viery v existenciu Boha? Po tretie, ak sú ľudia druhoradou formou inteligencie, kde nájdu svoju identitu? Čo je na ľudstve významné, jedinečné a cenné, ak z kognitívneho hľadiska skončíme ako nepotrební?
Toto sú otázky, ktoré musíme byť ochotní skúmať s otvorenou Bibliou, ako som tvrdil vo svojom prvom článku. My kresťania musíme o týchto otázkach uvažovať, a to nielen sami pre seba. Očakávam totiž, že práve takéto diskusie budú mnohí z nás viesť so svojimi nekresťanskými priateľmi, spolužiakmi a kolegami v práci, keďže svet sa stáva čoraz viac cudzím.
Tento článok bol upravený z materiálu v knihe Made in Our Image: God, Artificial Intelligence and You (2024).
[1] N Bostrom, Superintelligence: Paths, dangers, strategies, Oxford University Press, 2016, s. 53.
[2] Suleyman a Bhaskar, The Coming Wave, s. 8.
[3] Neurónové siete nie sú nové a nevymyslela ich spoločnosť DeepMind. Spoločnosti ako DeepMind alebo OpenAI využili obrovský výkon moderných superpočítačov na trénovanie neurónových sietí, ktoré sú masívne väčšie, než bolo možné pred desiatkami rokov.
[4] M Tegmark, Life 3.0: Tegmark: Being human in the age of Artificial Intelligence, Penguin Books, 2018, s. 300.
[5] PW Anderson, „More Is Different: Broken symmetry and the nature of the hierarchical structure of science“, Science, 4. augusta 1972, 177(4047):393.
[6] Suleyman a Bhaskar, The Coming Wave, s. 66.
[7] DR Hofstadter, Gödel, Escher, Bach: An eternal golden braid, 20th anniversary edn, Basic Books, 2000, s. 20.
Poznámka redaktora: Preložené z anglického jazyka. Zdroj: The Gospel Coalition
