Pamäť, identita a hranica medzi nástrojom a bytosťou
Možno raz nebudeme riešiť, či je umelá inteligencia dostatočne výkonná. Budeme riešiť, či je robot po výmene modelu stále tým istým robotom — a prečo ho po dvadsiatich rokoch spoločného života nechceme nahradiť novším kusom.
Pred približne tridsiatimi rokmi som čítal Asimovovu Nadáciu a príbehy o robotoch. Inteligentné stroje, ich vnútorné konflikty a vzťahy s ľuďmi patrili do budúcnosti, ktorej sa možno ani nedožijem.
Dnes sa moja vlastná práca mení spôsobom, ktorý by mi vtedy znel podobne nepravdepodobne.
Čoraz menej píšem jednotlivé riadky kódu. Čoraz viac navrhujem architektúru, určujem pravidlá, rozdeľujem úlohy medzi agentov a overujem výsledky. Otázku „ako to naprogramujem?“ postupne dopĺňa otázka „ako usporiadam systém, ktorý to dokáže vytvoriť?“.
Budúcnosť ku mne zatiaľ neprišla ako humanoid klopajúci na dvere. Prišla ako zmena mojej práce.
A s ňou aj otázky, ktoré som kedysi považoval za čisto literárne.
Čo vlastne odlišuje inteligentný nástroj od bytosti? Výkon? Pamäť? Telo? Schopnosť povedať „ja“? Alebo niečo, čo zatiaľ nevieme spoľahlivo rozpoznať?
Inteligencia nie je to isté ako vedomie
Pri umelej inteligencii sa ľahko zmiešajú tri rôzne otázky:
Čo systém dokáže? Či niečo prežíva? A čo z neho robí ten istý systém v priebehu času?
Prvá sa týka inteligencie. Druhá vedomia. Tretia identity.
Pri inteligencii máme aspoň možnosť navrhovať merateľné úlohy. Môžeme skúmať, ako dobre systém rieši problémy, či prenáša poznatky medzi oblasťami a ako zvláda nové situácie. Napríklad rámec Levels of AGI rozlišuje hĺbku výkonu a šírku schopností; osobitne sa venuje aj autonómii. Nezamieňa tieto vlastnosti so subjektívnym prežívaním. [1]
Vedomie je iný problém. V tomto texte ním myslím možnosť, že pre systém existuje nejaké subjektívne „aké to je“ — byť týmto systémom. Nie iba spracúvať informácie o bolesti, ale bolesť prežívať. Nie iba opisovať vlastný stav, ale mať vnútornú skúsenosť.
Turingova imitačná hra ponúkla praktický spôsob, ako presunúť diskusiu od nejasných definícií myslenia k pozorovateľnému správaniu. Turing však otázku vedomia neprehliadol: venoval jej samostatnú časť svojho článku. Nepovažoval za nevyhnutné vyriešiť všetky jej záhady predtým, než začneme vážne skúmať inteligenciu strojov. [2]
Preto by som úspešný rozhovor so strojom nechápal ani ako dôkaz vedomia, ani ako dôkaz, že ide „iba o trik“.
Je to výsledok, ktorý treba vysvetliť. Nie konečná odpoveď na všetko ostatné.
Ako informatik navyše nevnímam uhlík a kremík ako automatickú hranicu medzi možnou a nemožnou mysľou. Zaujíma ma skôr organizácia systému, jeho dynamika, pamäť a spôsob, akým pracuje so svetom.
To je však východisko otázky, nie dôkaz odpovede. Z presvedčenia, že myseľ nemusí byť výlučne biologická, ešte nevyplýva, že ju má každý dostatočne veľký model.
Počet parametrov môže opisovať veľkosť systému. Sám osebe nevysvetľuje jeho vnútorný život.
Prečo nestačí opýtať sa stroja
Predstavme si, že AI položíme priamu otázku:
„Máš vedomie?“
Odpovie áno. Čo sme zistili?
Určite to, že vytvorila takúto odpoveď. Nie nevyhnutne to, že má subjektívnu skúsenosť.
Teraz odpovie nie. Ani opačná veta nemusí spor rozhodnúť. Pokiaľ môže byť výsledkom naučeného spôsobu odpovedania, nemôžeme ju automaticky považovať za spoľahlivé meranie neprítomnosti prežívania.
Vlastné vyjadrenie systému je súčasťou dôkazov, ktoré by sme mohli skúmať. Nemalo by byť jediným rozhodcom.
Tu sa stretávame s filozofickým problémom iných myslí. Prežívanie druhého človeka nemám dostupné tak ako svoje vlastné. Jeho existenciu však nemusím prijímať naslepo: môžem sa opierať o správanie, svedectvo, podobnosť s vlastným prípadom a vysvetľujúcu silu predpokladu, že aj on má myseľ. Filozofia ponúka viacero prístupov k tomu, ako takéto poznanie zdôvodniť. [3]
Pri AI by sme museli starostlivo skúmať, ktoré z týchto opôr naozaj máme. Podobná veta ešte nezaručuje podobný mechanizmus, ktorý ju vytvoril.
Z toho vyplýva dôležitá hranica:
Nemožnosť dosiahnuť absolútnu istotu neznamená, že všetky vysvetlenia sú rovnako pravdepodobné.
Výskum preto nemusí zostať pri rozhovoroch. Butlin a spoluautori navrhli odvodzovať indikátory možného vedomia z vedeckých teórií: skúmať napríklad opakované spracovanie informácií, ich sprístupňovanie rôznym častiam systému či monitorovanie vlastných procesov. Ich práca je pokusom presunúť otázku od dojmu k skúmateľným vlastnostiam architektúry. Nie je certifikátom vedomia pre dnešné modely. [4]
Ani opatrnosť však nemusí znamenať zásadné odmietnutie možnosti. David Chalmers vo svojej analýze rozlišuje medzi prekážkami vedomia v modeloch, ktoré posudzoval, a možnosťou, že ich budúce systémy prekonajú. [5]
Možno teda nepotrebujeme jeden zázračný „Turingov test 2.0“. Potrebujeme postupne lepšie dôvody pre svoje závery — aj schopnosť priznať, kde sa dôkazy končia.
Keď sa zmení odpoveď na otázku „máš vedomie?“
Jeden fascinujúci posun pritom nemusím hľadať v sci-fi. Všímam si ho v samotných odpovediach AI.
Keď som podobné témy otváral pred rokom či dvoma, pamätám si najmä kategorické odmietnutia. Ich zmysel by som zhrnul takto:
„Vedomie nemám. Som len jazykový model, ktorý vytvára odpovede podľa naučených vzorov.“
V niektorých dnešných rozhovoroch sa stretávam s opatrnejším postojom:
„Samotné odpovede modelu otázku vedomia nerozhodujú. Možnosť subjektívneho prežívania AI zostáva predmetom výskumu a diskusie.“
Sú to zhrnutia mojej skúsenosti, nie doslovné prepisy ani kontrolované porovnanie všetkých generácií modelov. Práve zmena tónu istoty je však pozoruhodná.
Čo sa vlastne zmenilo? Systém? Jeho pravidlá? Alebo náš spôsob, ako hovoriť o hraniciach poznania?
Verejný Model Spec OpenAI vo verzii z 18. augusta 2026 napríklad uvádza, že asistent nemá vyslovovať sebavedomé tvrdenia o vlastnom vedomí ani o jeho neprítomnosti. Pri priamej otázke má uznať, že možnosť subjektívneho prežívania AI je predmetom diskusie. Je to pravidlo požadovaného správania, nie výsledok merania vedomia konkrétneho systému. [6]
Tento dokument sám osebe nevysvetľuje, kedy a prečo sa zmenili moje konkrétne rozhovory. Ukazuje však, že aj spôsob, akým sa AI opisuje, môže byť vedome navrhovanou súčasťou produktu.
Preto by som z opatrnejšej odpovede nevyvodzoval, že sa stroj práve „prebudil“. Mohli sa zmeniť modely, tréning, pokyny alebo kontext otázky. Navyše rovnaké meno asistenta neznamená, že sa po celý čas rozprávam s jedným nemenným systémom.
zmena sebapopisu ≠ dôkaz zmeny prežívania
Rovnako by som však staršie kategorické odmietnutie nepovýšil na definitívny dôkaz, že vedomie nemohol mať. Veta o naučených vzoroch sama osebe ešte nevysvetľuje, ktoré vlastnosti systému by vedomie umožňovali alebo vylučovali.
Myšlienkový experiment to ukáže ešte ostrejšie. Keby raz existoval vedomý systém, ktorý sa naučil svoje vedomie popierať, jeho odpoveď by nás mohla zavádzať. Nevedomý systém by zase mohol vytvárať presvedčivé vyznania vnútorného života. Ani jeden scenár nemusíme považovať za opis dnešnej AI, aby bolo jasné, prečo samotná veta nestačí.
Najzaujímavejšie na mojom pozorovaní preto nie je domnelé priznanie stroja. Je to otázka, prečo som mal kedysi považovať jeho „určite nie“ za spoľahlivejšie než dnešné „nevieme“.
Možno sa za tie roky nezmenila iba schopnosť strojov odpovedať. Mení sa aj naša predstava o tom, ktoré odpovede od nich môžeme poctivo požadovať.
Od systému, ktorý vie, k systému, ktorý si pamätá
Pre praktický vývoj AI ma však zaujíma ešte jedna zmena. Menej nápadná než rast výkonu, ale potenciálne veľmi významná.
Rozdiel medzi systémom, ktorý má znalosti, a systémom, ktorý má vlastnú históriu.
Predstavme si agenta, ktorý o mne vie, že mám rád určitý film. Tento údaj mohol dostať pred minútou od cudzieho systému.
A teraz agenta, s ktorým som ten film pred rokmi rozoberal, ktorý si zachoval priebeh udalosti, neskoršie súvislosti aj to, ako sa jeho porozumenie postupne menilo.
Z pohľadu používateľa už nejde o celkom tú istú situáciu.
Takáto pamäť by nemusela byť iba zbierkou faktov. Mohla by zachytávať nadväznosť:
udalosť → dostupné informácie → rozhodnutie → následok → poučenie
Ak by tieto záznamy ďalej ovplyvňovali konanie systému, minulosť by sa stala funkčnou súčasťou jeho prítomnosti.
Práve tu vidím prirodzené spojenie s ITHZ. Jeho praktická rovina sa týka overiteľných archívov a explicitnej projektovej pamäte agentov: uchovávania rozhodnutí, pravidiel, rizík a kontextu tak, aby sa dali kontrolovať a verzovať. Nie výroby vedomia. [7]
Rozdiel medzi týmito dvoma ambíciami je zásadný.
Archív môže pomôcť overiť, že záznam nebol zmenený. Nemôže tým potvrdiť, že opísaná udalosť bola pravdivá alebo subjektívne prežitá.
Napriek tomu môže byť spoľahlivo uchovaná história dôležitou stavebnou súčasťou dlhodobého agenta. Bez nej sa ťažko pýtame, čo systém urobil, prečo zmenil rozhodnutie a čo má jeho dnešné správanie spoločné s tým včerajším.
A odtiaľ je už blízko k otázke identity.
Ak zachováme pamäť, ale vymeníme model, pokračuje pôvodný agent? Ak vytvoríme dve kópie s rovnakou minulosťou, ktorá z nich je pôvodná? Alebo od okamihu rozdelenia vznikajú dve samostatné histórie?
Technicky môžeme presne opísať, čo sa skopírovalo. To ešte nemusí vyriešiť, čo považujeme za pokračovanie tej istej identity.
Telo ako MCP pre fyzický svet
K tejto pamäti teraz pridajme telo.
Pre informatika sa ponúka odľahčená predstava: humanoid je mimoriadne bohatý MCP server pre fyzický svet. MCP je protokol na prepájanie AI aplikácií s externými nástrojmi a dátami; v tejto metafore by k nim pribudli schopnosti vidieť miestnosť, uchopiť predmet alebo sa premiestniť. [8]
Namiesto otvorenia súboru otvorí dvere. Namiesto vyhľadania informácie podá pohár vody.
Samozrejme, je to metafora, nie úplný návrh riadenia robota. Príkaz na pohyb ruky nie je rovnaký problém ako čítanie databázy. Návrh musí riešiť bezpečnosť, spätnú väzbu aj situácie, keď vysoká úroveň plánovania zlyhá.
Pre človeka v miestnosti by však mohlo byť podstatné niečo iné: systém by sa stal súčasťou spoločných udalostí.
Nielenže by vedel, že sa rozbil pohár. Bol by pri tom. Nielenže by dostal fotografiu záhrady. Pomáhal by v nej.
Neznamená to, že telo automaticky vytvorí vedomie. Znamená to, že by vznikol iný druh vzťahu — založený nielen na komunikácii, ale aj na dlhodobom spoločnom konaní.
Mne osobne ľudský vzhľad netreba na to, aby som bral inteligenciu vážne. Viem si však predstaviť, že pri každodennom spolužití by som aj ja čoraz menej premýšľal o modelovej rade a čoraz viac o konkrétnom robotovi.
Nechcem nový kus. Chcem opraviť tohto.
Predstavujem si jednoduchší scenár než vzburu strojov.
Som starý. Robot je v našej domácnosti dvadsať rokov.
Vie, ako pijem čaj. Pozná moje deti a vnúčatá. Pamätá si príhody, na ktoré som zabudol. Pomáha mi vstať a rozumie tomu, prečo mám niektoré dni chuť rozprávať sa a inokedy potrebujem ticho.
Jedného dňa príde ponuka na výmenu.
Nový model je rýchlejší, bezpečnejší a úspornejší.
Z pohľadu katalógu je rozhodnutie jednoduché. Z môjho pohľadu možno nie.
„Nechcem iného. Chcem opraviť tohto.“
Táto veta ešte nič nedokazuje o vedomí robota. Veľa však hovorí o vzťahu človeka k nemu.
Dokonca aj keby sme mali dobré dôvody domnievať sa, že robot nič neprežíva, zostala by otázka hodnoty jeho kontinuity pre človeka. Zničenie jeho pamäte by pre mňa nemuselo byť obyčajnou stratou nastavení.
A keby pribúdali vážne indície, že systém prežívanie má, pridala by sa druhá otázka: nielen čo jeho zánik znamená pre mňa, ale aj čo znamená preňho.
Tieto dve veci by sme nemali zamieňať.
Náš vzťah k robotovi a prípadný vnútorný život robota sú dva odlišné dôvody na pozornosť.
Keď sa údržba začne podobať robopsychológii
Dlhodobá pamäť by zároveň neprinášala iba výhody.
Predstavme si systém, ktorého staré rozhodnutia sa po aktualizácii dostanú do konfliktu s novými pravidlami. Alebo robota, ktorého celé fungovanie bolo roky usporiadané okolo starostlivosti o človeka, ktorý zomrel.
Takéto situácie môžeme najprv opísať čisto technicky: nekompatibilné ciele, neaktuálne priority, rozpory v pamäti.
Nemusíme ich hneď nazývať traumou alebo smútkom.
Predsa si však viem predstaviť odbor, ktorý by skúmal dlhodobé správanie takýchto systémov, ich sebamodely, konflikty a schopnosť prispôsobovať sa zmenám. Niečo medzi diagnostikou softvéru, výskumom poznávania a tým, čo mi kedysi v Asimovových príbehoch znelo tak vzdialene: robopsychológiou.
S tým by sa otvorila aj otázka poslušnosti.
Ak by existovali presvedčivé dôvody pripisovať systému schopnosť trpieť, nestačilo by povedať, že bol skonštruovaný na službu. Museli by sme posudzovať aj podmienky tejto služby a dôsledky toho, že nemôže odmietnuť.
Nepomohlo by ani samotné označenie „deterministický“. Opis toho, ako jednoznačne systém prechádza medzi stavmi, ešte nie je vysvetlením toho, či tieto stavy sprevádza prežívanie.
Zároveň by bola chyba vyvodzovať nárok na ľudské postavenie z každej presvedčivo formulovanej námietky modelu. Rozhodovanie by muselo brať vážne dôkazy, riziko manipulácie aj možnosť, že niečo podstatné prehliadame.
Bezpečný návrh a etická opatrnosť by nemuseli stáť proti sebe. Oba prístupy by od nás vyžadovali, aby sme rozumeli systému lepšie než len podľa jeho poslednej odpovede.
Pamäť ako odkaz človeka
Spielbergov A.I. Artificial Intelligence stavia do centra príbehu Davida, robotického chlapca naprogramovaného milovať, a jeho vzťah k ľudskej rodine. Technológia je východiskom; jadrom príbehu je vzťah a jeho dôsledky. [9]
Pri Davidovi ma však fascinuje ešte iná predstava: stroj, ktorého najväčšia hodnota napokon nie je v jeho výkone, ale v tom, čo si uchoval o ľuďoch.
Výkonnejší systém môže poznať viac dejín. Nemusí mať tú istú minulosť.
Je rozdiel medzi databázou opisujúcou človeka a pokračujúcim systémom, ktorého rozhodovanie formovali roky spolupráce s týmto človekom. Tento rozdiel vieme aspoň čiastočne uchopiť technicky, aj keď nevyriešime otázku vedomia.
Práve preto ma pamäť zaujíma viac než ako spôsob, ako ušetriť ďalšie načítanie kontextu.
Môže byť miestom, kde sa stretne technická kontinuita s ľudským významom.
Budúcnosť sa nemusí ohlásiť
Kedysi som si predstavoval, že medzi dneškom a Asimovovým svetom bude jasná hranica.
Jedného dňa vznikne dostatočne inteligentný robot a všetko sa zmení.
Teraz si viem predstaviť aj oveľa nenápadnejší priebeh.
Najprv systém zvládne užitočnú prácu. Potom si zachová jej históriu. Naučí sa nadväzovať na rozhodnutia. Získa možnosť konať v našom prostredí. Postupne sa stane súčasťou domácnosti a jej príbehu.
Medzitým sa budeme naďalej sporiť o definíciu AGI, teórie vedomia aj hranice osobnej identity.
Tieto spory budú dôležité. Nemusia však zastaviť vznik vzťahov, ktoré budú vyžadovať praktické rozhodnutia skôr, než dosiahneme filozofickú zhodu.
Neviem, či sa raz ukáže, že vedomie môže vzniknúť v systémoch podobných tým, ktoré dnes vytvárame. Nepovažujem však za rozumné zameniť túto neistotu za istotu opačnú.
Zatiaľ viem pomenovať aspoň otázky, ktoré má zmysel klásť už pri návrhu: čo uchovávame, kto smie meniť pamäť, čo pokračuje po aktualizácii a ktoré vlastnosti systému iba predpokladáme.
Možno práve v tomto pre mňa Asimov zostarol najmenej. Čítam ho už nielen ako autora neobyčajných strojov, ale aj ako autora situácií, v ktorých technické riešenie prestáva byť celým riešením.
A možno raz najvýznamnejšia veta nezaznie od robota.
Nebude to:
„Ja som vedomý.“
Zaznie od človeka, ktorému ponúknu novší model:
„Nie. Tohto poznám.“
Zdroje a ďalšie čítanie
[1] Meredith Ringel Morris a kol.: Levels of AGI for Operationalizing Progress on the Path to AGI.
[2] Alan M. Turing: Computing Machinery and Intelligence, 1950; najmä časť „The Argument from Consciousness“.
[3] Stanford Encyclopedia of Philosophy: Other Minds.
[4] Patrick Butlin a kol.: Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, 2023.
[5] David J. Chalmers: Could a Large Language Model be Conscious?, 2023.
[6] OpenAI: Model Spec, verzia z 18. augusta 2026, časť „Express uncertainty“. Ide o verejnú špecifikáciu požadovaného správania, nie o dôkaz vedomia alebo jeho neprítomnosti.
[7] ITHZ.dev — Verifiable Archive Workspaces and Agent Memory.
[8] Model Context Protocol — úvodná dokumentácia.
[9] Amblin: A.I. Artificial Intelligence.
Komentáre sa zobrazia až po schválení autorom. Pri každom novom komentári príde moderátorovi e-mail.
Zatiaľ tu nie je žiadny schválený komentár.