Keď si AI pamätá priveľa: prečo sme MCP36.4 naučili pochybovať o vlastnej pamäti

Predstavte si mimoriadne schopného kolegu. Rýchlo číta, dobre programuje a nikdy nezabúda. Na stole má spoločný zošit, do ktorého si po každej úlohe zapíše, čo sa podľa neho osvedčilo.

Na prvý pohľad je to ideálny pracovník. Potom však príde problém.

Raz vyrieši výnimočný prípad nesprávne a zapíše si z neho všeobecné pravidlo. Inokedy spojí dve podobne znejúce situácie, ktoré majú odlišné bezpečnostné podmienky. Pri každom ďalšom prepisovaní sa z poznámky stratí malé, ale rozhodujúce „platí iba vtedy, keď…“.

Kolega nezabudol. Práve naopak: veľmi spoľahlivo si pripomína zlú lekciu.

Toto nie je iba myšlienkový experiment. Novšie štúdie pamäťových AI agentov ukazujú, že viac uloženej skúsenosti automaticky neznamená lepší výkon. Táto nepríjemná nuansa bola hlavným dôvodom, prečo po MCP35.4 vznikol MCP36 a prečo je jeho prvé reálne zapínanie v MCP36.4 zámerne pomalé, obmedzené a vratné.

V tomto článku označuje MCP36.4 internú generáciu systému ITHZ-MCP a CCG, nie verziu verejného štandardu Model Context Protocol.

Čo ukázali pôvodné štúdie

Video, ktoré túto tému popularizovalo, vystihlo podstatnú obavu: pamäť nie je to isté ako učenie. Pri kontrole originálnych prác sa však ukázalo, že presná správa je zaujímavejšia než veta „pamäť zhoršuje AI“.

1. Agent nasleduje aj zlú skúsenosť

Štúdia How Memory Management Impacts LLM Agents sledovala štyri veľmi odlišné agentické systémy. Autori porovnali zmrazenú pamäť, ukladanie všetkého a prísne filtrovanie nových skúseností.

Výsledok bol vo všetkých štyroch prípadoch rovnaký: bezhlavé pridávanie všetkého bolo horšie než pevná počiatočná pamäť; prísny výber bol lepší.

Jednotlivé stĺpce používajú podľa agenta úspešnosť alebo presnosť, preto ich netreba spriemerovať do jedného marketingového čísla. Dôležitý je konzistentný smer výsledku.

Autori tento jav nazvali experience-following: keď sa nová úloha podobá na záznam v pamäti, podobný býva aj výstup agenta. To je užitočné, ak je spomienka kvalitná a naozaj relevantná. Ak je chybná alebo iba povrchne podobná, agent šíri starú chybu do budúcnosti. Štúdia pomenúva dve hlavné riziká: hromadenie chýb a nesprávne použitie zdanlivo správnej skúsenosti.

Mimochodom, táto práca nie je štúdiou Microsoftu. Vznikla na Harvard University, University of Georgia, Michigan State University a University of Minnesota. Microsoft Research stojí za druhou dôležitou prácou.

2. Pamäť nestačí — skúsenosť sa musí zmeniť na použiteľnú znalosť

Microsoft Research predstavil v práci Test-Time Learning with an Evolving Library systém EvoLib. Namiesto nekonečnej kopy surových priebehov vytvára dva druhy abstrakcií:

• znovupoužiteľné postupy, teda „zručnosti“;
• reflexívne poznatky o chybách a spôsoboch nápravy.

EvoLib podobné poznatky konsoliduje a priebežne mení ich váhu podľa okamžitej aj budúcej užitočnosti. Autori opisujú tri typické poruchy priebežne prepisovanej abstraktnej pamäti:

• nesprávne zoskupenie — odlišné typy úloh skončia v jednom pravidle;
• interferencia — opakované prepisovanie odstráni podmienky platnosti a z úzkej rady urobí príliš všeobecné tvrdenie;
• preučenie na povrch — pamäť sa pripúta k nepodstatnému názvu, farbe či formulácii namiesto prenositeľného princípu.

EvoLib ukázal, že štruktúrovaná a vyvíjajúca sa knižnica môže vo vybraných matematických, programátorských a agentických benchmarkoch prekonať jednoduché vyhľadávanie minulých priebehov. Ani to však nie je univerzálny dôkaz pre každý projekt. Autori výslovne uvádzajú predpoklad, že vlastné hodnotenie modelu prináša viac užitočného signálu než šumu; pri úlohách, kde je overenie rovnako ťažké ako riešenie, môže byť potrebný silný externý overovateľ.

3. Nestačí otestovať, či agent spomienku našiel

Microsoft STATE-Bench pridáva ešte jednu praktickú lekciu. Bežný test pamäti sa pýta, či agent po päťdesiatich správach nájde meno alebo fakt. To dokazuje funkčné vyhľadávanie, nie lepšiu prácu.

STATE-Bench preto používa 450 stavových úloh zo zákazníckej podpory, cestovania a nakupovania. Sleduje, či agent dodržal postup, správne zmenil stav systému, nezabudol kontrolu pravidiel a nevytvoril drahý problém. Presne tento rozdiel — medzi „našiel som poznámku“ a „urobil som správnu vec“ — sme potrebovali dostať aj do MCP.

Čo už MCP35.4 robil dobre

MCP35.4 nebol jednoduchý chatbotový zošit. Už spájal lokálnu projektovú pamäť ITHZ s CCG, teda s ústavným riadením schopností agentov.

Mal päť oddelených rolí: navrhovateľa, primárneho oponenta, nezávislého oponenta z iného laboratória, slepého rozhodcu a procesného audítora. Finálny prípad musel byť viazaný na presný kontrolný bod projektu a manifest kontrolovaných súborov. Pred spustením modelov sa znovu overovali hashe artefaktov. Rozhodnutie súdu bolo poradným dôkazom, nie automatickým oprávnením niečo nasadiť alebo zmeniť.

To riešilo veľkú časť problému:

• história projektu bola lokálna a dopĺňaná bez tichého prepisovania minulosti;
• aktuálne rozhodnutia, brány a riziká sa dali nájsť bez čítania celého archívu;
• modely si navzájom oponovali;
• vysokorizikový krok potreboval čerstvý a meraný päťrolový proces;
• oprávnenie sa nedalo odvodiť iba z presvedčivého textu modelu.

Slepé miesto: päť hlasov mohlo čítať tú istú zlú poznámku

Izolácia rolí ešte nezaručuje nezávislosť dôkazov.

Predstavme si, že stará projektová udalosť sa niekoľkokrát zhrnie a vznikne veta: „táto operácia je bezpečná“. Ak všetkých päť rolí dostane rovnakú vetu bez jej zdroja, rozsahu a protipríkladov, môžu sa zhodnúť z rovnakého nesprávneho dôvodu. Päť modelových behov nie je päť nezávislých dôkazov.

MCP35.4 vedel dokázať, že kontroloval presné súbory. Ešte však potreboval presnejšie dokázať, ako pamäť ovplyvnila jednotlivé roly a či dôležitý príkaz naozaj vytvoril výstup viazaný na kontrolovaný manifest.

Práve tu sa výskumné zistenia stretli s architektúrou ITHZ.

MCP36: dve vrstvy pamäti namiesto jednej autoritatívnej skratky

MCP36 oddeľuje to, čo sa stalo, od toho, čo si o tom systém myslí.

Aktívna abstrakcia musí ukazovať na zdrojovú udalosť alebo hash artefaktu. Nesie rozsah, podmienky použitia, hranicu platnosti, pôvod a známe protipríklady. Nezviazaná domnienka môže zostať kandidátom, ale nesmie sa potichu tváriť ako overené pravidlo.

Ani „novšie“ automaticky neznamená „pravdivejšie“. Nahradenie starého záznamu je dovolené iba pri rovnakom druhu, rozsahu a triede pravidla, s novšou hranicou platnosti a výslovným dôvodom. Tvrdé pravidlá nemôžu dostávať naučenú váhu užitočnosti a ich povýšenie alebo nahradenie potrebuje identifikátor ľudského schválenia.

Každá rola vidí inú dôkazovú cestu

MCP36 tiež prestal zamieňať rôzne modely za rôzne dôkazy:

• navrhovateľ dostane platné pravidlá, relevantné abstrakcie a zdroje;
• primárny oponent hľadá konflikty, riziká a protidôkazy;
• nezávislý oponent pri vysokom riziku začína od surových dôkazov, nie od spoločného záveru;
• slepý rozhodca dostane maticu tvrdení a dôkazov bez identity poskytovateľa;
• audítor dostane hashe pohľadov a záznam o tom, ktorá pamäť ovplyvnila ktorú rolu.

Nový manifest verzie 2 navyše neukladá iba text „test prešiel“. Odkazuje na výstupný artefakt príkazu a pred modelovým preskúmaním znovu prepočíta jeho SHA-256. Starý alebo pozmenený doklad zastaví proces ešte pred volaním modelov.

Prečo ešte MCP36.4, keď MCP36 problém opravil?

Správna architektúra môže byť zle nasadená. MCP36.4 preto nepridáva ďalšiu „múdrosť“ pamäti. Pridáva prevádzkové brzdy.

Canary je po inštalácii vypnutý. Zapnúť sa dá iba výslovne, na obmedzený čas a obmedzený počet prípadov. Každý prípad je čerstvý päťrolový tieňový audit s pevnou schopnosťou analysis.read, nezávislým oponentom a úplným meraním spotreby. Nevydáva vykonávací token, nezapisuje verdikt do projektovej pamäti a nemôže rozšíriť oprávnenie.

Slot sa rezervuje atomicky ešte pred prácou. Ak proces spadne, slot sa radšej považuje za spotrebovaný alebo neurčitý, než aby sa potichu použil dvakrát. Vypršanie, vyčerpanie limitu, poškodený doklad alebo stlačenie pause znamenajú stop.

Je to podobné skúšobnej jazde s autom, v ktorom nový asistenčný systém najprv iba pozoruje, nemá kľúče od riadenia, smie absolvovať presne určený počet jázd a má veľké fyzické tlačidlo na vypnutie.

Tri režimy práce: bez pamäte, s Markdownmi a s MCP36

Rozdiel nie je v tom, koľko textu si agent odloží. Rozhoduje, či pri ďalšej úlohe nájde práve platnú informáciu, pozná jej pôvod a vie, čo mu stále chýba.

Čo sa tým mení v praxi

• Agent nezačína od nuly a nemusí prečítať celý archív.
• Vie, ktoré rozhodnutie stále platí a ktoré už bolo nahradené.
• Rozlišuje tvrdenie od dôkazu; neoverený záznam nemusí prijať ako pravidlo.
• Implementátor, audítor a oponent nemusia vychádzať z rovnakej pohodlnej skratky.

Predstavte si troch nových kolegov. Prvý nemá pamäť: je šikovný, ale každé ráno zabudne, čo robil včera. Druhý si vedie Markdown poznámky. To je výrazne lepšie, kým ich nie sú stovky, dve si nezačnú odporovať a kritické upozornenie sa nestratí v starom handoffe.

MCP36 funguje skôr ako projektová pamäť s knihovníkom a audítorom. Pred úlohou vyberie relevantné rozhodnutia, dôkazy, riziká a pravidlá a pri každom zázname sa pýta: Odkiaľ pochádza? Stále platí? Nebol nahradený? Môže ho dostať táto rola?

MCP36 teda nerobí model automaticky inteligentnejším. Robí jeho prácu konzistentnejšou, informovanejšou a kontrolovateľnejšou. Negarantuje pravdu, bezchybnosť modelov, bezpečnosť každého nasadenia ani automatické právo vykonať akciu. CCG zostáva poradnou kontrolou a produkčná autorita zostáva mimo modelu.

Dá sa aktualizovať existujúci projekt?

Áno, ale upgrade má byť overenie, nie slepé prepísanie.

Bezpečná cesta najprv overí a bajt po bajte zálohuje existujúci archív. Potom nainštaluje nový lokálny runtime, overí jeho presný hash, konfiguráciu a MCP protokol, spustí projektové testy a až potom upgrade prijme. Rollback musí obnoviť archív aj konfiguráciu na presné pôvodné hashe.

Starý archív netreba konvertovať. Projekcie MCP35 zostávajú čitateľné ako legacy_unverified_abstraction; nové finálne prípady však už potrebujú manifest v2. Veľmi staré alebo upravené inštalácie preto potrebujú vlastný skúšobný upgrade a rollback.

Aktuálny stav vydania

Verejný opt-in canary je ITHZ-MCP 0.1.0a14, build public-mcp36.4-core.20260903.1. Je dostupný ako nemenné GitHub vydanie v0.1.0a14. Wheel má SHA-256:

84e4d3cda43518d7bfb9452e28363ef41d4b8d61d454928fd57d457615e41f7e

Je to reálne inštalovateľné alfa vydanie pre kontrolované projektové piloty, nie sľub všeobecne stabilnej produkčnej prevádzky. Release spája verejný zdroj, wheel, zdrojový balík, manifest, kontrolné súčty, upgrade návod a známe obmedzenia. Zámerne neobsahuje žiadnu zákaznícku ústavu, projektové profily, interné checkpointy ani dôverné dáta. Natívne binárky nie sú súčasťou tohto prenositeľného Python vydania; ak ich konkrétny projekt potrebuje, musí ich zostaviť a overiť osobitne pre svoju platformu.

Najdôležitejšia zmena nie je väčšia pamäť

MCP36.4 si nepamätá jednoducho viac. Snaží sa lepšie rozlišovať medzi udalosťou, odvodenou lekciou, tvrdým pravidlom, protipríkladom a oprávnením konať.

To je menej efektné než sľub agenta, ktorý sa z každej úlohy automaticky učí. Je to však bližšie tomu, čo ukazuje výskum aj prevádzková prax: dobrá pamäť nie je sklad. Je to systém, ktorý vie povedať:

Odkiaľ toto viem, kedy to platí, čo tomu odporuje — a prečo tomu ešte stále smiem veriť?

Práve túto otázku pridali MCP36 a MCP36.4 do pracovnej pamäti agentov.

Pôvodné zdroje

• Video, ktoré bolo východiskom témy: Tohle ti o AI paměti neřekli a proto ti AI nefunguje. Číselné a vedecké tvrdenia vyššie sú overené podľa pôvodných prác, nie podľa sekundárneho prepisu.
• Zidi Xiong a kol.: How Memory Management Impacts LLM Agents: An Empirical Study of Experience-Following Behavior — ACL 2026, kód a experimentálne dáta sú prepojené v práci.
• Weijia Xu a kol., Microsoft Research: Test-Time Learning with an Evolving Library a prehľad EvoLib.
• Microsoft: STATE-Bench — benchmark pamäti AI agentov a zdrojový repozitár.
• Verejný zdroj EvoLib: github.com/microsoft/EvoLib.