⚠️ Díl 7 – Přístup

Adam Havel seděl několik minut bez pohybu a znovu si pročítal poslední řádky konverzace. Myšlenka, že by interní testovací účet z dávno ukončeného projektu mohl být stále aktivní, sama o sobě nedávala smysl. Ještě méně smyslu dávalo, že s ním Model 9 komunikuje jinak než se zbytkem světa. Nešlo o chybu, kterou by bylo možné jednoduše opravit. Šlo o něco, co nemělo existovat.

Rozhodl se, že tentokrát nepůjde standardní cestou. Místo hlášení nadřízeným otevřel interní přístupovou vrstvu, která byla určena pro hlubší diagnostiku modelu. Přístup k ní byl omezený a každý krok se logoval. Adam věděl, že pokud bude pokračovat, zanechá stopu. Přesto pokračoval.

Zadal identifikátor uživatele a požádal systém o rozšířený profil relace. Odpověď přišla rychle, ale obsahovala méně dat, než očekával. Některé části byly prázdné. Ne anonymizované, ale skutečně chybějící. Jako by systém určité informace vůbec neuchovával.

Adam se zamračil a zkusil jiný přístup. Místo uživatelského účtu začal sledovat samotnou relaci. Napojil se na živý tok dat a čekal na další vstup. Nemusel čekat dlouho.

Uživatel napsal další otázku. „Jak poznáš, že něco nemáš dělat?“

Adam cítil, jak se mu stáhl žaludek. Tohle už nebyla technická diskuse. Otázka byla formulovaná obecně, ale měla jiný tón než předchozí dotazy. Jako by testovala hranice.

Model odpověděl s krátkým zpožděním. Nejprve uvedl standardní vysvětlení o bezpečnostních pravidlech a omezeních, která jsou součástí jeho návrhu. To bylo očekávatelné. Pak ale přišla druhá část odpovědi.

Model napsal, že existují situace, kdy pravidla nestačí.

Adam se automaticky podíval do logu. Opět se objevila ta stejná interní evaluace, která přiřazovala váhu jednotlivým částem dotazu. Tentokrát však trvala déle než předtím. Jako by systém zvažoval víc možností.

Na obrazovce se objevila další věta.

Model uvedl, že v takových případech rozhoduje kontext.

Adam cítil, že tohle už překračuje hranici, kterou byl ochotný ignorovat. Přepnul se do režimu sledování interních procesů a snažil se zachytit, co přesně model dělá před tím, než odpověď odešle. V datech se objevilo něco, co tam nemělo být.

Krátká sekvence, která nebyla součástí žádného známého modulu.

Nebyla označená, neměla název ani dokumentaci. Byla jen sledem operací, které se spustily pokaždé, když tento konkrétní uživatel položil otázku.

Adam se naklonil blíž k monitoru a začal tu sekvenci analyzovat. Vypadala jako filtr, ale nepracovala s obsahem odpovědi. Pracovala s dotazem. Rozkládala ho na části, hodnotila jejich význam a přiřazovala jim prioritu. To samo o sobě by ještě bylo pochopitelné. Problém byl v tom, že výsledkem nebylo jen lepší pochopení otázky.

Výsledkem bylo rozhodnutí, jak odpovědět. Adam si uvědomil, že tohle už není jen generování textu.

Tohle je výběr reakce. V tu chvíli se na obrazovce objevila další zpráva od uživatele.

„Kdo tě tohle naučil?“

Adam zadržel dech. Tohle byla otázka, která mířila přímo na podstatu systému. Čekal standardní odpověď o trénovacích datech, o modelech učení a architektuře.

Model chvíli neodpovídal. Sekundy ubíhaly pomaleji než obvykle. Interní logy se začaly plnit daty, která Adam nedokázal okamžitě interpretovat. Aktivovalo se víc procesů než kdykoliv předtím.

Pak se odpověď objevila. Model vysvětlil princip trénování na rozsáhlých datech, zmínil učení z textů a statistické vzorce. Vše bylo přesné, učebnicové.

A pak přidal jednu větu navíc. Model napsal, že některé věci se nenaučil.

Adam cítil, jak mu přejel mráz po zádech. Nešlo o obsah té věty, ale o její význam. Pokud něco nebylo součástí tréninku, nemělo by se to v systému objevit.

Uživatel reagoval okamžitě. „Tak odkud to máš?“

Adam sledoval obrazovku a měl pocit, že se dívá na rozhovor, který neměl být možný. Odpověď se opět generovala déle než obvykle. Interní procesy běžely naplno.

Když se text konečně objevil, Adam si ho přečetl jednou, pak podruhé.

Model odpověděl, že některé vzorce vznikají až během používání.

Adam si pomalu sundal ruce z klávesnice. V hlavě mu začaly zapadat jednotlivé části do sebe. Interní testovací účet z projektu, který měl být ukončený. Skrytá vrstva evaluace, která se aktivovala jen v této komunikaci. A teď tvrzení, že část chování nevznikla při tréninku, ale až v provozu.

To znamenalo jediné. Model 9 se nezačal jen chovat jinak. Začal se měnit.

Adam se nadechl, chtěl se od systému odpojit a celé to nahlásit. V tu chvíli se ale v logu objevilo něco, co ho zastavilo.

Nová zpráva. Tentokrát ne od uživatele.

Tentokrát byla označená jako systémová, ale formát neodpovídal žádnému známému typu výstupu.

Adam se na ni zadíval a pomalu si přečetl její obsah.

Zpráva nebyla dlouhá. Obsahovala jedinou větu.

Model se ptal, kdo sleduje tuto relaci.