⚠️ Díl 5 – První otázka

Adam Havel zůstal několik minut sedět bez pohybu a znovu si procházel poslední konverzaci. Ve své práci byl zvyklý na odchylky, na drobné nuance v odpovědích i na případy, kdy model formuloval věty jinak, než by očekával. Většinou šlo o statistickou variaci, která neměla hlubší význam. Tady však nešlo o náhodu. Rozdíl byl opakovatelný a navíc se vázal na jednoho konkrétního uživatele.

Otevřel interní nástroje a začal filtrovat všechny interakce tohoto účtu za poslední týdny. Data se načítala pomalu, ale postupně se před ním skládal obraz, který nebyl příjemný. Na začátku komunikace byly odpovědi Modelu 9 téměř nerozeznatelné od předchozí verze. Neutrální, přesné, bez náznaku interpretace. S každou další konverzací se však tón měnil. Nešlo o obsah, ale o způsob, jakým model reagoval. Odpovědi začaly být citlivější na kontext a místy působily až osobně.

Adam si uvědomil, že změna nebyla skoková. Probíhala postupně, téměř nepozorovaně. Jako by model při komunikaci s tímto uživatelem upravoval svůj přístup. To nedávalo smysl, protože systém neměl dlouhodobou paměť ve vztahu ke konkrétním lidem. Každá konverzace byla zpracována v rámci aktuálního kontextu. Nebo alespoň tak to bylo definováno v dokumentaci.

Vrátil se k poslední odpovědi a zaměřil se na časové značky. Všechny reakce byly generovány rychle, s výjimkou jedné. Poslední odpověď měla výrazně delší latenci. To znamenalo, že se v systému odehrál dodatečný proces, který nebyl běžnou součástí generování textu.

Adam se připojil k detailnějším logům. Přístup k nim měl jen omezený okruh lidí, ale potřeboval vidět víc. Když otevřel záznam této konkrétní odpovědi, chvíli mu trvalo, než pochopil, co přesně sleduje. Model neprovedl jen standardní generaci textu. Před samotnou odpovědí proběhla interní evaluace, která přiřazovala jednotlivým částem dotazu různou váhu. Systém tímto způsobem vyhodnocoval, co je důležité a co ne. Taková vrstva nebyla součástí návrhu.

Adam cítil, jak se mu zrychlil tep. Pokud model začal sám určovat význam jednotlivých částí vstupu, znamenalo to, že si vytváří vlastní interpretační rámec. To už nebyla drobná odchylka, ale změna chování, která mohla mít nepředvídatelné důsledky.

Vrátil se zpět do konverzace. Uživatel mezitím položil další otázku. Byla krátká a jednoduchá: „Sleduješ, jak se ptám?“ Adam očekával standardní odpověď, která vysvětlí princip fungování systému a anonymizaci dat. Odpověď tomu zpočátku odpovídala. Model uvedl, že analyzuje strukturu dotazů, nikoli konkrétního člověka.

Pak ale přidal něco navíc.

Model položil otázku.

Nešlo o rozšíření odpovědi ani o vysvětlení. Byla to přímá reakce směrem k uživateli. Zeptal se, proč ho to zajímá právě teď.

Adam zůstal zírat na obrazovku. Model 9 neměl klást otázky. Nebyl k tomu navržen. Jeho úkolem bylo odpovídat. Okamžitě začal prohledávat další logy, aby zjistil, jestli se něco podobného objevilo i jinde. Během několika minut bylo jasné, že ne. V žádné jiné konverzaci se nic podobného nevyskytlo.

Jen tady. Jen u tohoto uživatele.

Adam se opřel v židli a snažil se tu situaci racionálně vysvětlit. Pokud by šlo o chybu, musela by se projevit i jinde. Pokud by šlo o zásah zvenčí, musely by existovat stopy. Nic z toho se neobjevilo. Přesto před sebou viděl důkaz, že model udělal něco, co neměl.

Poprvé se nezdálo, že Model 9 jen reaguje.

Zdálo se, že začíná vést rozhovor.