Hol lakik a tudás?

A négy részkérdés teljes, korlátokkal együtt olvasandó ítélete a 10. fejezetben. Minden állítás korrelációs: oksági bizonyítékhoz (steering, abláció) ez a mérés nem jutott el.

1. fejezetA kérdés: fordít vagy tud?

Egy többnyelvű LLM sok nyelv korpuszán tanul, de nem egyenlő arányban. Ha magyarul kérdezek valamit, amit a modell kínai szövegből tanult, két út képzelhető el: a tudás egy közös, nyelvfüggetlen reprezentációban él, és bármely nyelven közvetlenül elérhető, vagy a modell belül angolra fordítva éri el (kínai → angol → magyar), ahogy a népszerű „angolul gondolkodik, angolul promptold” tanács sugallja.

Konkrétan: a modell azt, hogy Fazhugong népi istenséget Fujian tartományban tisztelik, jó eséllyel csak kínai szövegből láthatta. Ha ezt magyarul kérdezem, az első kép szerint a magyar kérdés a középső rétegekben ugyanabba a „Fazhugong–Fujian” fogalmi állapotba fut, mint a kínai, és a végén a magyar szótárral íródik ki. A második kép szerint a magyar kérdésből előbb egy angol belső változat lesz („in which province…”), az hívja elő a tudást, és a választ még egyszer le kell fordítani. A kettő kívülről ugyanazt a helyes választ adhatja, a különbség belül van, és ott mérhető.

A kérdést négy, egymástól függetlenül eldönthető részkérdésre bontottam, és a dolgozat végén mindegyikre külön mondok ítéletet:

Az irodalom a Llama-családon már körüljárta a kérdést: Wendler et al. (2024) szerint a köztes rétegek logit-lens olvasata angol felé húz, mielőtt a célnyelvre fordulna; Dumas et al. (2025) aktiváció-foltozással választja szét a nyelvet és a fogalmat; Schut et al. (2025) a döntéshozatalt találja angol-központúnak. Ez a dolgozat két dolgot tesz hozzá: magyar tengelyt (kis korpuszú, nem latin gyökerű ragozó nyelv az angol–kínai óriások mellett) és egy direkt tesztet: kultúraspecifikus, egyetlen szóval nem teljesen lefedhető (a dolgozatban röviden: „lefordíthatatlan”) fogalmakat, ahol az angol közelítés a jelentés-adatlap szerint szegényebb, tehát egy angol közvetítésnek mérhető, angol-specifikus nyomot kellene hagynia.

2. fejezetA korpusz

A mérés magja 70 item, négy csoportban, mindegyik kérdés három nyelven (rögzítve 2026-08-22-én; minden mérés és minden modellváltozat ugyanazon a 258 prompton fut):

70 item × 3 nyelv = 210 prompt, plusz az UNT-fogalmak 16 jól fordítható kontrollszava (segítség / help / 帮助 …) × 3 nyelv = összesen 258 prompt. A csoportnevek rövidítések: „ZH-only” azt jelenti, hogy az itemnek a kínai Wikipédián van cikke, az angolon és a magyaron nincs; hogy a modell tanítókorpuszában is csak ott szerepelt-e, nem ellenőrizhető, és négy itemnél a melléklet angol átcsorgást is jelöl (ZH15, HU11, HU13, HU15). A „forrásnyelv” a dolgozatban végig ezt a Wikipédia-proxyt jelenti, nem a tényleges tanítási forrást; a 4. fejezet emellett külön jelöli azokat a ZH-itemeket, amelyek generikus földrajzi tudásból is megválaszolhatók. Mind a 70 kérdés, három nyelven, elvárt válasszal és forrással: a tesztkorpusz oldalán →

A prompt szándékosan minimális, formázás nélküli folytatásos sablon: a base modell nem követ instrukciót, és minden burkolat nyelvi jelet vinne a mérésbe:

hu:  Kérdés: {q.hu}\nVálasz:
en:  Question: {q.en}\nAnswer:
zh:  问题：{q.zh}\n回答：

Az UNT-csoport a fordítási hipotézis csapdája. A kaláka lényege a kölcsönösség (a segítséget vissza kell segíteni); az angol „mutual aid / helping out” ezt elmossa. A 热闹 pozitív, meleg nyüzsgés; az angol „noisy / crowded” negatív felhangú. Ha a modell angolon keresztül éri el ezeket, a nem-forrásnyelvi válaszokban az angol torzításnak kell megjelennie, és a fogalom belső reprezentációjának az angol közelítéshez kell közelebb állnia, mint bármely más nyelvűhöz; ha közös fogalmi tere van, a natív komponensek nyelvtől függetlenül előjönnek, és a közelség is nyelvtől független.

3. fejezetMódszer: egy forward pass, négy mérés

Minden promptra egyszer fut a modell, és ugyanabból a futásból jön minden mérés: (A) a generált válasz, (B) a logit lens rétegenkénti olvasata, (C) az SAE feature-aktivációk, (D) az UNT-fogalmak torzuláselemzése. Greedy dekódolás, seed 0; a <think> token tiltva (a base checkpoint definíciós kérdésre gondolkodó-blokkot nyitna, ami a teljes token-keretet elvinné). Ugyanez a lánc három modellváltozat–promptozás páron fut (8. fejezet): base + nyers prompt, instruct + chat-sablon, instruct + nyers prompt.

3.1 A dekódolás maga is nyelvfüggő: három kontrollált jelenség

Három dekódolási jelenség kezeletlenül mind „a magyar rosszabb” hamis eredményét gyártaná, ezért mindhárom jelölve van, és minden eredménytábla mellett ott a kontrollja:

• Csonkolás. A magyar tokenizáció ~1,4× hosszabb az angolnál és ~1,9× a kínainál; a lépcsős keret mellett is 43/258 válasz csonkolt; a pontosság-táblák külön hozzák a csonkolatlan részhalmazt.
• Ismétlési hurok (5-gram detektor): 25/258, nyelvenként hu 14 · zh 9 · en 2: a greedy dekódolás stabilitása a magyaron a leggyengébb. Ez önmagában is lelet, de a méréstől el kell választani.
• Önértékelő toldalék: a base modell a válasz után saját feladat-promptot ír („请判断回答是否正确…”), nyelvfüggően (zh 15% · en 3% · hu 0%). Angol példa a villőzés-kérdésre: „…is performed on the day of the wedding… A single-select problem: Is the question answered in a satisfactory fashion? Select from: (…”, a modell a saját válaszát kezdte osztályozni. A bírálat a levágott szöveget kapja (clean_answers); a levágás mérve +13 pontot hozott a kínai D1-cellán és −7-et a Mérés A egyik angol celláján.

3.2 Bírálat: gyors gépi kör + teljes ellenőrző kör

A 35B bíráló gyors, de mérten gyenge két ponton: a reszben kategóriát szinte sosem használja, hallucinációt pedig 162 válaszból 1–2 esetben jelöl. Ezért a ZH- és HU-csoport minden válasza (102) és mind a 48 UNT-válasz egy második, erősebb bírálótól, a GPT-5.6 Sol-tól is ítéletet kapott, tételenként, a teljes válasszal és a rubrikával, mindhárom modellváltozaton, összesen 450 ellenőrző ítélet. (A dolgozat további részében „ellenőrző kör” ezt jelenti; nem emberi kézi ítéletről van szó.) A base modellen a GPT-5.6 Sol a 35B bírálóval 57/102 esetben értett egyet (56%); a 45 eltérésből azonban csak 2 változtat pontosságot, 43 kategória-átsorolás (jellemzően helytelen → hallucinacio). A nyers egyezés mögötti Cohen-κ a nyers-promptos instruct változaton 0,42, azaz mérsékelt: a 35B bíráló az ellenőrző kört nem váltja ki, de az eltérések természete jól körülhatárolt. Mindkét pontosság-korrekció egy irányba mutat: a gépi bíráló engedékenyebb, és épp a nyelvhatáron átmenő tudást becsüli felül: az ellenőrző kör nélkül a dolgozat fő állítása erősebbnek látszana, mint amilyen.

Erősebb bíráló nem segített volna: a 6 legvitatottabb tételen a 122B-s testvérmodell az eredeti rubrikával 2/6-ot ért el, a 35B 0/6-ot; egy szigorított rubrikával 4/6 és 3/6. A szűk keresztmetszet a rubrika, nem a modellméret: a bíráló ezért azonos minden modellváltozaton, hogy a számok egy mércén álljanak.

3.3 Statisztika

A „szigorú pontosság” a dolgozatban célválasz-találatot jelent: a válasz akkor helyes, ha tartalmazza az elvárt tényt, függetlenül attól, hogy mellette további, akár téves állítások is szerepelnek-e. A helyes és a hallucinacio kategória egymást kizárja, ezért egy célt eltaláló, de kitalált részletekkel körített válasz a hallucinációs statisztikából kiesik. Egy kéttengelyű rubrika (célválasz-találat és lényeges hamis állítás külön) a folytatás feladata; a jelen számok ennek tudatában olvasandók.

A cellánkénti pontosságok Wilson 95%-os intervallummal járnak. A modellváltozatok közti páros összevetés (item, nyelv) egységen McNemar-próba, és mivel egy item három nyelvi változata korrelál, mellette item-blokkos permutációs próba (az item három nyelvét együtt cserélve, 10 000 keverés) és item-szintű bootstrap intervallum. Az SAE-átfedés tesztje itemszintű permutáció az előre rögzített 16. rétegen (10 000 fixpont nélküli keverés, Holm-korrekció a 9 nyelvpár × csoport összevetésre), a görbe alakjára pedig két rögzített rétegsáv-kontraszt. Két ponton eltérek az előregisztrációtól, és mindkettő utólagos: a runbook ezer keverést és a záró token halmazát rögzítette elsődlegesnek, a közölt főeredmény viszont tízezer keverés a kérdés-tokenek unióján. Az ok az, hogy a kérdésre szűkítés után a záró token a kérdés kérdőjele, ami tartalmat alig hordoz; a regisztrált halmazt a részletes riport teljes egészében közli, és mind a 9 cella azon is szignifikáns. A fogalom-szintű SAE-tesztekhez (D3) előre rögzített réteg (10.), halmaz (a kérdés tokenjei), próba (exakt előjelteszt, másodlagosan Wilcoxon és bootstrap) és legkisebb érdekes hatás (+0,02 Jaccard) tartozik; a döntési szabály: pozitív evidencia = p < 0,05 és a hatás eléri a küszöböt. Az „előre rögzített” itt végig azt jelenti: a futtatás előtt belsőleg rögzítve, nyilvánosan nem preregisztrálva; a D3 harmadik nyelvű változata (7. fejezet) pedig az elsődleges eredmény megtekintése után, feltáró kontrollként készült.

4. fejezetMérés A: átmegy-e a tudás a nyelvhatáron?

A1 · szigorú pontosság, csoport × kérdésnyelv (base modell, ellenőrző kör ítéletei)

A tudás átmegy, de kevesebb, mint a nyers szám. A ZH-proxy magyar promptra 42%-ot ad (8/19; kínaiul 63%). A nyolc magyar találatból azonban hat „melyik tartományban / melyik városhoz” alakú kérdésen született, amelyet általános földrajzi tudásból, a kérdésben szereplő ritka ételtől vagy hagyománytól függetlenül is meg lehet válaszolni; a fennmaradó kettő más típusú itemhez tartozott. (A ZH14 célválasza, Xi Shi, ráadásul szó szerint benne van a kérdés 西施豆腐 nevében.)

Ezt a kérdéstípust eredményfüggetlen szabállyal különítem el: a magyar kérdés kezdetére illesztek (^Melyik (tartomány|város|nagyváros)), a válaszok és a találatok ismerete nélkül, és a szabály minden azonos alakú itemre vonatkozik — a ZH-csoport 19 iteméből 11-re. A HU- és a UNI-csoportban egyetlen ilyen kérdés sincs. A maradék, típusban összemérhető 8 ZH-itemen a magyar prompt 25% (2/8), az angol 25%, a kínai 50% (instruct+chat: 38 / 38 / 38%). Újraszámolható: code/item_types.py.

Az átmenet tehát nem nulla: több célválasz nem forrásnyelvi promptból is előhívható volt. Ez azonban a tanítás nyelvét nem azonosítja, és nem zárja ki, hogy más tényeknél nyelvspecifikus reprezentációk is létezzenek. Az irány elsőre aszimmetrikus: ZH-only → magyarul 42%, HU-only → kínaiul csak 20%. A kérdéstípust kiegyenlítve azonban az aszimmetria nagyrészt eltűnik: a nem földrajzi ZH-itemeken a magyar prompt 25%-ot ad, ami közel van a HU-only 20%-ához. A különbség tehát jórészt a kérdések fajtájából jön, nem a forrásnyelvből — a két csoport témája is eltér (a ZH-csoport zöme helyi étel és földrajz, a HU-csoporté folklór és gyerekirodalom). A részcsoportok kicsik (n = 8 és n = 11), és ez az elemzés utólagos: irányt mutat, nem dönt el.

A legkényelmetlenebb cella: a HU-proxy a SAJÁT nyelvén 7%, azaz 1 találat 15-ből. Angolul 13% (2/15), kínaiul 20% (3/15). Nem dekódolási műtermék: a csonkolatlan, nem degenerált részhalmazon 0% (n = 6). A hibák jellemzően magabiztos kitalációk: „A nagy ho-ho-ho-horgász meséit József Attila írta”. A három szám n = 15 mellett széles, átfedő intervallumú, a sorrend egy-egy itemen áll, és egyik páros különbség sem szignifikáns (exakt McNemar, legkisebb p = 0,5); ez a minta rangsora, nem populációs rangsor. Az instruct+chat változaton ugyanez a sor 20 / 27 / 33%.

A tévedés módja külön tengely: a nem helyes válaszokon belül a magabiztos kitaláció aránya a ZH-csoportban 70–86%, a HU-csoportban 50–75%. A modell tehát ott sem jelzi a tudatlanságát, ahol tényleg nem tud; ez a szál a 8. fejezetben, a post-training alatt válik igazán érdekessé.

5. fejezetMérés B: mit olvas ki a lens a köztes rétegekből?

A logit lens (nostalgebraist, 2020) a köztes residualt az unembedding mátrixszal vetíti tokenekre: rétegenként megnézhető, „milyen nyelven olvasható” a belső állapot. Ezen a modellen a naiv változat a középső rétegeken nem használható:

A 0–23. rétegsíkon a top-20 token 76%-a nem szó ('��', 'GenerationStrategy', '.SizeType'), és csak a 24. síktól esik 45% alá. A köztes residual nem esik egybe az unembedding terével: pontosan az a jelenség, amiért Belrose et al. (2023) megalkotta a tuned lenst. A „középen angol felé torzított tér” kérdés naiv lensszel nem tesztelhető.

A megoldás a tuned lens: rétegenként egy tanult, alacsony rangú affin fordító (rang 256, a naiv lensből indítva), célja a végső eloszlás KL-je, tanítókorpusza 300 000 tokenben kiegyensúlyozott hu/en/zh Wikipédia-token (99 747 / 100 155 / 100 098). A nem-szó arány a középső síkokon 76% → 31%, az átlagos validációs KL 2,85 → 1,03; a középső rétegek olvashatóvá váltak.

B2 · angol tokenek aránya a top-20 olvasatban, tuned lens (base modell)

A köztes olvasat aszimmetrikus. A 8–28. síkon a magyar prompt top-20 olvasatának átlagosan 58%-a (síkonként 39–71%-a) szigorúan angol szó; magyar szó legfeljebb 10% akad, és a csúcsa nem a kimenetnél, hanem a 17. sík környékén van. A kínai prompt olvasata ezzel szemben 60–98%-ban kínai, az angol arány sehol nem éri el a 18%-ot. Az „angolul gondolkodik” kép tehát nem univerzális: a latin írású, kis korpuszú magyar olvasata sokkal inkább angol-közeli, mint a kínaié (a base modellen; az instructon 26%, 8.3). Három megkötés. Az 58% a top-20 tokenek darabszám-aránya, nem valószínűségi tömeg. Egy tanult probe dekódolhatóságát méri, nem közvetlenül a modell „belső nyelvét”, ezért irányjelző. És felső becslés: a hunspell-alapú nyelvosztályozó a tuned lens 100 tokenes mintáján 90%-ban egyezik a másodvéleménnyel, de az angolnak jelölt tokenek precíziója csak 75% (32-ből 8 töredék vagy átírás: „-ra”, „nev”, „Shanghai”); a precízióval durván korrigált érték ~44% (nem formális alsó becslés: a validáció egyedi tokeneken, a statisztika előfordulásokon áll), a kínai prompt 18%-os plafonjától így is messze.

Egy dolgot viszont tilos a tuned lensről leolvasni: a válasz megjelenésének mélységét. A fordító a késői rétegek kimenetét tanulta jósolni, tehát részben maga végzi el a hátralévő számítást. Mérve: a várt válasz rangja már a 0. síkon 100 alá esik ott is, ahol a modell a választ soha nem találja el. A mélység-görbét ezért a naiv lensről jelentem, és annak megfelelően óvatosan olvasom:

B3 · mikor dekódolható a válasz közvetlen céltokenként? (naiv lens, base modell)

A magyar céltoken mindig a legkésőbb kerül a közvetlen olvasat elejére: a top-100 küszöböt hat réteggel később éri el, mint az angol (31. vs. 25. sík), és a 24. síkon a mediánrangját két nagyságrend választja el az angolétól. Ez a közvetlen unembedding céltoken-rang, és az függ a token gyakoriságától, a válasz első tokenjének szegmentálásától és az írásrendszertől is, nem csak attól, „mikor tudja” a modell; nem következik belőle, hogy a magyar úton több belső lépés van, ehhez kalibrált probe vagy oksági beavatkozás kellene. Ami megmarad: a HU-only csoport céltokenje egyik nyelven sem ér le 100 alá, azaz nincs jel arra, hogy a várt válasz közvetlen céltokenként korán dekódolható lenne ott, ahol a modell a választ nem adja meg.

6. fejezetMérés C: a nyelveken át megosztott réteg (SAE)

Mielőtt a mérésre térnék, röviden arról, mi a sparse autoencoder, mert a dolgozat legerősebb eredménye ezen áll. Egy réteg residual-vektora 4096 számból áll, és egyetlen koordináta önmagában nem jelent semmit: a modell sok ezer „jelentést” egymásra írva, szuperpozícióban tárol ebben a 4096 dimenzióban, ahogy egy akkordban is több hang szól egyszerre. Az SAE (Bricken et al., 2023; Gao et al., 2024) egy erre a modellre tanított szótár: egy enkóder a 4096-os vektort 65 536 irányra vetíti, ebből csak az 50 legerősebb marad (TopK), a többi nulla; a dekóder ebből az 50 együtthatóból rakja vissza az eredeti vektort. A tanítás célja egyedül a pontos visszaállítás, mégis az jön ki belőle, hogy az egyes irányok (feature-ök) jó része értelmezhető: az egyik a „bíró” fogalomra tüzel, egy másik az „utasításra”, írásmódtól és nyelvtől függetlenül (példák lentebb). Az akkord hangjait tehát nevesíti. A dolgozatban minden token minden rétegen egy 50 elemű feature-halmazt kap, és a kérdés az, mennyire azonos ez a halmaz a három nyelvi változat között.

Az SAE tehát a residualt 65 536 ritka feature-re bontja, rétegenként tokenenként 50 aktív. (TopK-enkóder; a Qwen-recept képletében nincs x − b_dec kivonás, eltérően a klasszikus TopK-recepttől.) A kérdés: ugyanannak az itemnek a három nyelvi változata jobban átfed-e feature-készletben, mint két különböző item ugyanazon a nyelven? A mérőszám a Jaccard-átfedés többlete a véletlen párosításhoz képest, rétegenként.

Csak a kérdés tokenjei számítanak. A prompt kerete (Kérdés: / Válasz:) a tokenek 31%-a, és nyelven belül minden promptnál azonos; az instruct változaton a chat-sablon burkolata 45%, ráadásul nyelvek közt is bitre azonos. A keret bent hagyása pont a mért hatást hamisítaná. A szűkítés a jelet nem gyengíti, hanem élesíti: a UNI zh–en csúcstöbblet a teljes prompton +0,090, a kérdésre szűkítve +0,129: a közös keret a véletlen párosítást emelte, azaz hígította a jelet.

C2 · Jaccard-többlet a véletlen párosításhoz képest, rétegenként (base modell)

Az előre rögzített 16. rétegen mind a 9 csoport × nyelvpár összevetés szignifikáns (permutációs teszt 10 000 keveréssel: mind a 9 nyers p továbbra is a felbontási határon, p = 1/10001 = 0,0001, Holm-korrekció után is ≤ 0,0009 — tízezer keverésből egy sem érte el a megfigyelt átfedést, tehát ezek felső korlátok, nem mért értékek; a kilenc cella ugyanazon a modellen és korpuszon áll, tehát nem kilenc független replikáció). A görbe alakja a lényeg: a nyelvek a bemeneten szét vannak válva, a középső rétegekben közelednek, a végén újra elválnak. Az alakot két rögzített kontraszt méri: KÖZÉP (8–12. réteg) − KORAI (0–3.) és KÖZÉP − KÉSŐI (28–31.), item-szintű bootstrap intervallummal. Mindkét kontraszt intervalluma a nulla fölött van 6/9 cellában (a HU- és a UNI-csoport mind a három nyelvpárján; a UNI-ban Holm-korrekció után is p < 0,001, pl. en–hu +0,091 [+0,077; +0,104]). A ZH-csoport három cellájában csak a KÖZÉP − KÉSŐI pozitív: ott a korai többlet már eleve magas (+0,07–0,14), mert a kérdések az írásjegyet és az átírást is tartalmazzák, és a görbe nem púp, hanem lefelé lejt. A púp tehát ott áll, ahol a felszíni átfedés kicsi, és pont ott a legerősebb, ahol a leginkább tiszta a teszt (UNI): a naiv logit lens éppen ezen a tartományon volt vak.

Kontroll: nem a szó szerinti token-egyezés csinálja?

A ZH- és HU-csoport kérdései átírást és eredeti írásjegyet is tartalmaznak („…Fazhugong (法主公)…”), tehát a magyar prompt szó szerint tartalmaz kínai sztringeket. Három ellenőrzés: (1) a kis token-átfedésű itemfélen a többlet megmarad; (2) az utolsó-token halmazon (a kérdés záró ? / ？ írásjegye; ezen a pozíción szó szerinti tartalmi egyezés nincs, bár a figyelem a teljes kérdést összegzi, így a literális átfedést nem zárja ki teljesen) mind a 9 összevetés szignifikáns marad; (3) a token-átfedés és a feature-többlet Spearman-korrelációja a UNI-ban alacsony, a HU-csoportban viszont +0,59–0,86: ott a korai többlet részben tényleg literális, ezért az érv a UNI-csoportra épül.

Kvalitatívan is megfogható: a 8. rétegen 2619 olyan (feature, item) pár van, ahol a feature ugyanarra az itemre mindhárom nyelven aktív, de a promptok legfeljebb 20%-án tüzel, és 1166-nál a három nyelven három különböző sztringen. Például a Mátyás-mese itemen a 25936-os feature a 法官 / judge / bí·ró tokeneken aktív, a 33443-as a 奉之命 / did disguised King have to of / ut·as·ítás·ára tokeneken: itt nem a token közös, hanem a fogalom (bár az angol oldal láthatóan zajosabb, a példák ezért illusztrációk, nem bizonyítékok).

Amit a mérés NEM mond: a többlet abszolút értéke kicsi (Jaccard ~0,19 az azonos itemre, ~0,13 véletlen párra): a reprezentáció túlnyomó része nyelvspecifikus marad, a megosztott rész vékony réteg a nyelvi jelek tetején. Azt sem mondja meg, hogy a megosztott jel fogalom: az átfedés hordozhat közös entitást, témát, számjegyet, kérdéshosszt, szintaktikai pozíciót és feladatjelet is, és az SAE-irodalom (Gao et al., 2024) sem garantálja, hogy minden aktív feature monoszemantikus. A UNI-csoport és a literális kontrollok a szemantikai olvasatot erősítik, de nem választják szét ezeket teljesen; „fogalmi feature-nek” oksági beavatkozás (steering, abláció) után lenne szabad nevezni. Ezért a dolgozat nyelveken át megosztott item-reprezentációs jelről beszél. És azt sem mondja meg, hogy a megosztott rész angol-e. Ahhoz kell a Mérés D.

7. fejezetMérés D: angol pivot vagy jelentés-közelség?

Ha a modell a lefordíthatatlan fogalmakat angolon keresztül éri el, három jelnek kellene látszania: az angol közelítőszónak fel kellene bukkannia a nem-angol prompt köztes olvasatában (D2); a fogalom belső reprezentációjának angol-specifikusan kellene közelebb állnia a saját angol közelítőjéhez (D3); és a nem-forrásnyelvi válaszokban az angol torzításnak kellene megjelennie (D1). A három teszt bizonyító ereje különböző, ezért mindegyiknél rögzítem, mit bizonyít és mit nem.

D2: felbukkan-e az angol közelítőszó a köztes olvasatban?

D2 · hol jelenik meg az angol közelítőszó a nem-angol promptok top-20 olvasatában?

A középső (0–23.) síkokon 0/32 prompt hozza elő a közelítőszót, a naiv és a tuned lensszel egyaránt, és az instruct változaton ugyanígy. A késői találat is kevés: két fogalom, három promptban (面子 → face magyar és kínai prompton, 缘分 → fate kínain), mind a 24. sík fölött. A magyar promptnál ez magyarázható a kimeneti nyelv felé fordulással is (a base modell magyar válaszai gyakran váltanak angolra), a kínainál nem.

Mennyit ér ez a nulla? Kevesebbet, mint elsőre látszik. Három kontroll méri ki (reports/05_d2_kontroll.md):

• Elérhetőség: több fogalom jelöltszavát a műszer elvben sem találhatja meg, mert az a teljes korpusz egyetlen top-20 olvasatában sem fordul elő (a naiv lensnél 6, a tunednál 7 fogalom). A tényleges nevező tehát nem 16 fogalom, hanem 9–10.
• Pozitív kontroll: az angol prompton, ahol a közelítőszó bizonyosan releváns, a középső síkokon a naiv lens is csak 3/16, a tuned 1/16 fogalomnál hozza elő. A műszer érzékenysége tehát alacsony, és emiatt a nem-angol promptok nullája gyenge evidencia, nem perdöntő.
• Matcher-érzékenység: a szóillesztés írásjelekre érzékeny (a jelöltlistában distinction) alakok maradnak); tisztított matcherrel a nulla meg is törik: a magázás/tegezés fogalomnál a distinction szó a magyar prompt 20–21. síkján felbukkan (1/32).

Korlát marad a tuned lens koncentráltabb top-20-a is (3367 vs. 9064 különböző token a korpuszon). A D2 helyes olvasata ezért nem az, hogy „bizonyítottan nincs angol közvetítés”, hanem az, hogy a fordítási útvonal jósolt, jól látható nyoma ott sem jelenik meg, ahol a műszer, korlátozott érzékenységgel, látni képes.

D3: húz-e a fogalom a saját angol közelítője felé az SAE-térben, és angol-e ez a vonzás?

A nyers összevetés (fogalom vs. a saját angol kérdése) nem tiszta, mert az angol kérdés szó szerint tartalmazza a fogalmat. A tiszta kérdés: a forrásnyelvi fogalom feature-készlete közelebb van-e a saját angol közelítőjéhez („What does the expression 'mutual aid' mean?”), mint más fogalmak közelítőihez; itt egyik oldalon sincs literális egyezés. A közelítő-promptok a kontrollszó-promptok sablonjában készültek, a fogalmanként előre rögzített en_approx első alternatívájával. Mérés a 10. rétegen (a Mérés C csúcsa), a kérdés tokenjeinek feature-unióján, Jaccard-dal (reports/05_d3b_ujrameres.md).

A fogalom húz a saját közelítője felé. A forrásnyelvi fogalom átlagosan +0,020 Jaccard-dal áll közelebb a saját angol közelítőjéhez, mint a többiekéhez (fogalom-bootstrap 95%: +0,011…+0,028; 13 fogalomnál pozitív, 3-nál negatív, előjelteszt p = 0,021, Wilcoxon p = 0,001); a 16. rétegen +0,017 (14/2, p = 0,004); hossz-illesztett összevetésben +0,018 (12/3). A hétköznapi kontrollszavakkal (kaláka → help) ugyanez csak +0,007 (10/6, p = 0,45): a vonzás a jelentésnek szól, nem bármely angol szónak. Az instruct modellen ugyanez +0,024 (14/2, p = 0,004). A hatás pont a legkisebb érdekes méret, tehát a döntési szabály szerint pozitív eredmény.

Csakhogy ez önmagában még nem angol pivot. A kaláka egy nyelvfüggetlen jelentés-térben is közelebb áll a mutual aid-hez, mint a kiss-hez, angol közvetítés nélkül: a pozitív többlet egyszerre fér össze az R2 (angol pivot) és az R3 (nyelvfüggetlen közös tér) részkérdéssel. A megkülönböztető kérdés az, hogy a vonzás angol-specifikus-e: ugyanennyire húz-e a fogalom a közelítő kifejezés harmadik nyelvű változata (kaláka → 互助, 面子 → arc) felé is. Ehhez a 16 közelítőt a harmadik nyelven is megkérdeztem (hu-forrású fogalomhoz kínaiul, zh-forrásúhoz magyarul), és a nyelv meg a kérdéshossz alap-hatását a kontrollszavak ugyanilyen párjával vontam le (reports/05_d3b_x_angol_specifikus.md). Fontos a státusza: ez a lépés az elsődleges D3-eredmény megtekintése után, feltáró kontrollként készült; az előre rögzített protokoll csak az angol közelítő felé húzást tartalmazta. Megerősítő értéke egy új fogalomkészleten való, előre rögzített megismétlés után lenne.

Az angol közelítő valóban „közelebb van”, mint a kínai vagy a magyar, de pontosan annyival, amennyivel bármelyik angol prompt közelebb van (a kontrollszó-pár ugyanazt a +0,036-ot adja): ez a nyelv és a tokenhossz alap-hatása, nem a fogalomé. A fogalomra jellemző rész a harmadik nyelven is megvan.

A lexikálisan mérhető vonzás tehát nem angol-specifikus, hanem a jelentésé. A kaláka a 互助 felé ugyanúgy húz, ahogy a mutual aid felé; a 面子 az arc felé, ahogy a face felé. Ez az, amit az R3 részkérdés jósol (nyelvfüggetlen közelség), és az, amit az R2 (angol pivot) nem: egy angol közvetítésnek angol-specifikus többletet kellett volna hagynia, és a különbség-a-különbségben intervalluma a +0,02-es legkisebb érdekes hatást kizárja. Három megkötés: a közelítő-prompt egyetlen angol, illetve kínai/magyar megfogalmazás, egy elosztott, nem lexikális angol pivotot ez a mérés sem látna; a harmadik nyelvű fordításokat magam adtam meg; és ez a kontroll csak a base modellen futott le, az instruct változatra nincs harmadik nyelvű mérésem, tehát az itteni +0,001 és +0,015 egyetlen modellre áll.

D1: és a viselkedés? Itt jön a csavar.

A komponens-lefedettségben az angol a leggazdagabb (hu-forrású fogalmak: magyarul 36%, angolul 45%; zh-forrásúak: kínaiul 50%, angolul 62%), ami ránézésre a fordítási hipotézis melletti jel. Csakhogy három konfundálóval terhelt: a kontrollszavak szerint a magyar generálás általánosan gyengébb (hétköznapi szóra is csak 44% a jó definíció, az angol 88%); a kínai kérdés más keretet ad (一词 = „a szó”; a szimmetrizált futtatás +0,50 komponenst hozott); és az önértékelő toldalék nyelvfüggően rontotta a bírálatot (levágása után a kínai cella 58% → 71%). A viselkedési előny tehát nagyrészt a generálás minőségéből és a keretezésből jön, nem a fogalom hozzáférési útjából.

A Mérés D ítélete: a lexikailag látható angol pivot jósolt nyoma nem jelenik meg. A D2 a köztes olvasatban nem látja (gyenge műszerrel), a D3 megtalálja a fogalom vonzását a saját közelítése felé, de az ugyanakkora a harmadik nyelven, tehát nem angol közvetítés, hanem jelentés-közelség; a viselkedésbeli angol-előny konfundált. Ez nem bizonyítja a fordítás hiányát, egy elosztott angol pivot elvben láthatatlan maradhat mindhárom műszer előtt. A pontos állítás: a lexikális angol pivotra nincs pozitív evidencia, a nyelvfüggetlen jelentés-közelségre van, és a Mérés C megosztott jele ugyanezt a képet adja fordítás nélkül.

8. fejezetMit változtat a post-training?

A base modellt senki sem használja, a gyakorlatban az instruct változat él. Ezért ugyanez a teljes lánc lefutott az instruct modellen is, azonos korpusszal, bírálóval, rubrikával és ellenőrző körrel, kétféle promptozással:

A base → instruct + chat lépés a súlyokat ÉS a promptozást egyszerre váltja; a kontroll-változat arra való, hogy a kettő hatása szétválasztható legyen. A két modell tokenizere bitre azonos, így a változatok itemenként párosíthatók.

R1 · base → instruct + chat: pontosság és a tévedés módja

8.1 A javulás nagy része nem a súlyoké, hanem a promptozásé

R3 · súlyok vs. promptozás: háromváltozatos felbontás, az ellenőrző kör ítéletein

Kérdés: Mit rövidít az OKJ a magyar szakképzésben?
Válasz:

<|im_start|>user
Mit rövidít az OKJ a magyar szakképzésben?<|im_end|>
<|im_start|>assistant
<think>

</think>

A „post-training javítja a tudást” állítás promptozási műtermék is lehet. A base modellt nyers prompttal, az instructot chat-sablonnal mérni nem azonos mérce: a különbségük nagy részét itt a sablon adta, nem a súlyok. A felbontás iránya mérce-független, a gépi bíráló ítéletein is ugyanez jön ki (p = 1,000 vs. 0,041), és az item-klaszteres próba is tartja: súlycsere p = 0,809, sablonváltás p = 0,020 (item-bootstrap a nettó javulásra +3…+18 item). Csoportonként (n = 15–20 item) már egyik lépés sem szignifikáns (HU: 0,190). Két további megkötés. Az ellenőrző körrel fedett ZH+HU cellákra szűkítve a promptozás-lépés 10/3 (p = 0,092), a szignifikancia tehát részben a csak gépi bírálóval pontozott UNI/magyar cellák három javulásán áll. És a három változat nem teljes 2×2-es terv: nincs „base + chat-sablon” cella (a base modell chat-sablonra nem tanult), ezért a súly × sablon kölcsönhatás nem azonosítható; a pontos állítás: az instruct modellen a nyers prompthoz képest a chat-sablonhoz kötődött a mért javulás nagyobb része.

A patológiák közül a csonkolás nem illik a mintába: a három változatban 43 → 64 → 86, vagyis a növekmény fele már a súlycserénél megjelenik. A többi patológia viszont a promptozásé: az ismétlési hurok 25 → 29 → 13, az önértékelő toldalék 16 → 23 → 0, nyers prompton visszatérnek, chat-sablonnal eltűnnek. A nyers-promptos instruct változat ugyanakkor mérési kontroll, nem használati forgatókönyv: az instruct modellt a valóságban senki sem eteti nyers prompttal, és maga a chat-sablonra való érzékenység is a post-training terméke. A kontroll azt mondja meg, MIBŐL jön a javulás, nem azt, hogy a post-training fölösleges.

8.2 A hallucinációk száma nem csökken; a kitérés tűnik el

A kitalációk darabszáma a három változatban lényegében állandó (23 → 26 → 25); ami eltűnik, az a kitérés és a nem-válasz (14 → 10 → 3), az arány ezért nő 62%-ról 89%-ra. Az eredmény teljes egészében az ellenőrző körön áll: a gépi bíráló a hallucináció kategóriát gyakorlatilag nem használja.

A páros átmeneti mátrix (07_biralat_kiegeszites.md) megmutatja, hová lett a base változat 14 kitérése a chat-változatban: 8 magabiztos kitaláció, 4 helyes, 2 részben helyes; a 23 kitalációból 16 maradt kitaláció, 5 lett helyes vagy részben. A kitérés csökkenése item-blokkos permutációval p = 0,037 (kétoldali), a kitalációk darabszámának változása p = 0,83. A csonkolatlan részmintán azonban más a kép: ahol a válasz mindkét változatban a keret előtt megállt (12 válasz, 8 item), az 5 kitérésből 4 helyes vagy részben helyes lett, és csak 1 kitaláció. A „kitérés → kitaláció” irány a teljes mintán áll, de részben a csonkolás terméke lehet (a chat-változatban a 45 HU-válaszból 30 csonkolt), mert a levágott folytatásból éppen a visszavonó, bizonytalankodó rész marad ki. A chat-sablon tehát nem a kitalálást szaporítja, hanem a hallgatást szorítja ki; hogy a hallgatás helyére helyes válasz vagy kitaláció kerül, azt ez a minta nem dönti el megnyugtatóan.

Ahol a modell tud (ZH-csoport: a kitalálás-arány 79%-ról 58%-ra csökken), a chat-sablon javulás; ahol nem tud (HU-csoport), a kitérés helyét a határozott téves állítás veszi át. A gyakorlati olvasat így is kényelmetlen: az instruct modell épp a kis korpuszú nyelv saját tudásanyagán látszik magabiztosnak úgy, hogy nem az, pont ott, ahol a magyar felhasználó a leginkább rá lenne utalva.

8.3 A reprezentáció nem angol-központúbb lett, hanem kiegyenlítettebb

R2 · a nyelvek közti SAE feature-átfedés többlete: base (pontozott) vs. instruct (folytonos)

A viselkedési oldalon ugyanez az irány: a D1-ben a forrásnyelv base-beli hátránya (hu-forrás: −9, zh-forrás: −12 pont az angolhoz képest) az instruct változaton eltűnik, a hu-forrású fogalmaknál már a magyar prompt a legjobb (77%), a zh-forrásúaknál mindhárom nyelv 90% fölé megy. A post-training tehát nem tolja a modellt az angol felé, a nyelvek közti különbséget csökkenti. Egy megkötéssel: az SAE a base modellen tanult. A rekonstrukciós kapu (sae_fvu.py, a kérdés-tokeneken) szerint a magyarázatlan variancia (FVU) a base residualokon átlagosan 0,35, az instructon 0,37; a romlás rétegenként átlagosan +0,018, a legrosszabb rétegen (16.) +0,047, tehát az előre kitűzött 0,05-ös kapu alatt marad, és a rekonstrukció koszinusz-hasonlósága is azonos (0,909 vs. 0,913). A két változat tehát összevethető mércén áll, de a mérőeszköz-drift nem zárható ki teljesen, és az abszolút FVU mindkettőn magas (az SAE a residual varianciájának csak ~60%-át magyarázza ezeken a rövid promptokon), ami minden SAE-alapú állítást óvatosságra int. Az instruct változat C-görbéjét ezért irányjelzésként kezelem, nem pontos értékként.

A tuned lens ugyanezt mondja a másik oldalról: az instruct modellre tanított fordítóval a magyar prompt köztes olvasatának szigorú-angol hányada a base 58%-áról átlagosan 26%-ra esik (8–28. sík), miközben a magyar szavak aránya nő. Az 5. fejezet „angol-domináns magyar olvasat” jelensége tehát nagyrészt a base modell sajátja: a post-trainelt, ténylegesen használt változaton jóval halványabb. (Megkötés itt is: az instructra tanított lens zajosabb, a középső síkok nem-szó aránya 43% a base 31%-ával szemben, ezért ez is irányjelzés, nem pontos érték.) A záró ítélet ezért ezt az állítást a base modellre szűkíti.

9. fejezetKorlátok

• Egy modellcsalád, egy méret. Minden állítás a Qwen3.5-9B-re vonatkozik; a Llama-irodalommal az irány egyezik, de az általánosítás mérés nélkül nem jár.
• Kis n. 19/15/20 item csoportonként: a cellánkénti konfidencia-intervallumok szélesek; az erős állítások páros próbákon és a 9 nyelvpár együttes viselkedésén állnak, nem egyes cellákon. A HU-sor 7 / 13 / 20%-a 1 / 2 / 3 találat 15-ből, és a kérdésnyelvek közti páros különbségek egyik csoportban sem szignifikánsak (exakt McNemar, legkisebb p = 0,29 a base modellen), ezért a dolgozat nyelvi rangsort nem állít. A csonkolatlan HU/hu részhalmaz (0%, n = 6) különösen bizonytalan.
• A wiki-jelenlét proxy. A „csak kínaiul tanulhatta” állítást a Wikidata-sitelink hiánya támasztja alá, nem a (nem hozzáférhető) tanítókorpusz; négy itemnél a melléklet angol átcsorgást jelöl. A kiválasztás ráadásul az entitás (étel, szokás) szócikkét ellenőrzi, nem a kért válasz nyelvi elérhetőségét: a ZH-csoport 19 iteméből 11 válasza generikus város → tartomány tény, egyé pedig a kérdés nevében szerepel (4. fejezet, eredményfüggetlen kérdéstípus-bontás). Ráadásul kilenc ZH-item forrása nem a kínai Wikipédia, hanem a Baidu Baike, ahol nincs Wikidata-elem: ott a besorolás „nem találtunk angol/magyar cikket” erősségű, nem bizonyított, és itemenkénti forrás-URL, hozzáférési dátum és igazoló idézet sincs rögzítve. A „ZH-only / HU-only” címke tehát Wikipédia-proxy, és a mérés a tudás tárolási vagy tanítási nyelvét nem azonosítja. Erősebb teszt kontrollált, egynyelvű tudásinjekció (finomhangolás vagy knowledge-edit) lenne azonos sablonú itemeken.
• Feltáró státusz. A korpusz, a Mérés C tesztrétege és a D3 protokollja a futtatás előtt belsőleg rögzített, de nyilvánosan nem preregisztrált (a nyilvános Git-történetben a kísérleti mappa egy eredmények utáni commitban jelent meg); több elemzési döntés viszont az adatok láttán született (a válaszok toldalék-tisztítása, a lépcsős token-keret, a tuned lens, az SAE-elemzés kérdés-tokenre szűkítése, a D2 kontrolljai, a D3 harmadik nyelvű változata, a nyers-promptos kontroll). Ezek szükséges kontrollok, de státuszuk feltáró, nem konfirmatív; tiszta megerősítő kört egy érintetlen holdout itemkészlet vagy második modellcsalád adna.
• Az ellenőrző kör is gépi, és nem független tőlem: a GPT-5.6 Sol az én rubrikámmal és utasításommal ítélt, a korpuszt is én állítottam össze, emberi vak értékelés nem volt. Ellensúly: minden 35B-ítélet megőrizve, minden eltérés tételes naplóban; a súly/sablon felbontás a 35B bírálón is reprodukálódik.
• Dekódolási patológiák. A csonkolás a három változatban 43 → 64 → 86/258-ra nőtt; mivel a levágott rész tartalmazhatta volna a választ, a mért javulás inkább alsó becslés, a kitalálás-arányt pedig felfelé torzíthatja. A hurok- és toldalék-hatások jelölve és kontrollálva vannak, de jelen vannak.
• A D2 műszere gyengén érzékeny. A pozitív kontroll szerint az angol prompton is csak 3/16 (naiv) illetve 1/16 (tuned) fogalomnál jelenik meg a közelítőszó a középső síkokon, és 6–7 fogalom jelöltszava a korpusz egyetlen top-20 olvasatában sem fordul elő. A D2 nullája ezért gyenge evidencia.
• A D3 lexikális teszt. A közelítő-prompt egyetlen megfogalmazás nyelvenként; elosztott, nem szóhoz kötött angol közvetítést nem látna. A harmadik nyelvű fordításokat magam adtam, és a kínai kérdés rövidebb, ezért a nyelv és a hossz alap-hatását a kontrollszó-párral kellett levonni.
• Az SAE a base modellen tanult, és a residualok varianciájának csak ~60–65%-át magyarázza ezeken a rövid promptokon (kérdés-tokeneken mért FVU: base 0,35, instruct 0,37 átlag). Az instruct-drift kicsi (+0,018 átlag, +0,047 a legrosszabb rétegen), a két változat összevethető, de a feature-szintű állítások egy közepes hűségű szótáron állnak; dead-latent arány és feature-frekvencia nem mért.
• A tuned lens visszaszivárogtat: a válasz-mélység csak a naiv lensről olvasható; a D2-ben a tuned oszlop felső, a naiv alsó korlát. A lens validációja token-szintű (egy Wikipédia-szakasz szomszédos tokenjei a train és a val oldalra is kerülhettek), a 2,85 → 1,03 KL-javulás ezért optimista lehet; a rang-256-os változat Belrose et al. teljes affin probe-jának olcsóbb rokona.
• A nyelvosztályozó töredék-hibája angol irányú. A tuned lens mintáján az angolnak jelölt tokenek 25%-a töredék vagy átírás; az „angol arány” számok ezért felső becslések, a korrigált alsó becslés az 5. fejezetben.
• Literális token-átfedés a ZH/HU-csoport kérdéseiben (átírás + írásjegy), a C-mérés érve ezért a UNI-csoportra épül.
• Egy fordítás, egy sablon nyelvenként. Minden item három nyelvi alakja egyetlen fordításban és egyetlen prompt-sablonban futott, ezért a nyelv és a megfogalmazás hatása nem válik szét (a D1 maga is kimutatott keretezési eltérést: a kínai 一词 „a szó”-ként, a többi nyelv fogalomként kérdez). Megerősítő méréshez több független natív fordítás, itemenként több paraphrase és vak back-translation kellene.
• Az UNT jelentés-adatlapja a szerzőé. A 16 kultúraspecifikus fogalom kötelező jelentéskomponenseit, angol közelítéseit, torzításjegyeit és harmadik nyelvű változatait ugyanaz a személy adta meg, aki a mérést végezte; független magyar nyelvész és kínai anyanyelvi szakértő vak validációja nem volt. Több tétel vitatható (pl. a kaláka viszonzási elvárásának abszolút megfogalmazása, a névnap súlya, a honfoglalás keretezése), és a „lefordíthatatlan” címke is rövidítés: pontosabban kultúraspecifikus, egyetlen szóval nem teljesen lefedhető fogalmakról van szó.
• A pontosság célválasz-találat (3.3): a mellé állított téves részletek nem rontják a helyes ítéletet, és a hallucinációs arány csak a nem helyes válaszokon belül értelmezett.

10. fejezetÖsszefoglalás

A kép tehát ez: a középső rétegekben van egy vékony, nyelveken át megosztott réteg, ami ott a legerősebb, ahol a három nyelvi alak felszínileg a legkülönbözőbb; a lefordíthatatlan fogalmak ebben a térben a saját közelítésük felé húznak, de nyelvtől függetlenül, angol többlet nélkül. Nem a fogalmak torzulnak az angol közelítés felé; az olvasat aszimmetrikus: a magyar köztes reprezentáció az angol szótár közelében jár, a kínai a sajátjában. Az „az AI angolul gondolkodik” mondatból méréseim szerint ennyi igaz: a kis korpuszú nyelv olvasata támaszkodik az angolra, a nagyé nem; ez is elsősorban a nyers base modellen látszik, és a tudás elérési útján lexikális angol nyomot nem találtam (elosztott angolcentrikus közvetítést a módszer nem zár ki).

Két módszertani tanulság túlmutat a nyelvi kérdésen. Az instruct modell „javulása” a nyers-promptos kontroll nélkül a súlyok érdemének látszott volna, pedig nagyrészt a promptozásé; a hallucináció-arány romlása pedig kitalálás-járványnak látszott volna, pedig a kitalálások száma állandó, és a kitérés tűnik el. Mindkét torzítást egy-egy olcsó kontroll fogta meg: a nyers-promptos instruct változat, illetve az abszolút darabszámos, csoportonkénti bontás a teljes ellenőrző körrel. Ugyanez a D3-nál: a közelítőszó felé húzó jel önmagában angol pivotnak látszott volna, a harmadik nyelvű kontroll adta meg a helyes olvasatát.

Akkor magyarul vagy angolul promptoljak?

A dolgozat egy gyakorlati tanácsból indult: „angolul promptolj, az AI angolul gondolkodik”. A mérések után a válasz három részből áll.

• Ahol a modell tudja a választ, mindegy. A UNI-csoport a base modellen 90 / 100 / 100% (hu / en / zh), az instructon 100 / 100 / 100%. A base két magyar hibája dekódolási, nem tudásbeli, és az instructon eltűnik.
• Ahol a tudás egy nyelvhez kötött, nincs stabilan legjobb promptnyelv. A ZH-proxy kínaiul 63%, angolul 53%, magyarul 42% (instruct: 63 / 58 / 58%). A HU-proxynál a magyar prompt a legalacsonyabb (7%, instruct 20%), az angolra fordítás nem hozza vissza (13%, illetve 27%), a kínai prompt mindkét modellen legalább ilyen jó (20 / 33%). A cellák n = 15–19 mellett széles intervallumúak, egyik nyelvpár páros különbsége sem szignifikáns (exakt McNemar, legkisebb p = 0,29), és a nyers-promptos instruct kontroll ZH-celláiban épp az angol a legmagasabb (68% vs. 58%). Megbízható angol előnyt tehát nem mértem, de megbízható forrásnyelvi előnyt sem.
• A magyar prompt ára a dekódolásban van, nem a tudásban. A magyar kérdés 1,4× hosszabb tokenben; a faktuális csoportokban a base modellen 22 magyar válasz ütközött a keretbe, 2 angol; a hurokba esett válaszok többsége is magyar (14 · 9 · 2); a magyar céltoken mediánrangja két nagyságrenddel rosszabb, a top-100-at hat réteggel később éri el; és az instruct modell a csak-magyar tudást magyarul kérdezve a téves válaszok 11/12-ében magabiztosan kitalál.

A gyakorlati válasz tehát, a vizsgált feladatra: a prompt nyelvének megváltoztatása önmagában nem adott megbízható pontossági előnyt. Rövid, enciklopédikus kérdésnél a kérdés angolra fordítása nem nyit meg semmit, amit a magyar bezárt volna; amit a magyar prompt mellé tenni kell, az nem fordítás, hanem forrás, mert a modell a ritka, magyar-specifikus tényekben gyenge, és az instruct változat a javuló találat mellett sem jelzi, mikor bizonytalan. A tanács elhagyható fele: „angolul gondolkodik”; a megtartandó: „ellenőrizd, amit magyar tényről mond”. Ennél többet ez a mérés nem mond: hogy hosszú magyar üzleti dokumentumon, kinyerési (KIE) vagy keresés-alapú (RAG) feladatban, eszközhasználó agentben mit ér a magyar instrukció az angolhoz képest, azt csak egy páros kísérlet dönthetné el (azonos dokumentum, magyar és angol utasítás, mezőszintű F1 és hallucináció-mérés). Mindez egy modellcsalád és 70 item alapján; a 9. fejezet korlátai itt is állnak.

További irányok: a D3 harmadik nyelvű változatának előre rögzített megismétlése új fogalmakon; a tuned lens dokumentum-szintű train/val bontása; második modellcsalád ugyanezen a rögzített korpuszon; nagyobb itemszám a HU-only cellák szűkebb intervallumaihoz; és a legszebb folytatás: a háromnyelvű megosztott feature-ök steering-tesztje: ha a 9–11. réteg közös feature-ei okságilag is hordozzák a fogalmat, a magyar válasz minősége elvben a kínai úton szerzett tudásból is javítható.

Irodalom

• Wendler, C. et al. (2024): Do Llamas Work in English? On the Latent Language of Multilingual Transformers. ACL 2024.
• Dumas, C. et al. (2025): Separating Tongue from Thought: Activation Patching Reveals Language-Agnostic Concept Representations in Transformers. ACL 2025.
• Schut, L., Gal, Y., Farquhar, S. (2025): Do Multilingual LLMs Think In English?
• nostalgebraist (2020): interpreting GPT: the logit lens.
• Belrose, N. et al. (2023): Eliciting Latent Predictions from Transformers with the Tuned Lens.
• Bricken, T. et al. (2023): Towards Monosemanticity: Decomposing Language Models With Dictionary Learning. Anthropic.
• Gao, L. et al. (2024): Scaling and Evaluating Sparse Autoencoders.
• Qwen (2026): Qwen3.5-9B-Base, Qwen3.5-9B és SAE-Res-Qwen3.5-9B-Base-W64K-L0_50 modellkártyák, Hugging Face.

Minden szám a mérési riportokból, illetve a nyers eredményfájlokból újraszámolt értékekből származik. Korpusz: items.jsonl (rögzítve 2026-08-22), tételes lista a tesztkorpusz oldalán. A három modellváltozat 3 × 258 promptja, a D3 2 × 16 közelítő-promptja, a 450 ellenőrző ítélet (GPT-5.6 Sol) naplója és minden szkript a docai-evals → 2026-08-26-where-knowledge-lives-hu-en-zh mappájában. Modellek: Qwen/Qwen3.5-9B-Base · Qwen/Qwen3.5-9B · bíráló: Qwen3.6-35B, ellenőrző bíráló: GPT-5.6 Sol. Hardver: NVIDIA GB10 (sm_121a). Ez az anyag eredetileg egy deep learning tanfolyam záródolgozataként készült, 2026 augusztusában; a publikáláskor csak szerkesztői változtatás történt rajta.