Text blir numrerade delar

En språkmodell får inte bokstäver och meningar direkt. Först används tokenisering för att dela texten i token. En token kan vara ett helt ord, en del av ett ord, ett skiljetecken eller ett annat återkommande teckenmönster. Varje token kopplas till ett nummer i modellens vokabulär.

Samma text kan delas olika av olika tokeniserare. Ordet språkmodell skulle till exempel kunna vara en token i en vokabulär men delas som språk och modell i en annan. En ovanlig böjning kan delas i flera delar. Token är därför beräkningsenheter, inte säkra språkliga ord eller betydelser.

Ett steg i taget

Modellen tar emot en begränsad följd av tidigare token, dess kontext. Nätverket omvandlar följden och ger en rå poäng, en logit, för varje möjlig nästa token. Poängerna omvandlas till en fördelning. En valregel väljer sedan nästa token. Den valda token läggs till kontexten, och beräkningen upprepas.

En hel mening växer alltså fram genom många nästa-token-steg. Modellen behöver inte hämta en färdig mening ur en databas. Samtidigt kan träningsmönster påverka vilka följder som får höga poäng.

I aktiviteten jämför du två givna tokeniseringar av samma korta mening. Därefter får du en konstruerad tabell med poäng för tre möjliga nästa token. Förklara vad som ändras när tokenindelningen ändras, välj nästa token enligt den angivna regeln och skilj tydligt mellan modellens beräknade fortsättning och ett verifierat påstående.

Från nummer till vektorer

Ett tokennummer är bara en adress. Innan nätverket kan bearbeta token kopplas numret till en inbäddning (embedding), en lista med tal som kallas en vektor. Vektorns värden lärs under träningen. De är inte en färdig ordboksdefinition, men relationer mellan vektorer kan göra vissa språkliga mönster användbara för modellen.

En mening behöver också ordning. Följderna hund jagar katt och katt jagar hund innehåller samma token men beskriver olika roller. Därför läggs positionsinformation till eller kombineras med tokenrepresentationen.

Inbäddningen är startpunkten för en position. När flera lager har blandat och omvandlat information blir representationen kontextberoende. Samma token-ID kan då leda till olika mellanvärden i olika meningar.

Uppmärksamhet bland token

I en transformer används uppmärksamhet (attention) för att låta varje position väga information från andra tillåtna positioner. Från en representation beräknas förenklat en fråga, en nyckel och ett värde. Frågan vid en position jämförs med nycklarna. Jämförelsen ger vikter som används för att blanda värdena till en ny representation.

Tänk på meningen Sara lade boken på bordet eftersom det var stabilt. När representationen för det byggs kan andra delar av meningen få olika vikt. Byts stabilt mot intressant ändras det språkliga mönstret. Uppmärksamheten är en numerisk operation genom flera lager, inte en mänsklig blick.

I aktiviteten följer du ett förenklat exempel från tokeninbäddning och position till en viktad blandning. Jämför två nästan lika meningar. Ange vilken relation den konstruerade uppmärksamhetsvägen fångar, men avgränsa slutsatsen till just exemplet och den visade beräkningen.

Förträning på textföljder

Under förträning möter en språkmodell många tokenföljder ur en träningskorpus. Modellen beräknar nästa token, förlusten jämför resultatet med den token som faktiskt följde och parametrarna justeras. Upprepningen kan lära användbara mönster i språk och textstruktur. Den märker inte automatiskt vilka meningar som är sanna, tillåtna eller lämpliga för en viss elevuppgift.

Korpusens urval påverkar modellen. Språk, genrer, tidsperioder, dubbletter, fel och perspektiv som finns i materialet kan forma vilka fortsättningar som får höga poäng. Ett stort material löser inte i sig frågor om representativitet, proveniens eller rättigheter.

Anpassning för instruktioner och beteende

Efter förträningen kan instruktionsanpassning använda exempel på instruktioner och önskade svar. Målet är då att göra modellens fortsättningar mer användbara i ett fråge- och svarsformat. Ett annat steg kan använda preferensdata, där människor eller en separat metod jämför svar. En optimering försöker göra föredragna beteenden vanligare.

Dessa steg kallas ibland samlat för anpassning eller alignment. De formar output utifrån ett valt mål och ett begränsat underlag. De bevisar inte att modellen alltid följer avsikten, undviker skada eller lämnar korrekta uppgifter.

Varje steg behöver därför en separat utvärdering.

I aktiviteten sorterar du konstruerade träningshändelser mellan förträning, instruktionsanpassning och preferensbaserad anpassning. För varje kort anger du vilket underlag som används, vilket mål som optimeras och vilken slutsats steget inte kan bära. Jämför sedan två system som delar förträning men har olika anpassningsdata.

Att välja ur en fördelning

Efter varje framåtpassage finns en fördelning över möjliga nästa token. Ett deterministiskt val kan alltid ta den token som har högst värde. Sampling väljer i stället med hjälp av fördelningen, så en token med lägre värde ibland kan väljas. Därför kan samma inledning få olika fortsättningar.

En inställning som temperatur omformar fördelningen före valet. Lägre temperatur gör ofta de högst värderade alternativen mer dominerande. Högre temperatur gör fördelningen flackare och kan öka variationen. Exakt effekt beror på poängerna och övriga valregler.

En seed kan styra en pseudoslumpmässig följd i ett fast experiment. Resultatet är bara reproducerbart om modell, tokenisering, programvara, inställningar, prompt och övrig körmiljö också är fasta. Seed ensam räcker inte.

Genereringen behöver dessutom ett stoppvillkor, till exempel ett särskilt sluttoken eller en maximal längd. Om texten stoppas mitt i en förklaring kan ett viktigt villkor eller undantag falla bort. Även stoppregeln hör därför till körningens dokumentation.

Flyt är inte verifiering

Språkmodellen fortsätter tokenmönstret även när kontexten inte innehåller tillräckligt belägg. Den kan då skapa ett övertygande men felaktigt namn, citat eller källställe. Sådan ogrundad generering kallas ibland konfabulation. Felet uppstår inte för att modellen har en mänsklig avsikt att lura.

I aktiviteten använder du samma konstruerade tokenfördelning tre gånger: ett högsta-poäng-val och två seedade samplingar. Redovisa varför fortsättningarna skiljer sig. Markera sedan vilka påståenden som skulle kräva källkontroll oavsett valregel och beskriv vilket underlag kontrollen behöver.

Två olika operationer

Generering skapar en ny tokenföljd genom upprepade val ur modellens fördelning. Hämtning (retrieval) söker i ett angivet material och för in valda textdelar i kontexten. Ett system kan kombinera dem: först hämtas dokumentdelar, sedan genereras ett svar med dessa delar som underlag.

Hämtning kan ge aktuellare eller mer avgränsat material än modellens parametrar. Men den garanterar inte rätt svar. Sökningen kan välja fel dokumentdel, ett relevant villkor kan hamna utanför utdraget och modellen kan koppla en källa till ett påstående som källan inte stöder. Därför granskas varje betydelsebärande påstående mot ett exakt källställe.

Fler modaliteter, samma kontrollbehov

En multimodal modell kan arbeta med mer än en datatyp, till exempel text och bild. Olika indata omvandlas till numeriska representationer som modellen kan kombinera. Generativa system kan även producera bilder, ljud eller andra representationer. Det betyder inte att modellen har mänsklig perception eller att ursprung och rättigheter följer med automatiskt.

För genererat material behöver proveniens omfatta det använda underlaget, modell- och systemversion när den är känd, instruktion, inställningar, mänskliga ändringar och tidpunkt. I en skoluppgift måste läraren dessutom bestämma vilka verktyg och datatyper som är tillåtna.

I caset granskar du tre förskrivna utkast mot ett fast källpaket. Dela upp ett utkast i påståenden och välj använd, revidera eller använd inte för varje rad. Motivera med locator, inte med textens flyt. Riskhantering behöver kopplas till den faktiska användningen och följas upp när sammanhanget ändras. [[source:nist-ai-rmf-1-0 Core and Profiles]]