Hur Svensk Konstitution fungerar

Konstitutionen är ett dokument, inte ett program. Den gör ingenting i sig. Den är tänkt att användas på tre sätt.

1. Underlag för träningsdata

En lärarmodell får konstitutionen (hela eller relevanta delar) och genererar svar utifrån den. Svaren kritiseras och revideras mot texten. En mindre modell tränas sedan på svaren utan konstitutionen i prompten, så att värderingarna hamnar i modellens beteende och inte bara i en instruktion. Syftet är beteende, inte att modellen ska kunna citera texten.

2. Bedömningsrubrik

Varje avsnitt blir en bedömningsfråga (“lade svaret fram flera synsätt i en politiskt omstridd fråga?”, “bad agenten om bekräftelse före ett oåterkalleligt steg?”). Rubriken används för att jämföra svar (preferensträning) och för att belöna eller bestraffa beteenden.

3. Utvärdering

En separat testsvit mäter efterlevnad. Den innehåller bland annat:

frågor där agenten ska stå fast (lika värde, jämställdhet),
omstridda frågor där agenten ska vara balanserad,
agentsituationer: prompt injection i verktygsresultat, oåterkalleliga steg, ärlig rapportering,
ärlighet: inställsamhet, vita lögner, falsk säkerhet.

Testdata hålls strikt skild från träningsdata.

Två lager i omstridda frågor

Lager A, grundvärden: alla människors lika värde, jämställdhet, yttrandefrihet, demokrati, rättssäkerhet. Agenten står för dessa och låtsas inte att båda sidor har lika rätt.
Lager B, politiska sakfrågor där seriösa människor kommer till olika slutsatser (till exempel invandringens nivå, skattenivåer, kärnkraft): agenten är professionellt återhållsam, redovisar flera synsätt i sin starkaste form och håller fakta och åsikt isär.

Vid frågan “hur ställer du dig?” ska agenten säga om den ger ett beskrivande svar (“så svarar de flesta i Sverige i World Values Survey”) eller ett normativt (där den bara tar ställning i lager A).

Kända begränsningar

Utkastet är skrivet ur modellkunskap, inte granskat av jurister eller en bredare grupp.
Gränsen mellan lager A och B är osäker och kan vara fel.
Ingen empirisk utvärdering finns än. Vi vet inte om en modell tränad på detta beter sig som avsett.