Fördjupning
Så fungerar Stacken
Stacken är dörrarna mellan AI och det AI:n vill nå. Allt ni kopplar in genom Stacken och som ska prata med en modell eller använda ett system går genom en av två dörrar, och i varje dörr sitter identitet, regler och logg. Agenter och assistenter är gäster ovanpå, modellerna och era system ligger bakom.
- Vem frågar?identiteten kontrolleras
- Skenar anropet?stopp för anrop som upprepar sig utan slut
- Finns det budget kvar?hård spärr per organisation, när en budget är satt
- Innehåller det personuppgifter?pii-api skannar före beslutet
- Får det ske?beslut sparaspolicy-engine väger ihop allt ovan
- Skrivs ner förstloggloggraden skrivs innan modellen får frågan; går den inte att skriva nekas anropet
- Modellen svararförbrukning
- Vem frågar?identiteten kontrolleras
- Finns verktyget?nej loggasbara registrerade verktyg går att anropa
- Har just du rätt till det?agenten ser bara verktyg personen har rätt till
- Får det ske?nej loggaspolicy-engine fattar beslutet
- Systemet utför anropet
- Skrivs ner innan svaret släppslogginget resultat når agenten utan loggrad
I vilken ordning går man igenom dörrarna?
Det beror på vad som händer. En modell tänker och ett system gör, så ordningen följer arbetet. Varje passage är ett eget anrop som prövas från början.
En vanlig frågatill exempel "skriv om den här texten"
En fråga om era dokumentkunskapen hämtas först, sedan svarar modellen
En agent som gör någotpendlar tills uppgiften är klar
När skrivs loggen?
Loggen skrivs i dörrarna, inte av agenten. Därför kan en agent inte låta bli att logga.
| Dörr | Vad som skrivs | När |
|---|---|---|
| Modelldörren | Regelbeslutet | När policy-engine har sagt ja eller nej |
| Modelldörren | Loggrad i den kedjade loggen | Innan modellen får frågan. Går raden inte att skriva nekas anropet |
| Modelldörren | Förbrukning och kostnad | Efter att modellen har svarat |
| Verktygsdörren | Nej, med hash av det som efterfrågades | I steget som säger nej |
| Verktygsdörren | Loggrad i den kedjade loggen, med hash av det som faktiskt skickades | Efter att systemet har utfört anropet, innan svaret släpps tillbaka |
Loggen bär id:n och hashar, aldrig e-post, namn eller gruppmedlemskap, och inte vad som sades. Kedjan gör att en ändring i efterhand syns.
Varför ser det ut så här?
Varje form i bilden finns för att lösa ett konkret problem.
Varför dörrar?
En kontroll som finns i varje AI-tjänst måste byggas, granskas och underhållas i varje tjänst. En dörr som allt måste passera granskas en gång och gäller för alla tjänster, även de som inte finns än.
Varför två dörrar?
De vaktar olika risker. Modelldörren handlar om vad som lämnar huset och vad det kostar: personuppgifter, budget och var modellen körs. Verktygsdörren handlar om vad AI:n får läsa och göra i era system: behörighet per person och vilka verktyg som finns.
Varför är agenterna gäster?
En regel som sitter inne i agenten kan agenten själv kringgå. Därför litar Stacken aldrig på agentens egen inställning, bara på det agenten inte kan ändra. Agenten står mellan dörrarna och når ingenting utan att passera en av dem.
Varför skrivs loggen först?
Om något går fel ska det alltid gå att se vad som hände. Kan loggraden inte skrivas nekas anropet, så det finns inget anrop som saknar spår.
Varför lånad identitet?
En agent agerar för en namngiven person. Då gäller personens egna behörigheter, och i loggen syns vem uppgiften gjordes åt, inte bara att "agenten" gjorde något. Så fungerar det i webbchatten i dag; fler kanaler byggs.
Varför Plattformen under?
Kontrollerna är bara så pålitliga som driften de körs i. Plattformen gör driften återskapbar ur git, övervakad och återställningsbar, inom EU.
Fyra regler som gör det till en kontrollpunkt
Ur Stacken-kontraktet, förenklat.
- Identitet lånas, aldrig myntas. En agent agerar för en namngiven person, aldrig som sig själv. I webbchatten i dag; fler kanaler byggs.
- Modeller nås bara genom modelldörren. Ingen tjänst i Stacken har egna nycklar till en modell. AI som är inbyggd i system ni köper går sina egna vägar.
- Förmåga exponeras som MCP bakom verktygsdörren. En agent som går runt dörren har varken behörighet, regler eller logg.
- Inget svar utan loggrad. Kan loggen inte skrivas, nekas anropet.
En förenklad bild för att förklara principen, inte en driftritning. Stegen i dörrarna är förenklade.