Krav att ställa på en AI-tjänst i offentlig sektor.

Anrop till språkmodeller och till anslutna verktyg och informationskällor inom den omfattning som anges i avtalet ska passera ett gemensamt styrlager där beställarens regler prövas innan anropet genomförs. Leverantören ska redovisa vilka anropsvägar som omfattas och vilka som inte gör det.

Regler för åtkomst, modellval och verktygsanvändning ska utvärderas av en komponent som är skild från språkmodellen, vara versionshanterade och kunna testas. Regler får inte enbart uttryckas som instruktioner till modellen.

Om regelprövning, identifiering av användaren eller skrivning till revisionsloggen inte kan genomföras ska anropet nekas. Tjänsten får inte falla tillbaka till ett läge utan kontroll.

Beställaren ska kunna ange vilka modeller som är godkända för varje informationsklass. Ett anrop med information av en viss klass ska nekas om den valda modellen inte är godkänd för klassen. Kravet gäller alla modellanrop i kedjan, även inbäddning, omrangordning, transkribering och andra stödmodeller.

Användning av en modell som behandlar data utanför EU/EES ska kräva ett uttryckligt beslut av beställaren per AI-tjänst. Beställaren ska kunna se var varje tillgänglig modell behandlar data.

Beställaren ska kunna byta språkmodell för en AI-tjänst genom konfiguration, utan att tjänstens instruktioner, kunskapskällor eller integrationer behöver byggas om.

Bara kopplingar till verktyg och informationskällor som beställarens administratör har godkänt ska kunna användas. Åtkomst till en koppling ska kunna ges per person eller grupp, och varje ändring ska loggas.

Varje regelbeslut och varje anrop till modell eller verktyg ska skrivas till en revisionslogg innan svaret eller åtgärden lämnas ut. Kan posten inte skrivas ska anropet nekas.

Revisionsloggen ska vara skyddad så att en ändrad eller borttagen post kan upptäckas vid kontroll.

Beställaren ska kunna verifiera revisionsloggens integritet utan leverantörens medverkan, och loggen ska vara skyddad även mot den som driftar tjänsten, till exempel genom förankring hos tredje part eller nycklar som leverantören inte kontrollerar.

En loggpost ska visa vilken person och vilken AI-tjänst som gjorde anropet, tid, vilken modell eller vilket verktyg som användes, vilket regelbeslut som fattades och ett gemensamt spår-id som binder ihop anropets delar.

Revisionsloggen ska inte innehålla mer personuppgifter än nödvändigt. Frågor och svar ska bara sparas om beställaren har beslutat det, och då med en bestämd lagringstid och särskild läsbehörighet.

Beställaren ska kunna se användning och kostnad per AI-tjänst, modell, grupp och period. Saknat mätunderlag ska synas som saknat, inte som noll.

Beställaren ska kunna sätta tak för kostnad eller förbrukning, så att en enskild tjänst eller grupp inte kan förbruka obegränsat.

Inloggning ska ske via beställarens identitetsleverantör med en öppen standard (SAML 2.0 eller OpenID Connect). Gruppmedlemskap från identitetsleverantören ska kunna styra åtkomst.

Rättigheter att använda, skapa och administrera AI-tjänster ska vara skilda roller, och varje användare ska bara ha de rättigheter rollen kräver.

Användarens identitet ska följa anropet till de informationskällor och verktyg som anropas, så att källans egna behörigheter gäller. En gemensam tjänsteidentitet får inte ersätta användaren.

Anrop från en användare som inte kan identifieras ska nekas, utom för tjänster som beställaren uttryckligen gjort publika.

När en AI-tjänst söker i beställarens dokument ska användaren bara få svar, citat, titlar och källhänvisningar från dokument hen har behörighet till i källsystemet.

Beställarens data och tjänster ska vara separerade från andra kunders. Leverantören ska beskriva separationen (instans, databas, nätverk, nycklar) och hur den kontrolleras.

Data ska vara krypterade under överföring (minst TLS 1.2) och vid lagring. Leverantören ska redovisa hur nycklar hanteras och vem som har åtkomst till dem.

Tjänsten ska kunna upptäcka och maska personnummer och liknande identifierare innan de når en modell eller loggen, enligt beställarens regel. Leverantören ska redovisa skyddets kända begränsningar.

AI-tjänster och tillhörande komponenter ska bara kunna skicka data till mål som beställaren har godkänt.

Leverantören ska ha en dokumenterad process för säker utveckling, sårbarhetshantering och uppdateringar. Programpaket ska vara signerade och ha en förteckning över beståndsdelar (SBOM) som beställaren kan få.

Beställarens data, inklusive loggar, metadata, konfiguration och säkerhetskopior, ska lagras och behandlas inom EU/EES. Undantag kräver beslut enligt KL-05.

Beställarens data får inte användas för att träna eller förbättra modeller. Modelleverantörer ska inte lagra frågor och svar utöver vad som krävs för att leverera svaret. Kravet ska gälla hela kedjan av underbiträden och redovisas per modell.

Leverantören ska teckna personuppgiftsbiträdesavtal enligt GDPR art. 28 med en förteckning över underbiträden, land och ändamål, och ge beställaren möjlighet att invända mot nya underbiträden.

Personuppgifter ska kunna raderas på begäran, och raderingen ska omfatta härledda kopior som index, sammanfattningar och cache. Vid avtalets slut ska data raderas eller lämnas tillbaka inom avtalad tid, med kvitto.

Tjänstens komponenter ska övervakas så att fel och avbrott upptäcks, och larm ska gå till en bemannad mottagare.

Data ska säkerhetskopieras till en annan fysisk plats, och återställning ska provas regelbundet för den miljö beställaren använder.

Beställaren ska kunna välja mellan flera språkmodeller, varav minst en som drivs inom EU/EES, och välja modell per AI-tjänst.

När en AI-tjänst svarar ur beställarens kunskapskällor ska svaret ange vilka källor det bygger på, och tjänsten ska kunna avstå från att svara när underlaget saknas.

Kopplingar till verktyg och informationskällor ska kunna göras via ett öppet, dokumenterat protokoll (till exempel Model Context Protocol eller likvärdigt), utan kodändring hos leverantören.

Beställaren ska kunna exportera sina data, konfiguration, loggar och kunskapsunderlag i öppna, dokumenterade format, utan tekniska eller ekonomiska hinder.

Leverantören ska ha ett ledningssystem för informationssäkerhet och ett för AI, certifierade enligt ISO/IEC 27001 respektive ISO/IEC 42001 eller likvärdigt, och redovisa omfattning och tillämplighetsförklaring.