AI og fortrolige oplysninger: Hvad forsvarsvirksomheder skal vide

Kunstig intelligens kan hjælpe virksomheder i forsvarssektoren med at gennemgå teknisk dokumentation, bearbejde kravspecifikationer, analysere data og effektivisere arbejdsgange. Mange af disse opgaver involverer imidlertid oplysninger om militære systemer, komponenter, sårbarheder, leverandører eller operative behov.

Når en medarbejder indsætter tekst i en prompt, uploader et dokument eller giver et AI-værktøj adgang til virksomhedens systemer, stilles oplysninger til rådighed for værktøjet. I forsvarssektoren kan konsekvenserne række langt ud over et simpelt tab af fortrolighed. Tekniske oplysninger, operative forhold, sårbarheder og andre sikkerhedskritiske oplysninger kan blive tilgængelige for uvedkommende, hvis de behandles forkert.

Artiklen henvender sig ikke kun til producenter af militært materiel. Også underleverandører, software- og teknologivirksomheder, dual-use-virksomheder, rådgivere og andre aktører i forsvarsindustriens leverandørkæde kan behandle oplysninger, der kræver særlig beskyttelse. En rådgiver kan for eksempel få adgang til sikkerhedsvurderinger eller hændelsesrapporter. Tilsvarende kan en underleverandør modtage tekniske tegninger eller kravspecifikationer. 

1. Hvad forstås ved fortrolige data i en forsvarskontekst?

I denne artikel anvendes "fortrolige data" som en samlet betegnelse for oplysninger, der kræver særlig beskyttelse. Forsvarsvirksomheder vil alene behandle oplysninger klassificeret efter sikkerhedscirkulæret, hvis disse overlades til dem fra en myndighed, der er underlagt sikkerhedscirkulæret, eller hvis en sådan myndighed generelt angiver, at kunderelationer, produktet mv. skal anses for klassificeret. At håndtere klassificerede oplysninger – især i it-systemer – er en særdeles bebyrdende opgave, der både forudsætter sikkerhedsgodkendelse af relevante medarbejdere samt akkreditering af it-systemer, der eventuelt skal behandle oplysningerne.  Reglerne herom har vi beskrevet i en tidligere artikel (indsæt link).

For en virksomhed i forsvarssektoren kan fortrolige data herudover være angivet som sådan i en aftale med en kunde eller anden part. 

Alt efter omstændighederne kan begrebet derfor dække over klassificerede oplysninger, tekniske specifikationer, tegninger, testresultater, oplysninger om sårbarheder og sikkerhedsforanstaltninger samt oplysninger om systemers anvendelse. Det kan også være forretningshemmeligheder, udviklingsplaner, kunde- og leverandørforhold eller oplysninger, der er fortrolige i henhold til kontrakter eller fortrolighedsaftaler. Endelig kan materialet indeholde personoplysninger om medarbejdere, leverandører eller brugere, der er reguleret af databeskyttelsesreglerne.

Det afgørende er ikke kun den enkelte oplysning. Oplysninger, der hver for sig virker harmløse, kan tilsammen afsløre væsentlige forhold om et system, et projekt eller en operation. Fjernelse af et kundenavn eller projektnummer er derfor ikke nødvendigvis tilstrækkeligt, hvis projektet eller f.eks. en kapacitet fortsat kan identificeres.

En teknisk tegning eller kravspecifikation er for eksempel ikke nødvendigvis sikkerhedsklassificeret, men kan stadig indeholde forretningshemmeligheder eller oplysninger underlagt en non-disclosure agreement (NDA). Materialet bør derfor ikke benyttes i et AI-system, før virksomheden har afklaret oplysningernes karakter og systemets godkendelse til den pågældende type oplysninger.

2. Før brugen af AI: Kend opgaven, dataene og værktøjet

Afklar formålet
Virksomheden bør først afklare, hvad AI-værktøjet skal bruges til. Formålet har betydning for, hvilke oplysninger der er nødvendige, hvilket værktøj der kan anvendes, og hvilke sikkerhedskrav der gælder.

Der er stor forskel på at anvende AI til at forbedre en generisk tekst og på at lade værktøjet gennemgå en kravspecifikation til et militært kommunikationssystem, analysere testresultater for en komponent eller få adgang til et dokumentbibliotek med oplysninger fra en forsvarskunde.

Kravene til sikkerhed bør derfor afhænge af både oplysningernes karakter, AI-værktøjets adgang og konsekvenserne, hvis oplysningerne videregives eller anvendes forkert.

Klassificér oplysningerne
Før AI-værktøjet anvendes, bør medarbejderen identificere de oplysninger, som skal behandles og vurdere deres beskyttelsesbehov.

Klassifikationen skal have en praktisk konsekvens. Virksomheden bør tage udgangspunkt i sine gældende klassifikationsregler og i de krav, der følger af kundens sikkerhedsinstrukser, kontrakten og eventuelle eksportkontrolforpligtelser. Vurderingen skal afgøre, hvilke systemer oplysningerne må behandles i, hvem der må få adgang, og hvilke sikkerhedsforanstaltninger der skal anvendes.

I forsvarsrelaterede projekter bør virksomheden særligt være opmærksom på, at også ikke-klassificerede oplysninger kan være beskyttelsesværdige. En kombination af oplysninger om for eksempel en komponents funktion, kundens krav, systemintegrationer og leveringsplaner kan afsløre forhold om et militært system eller en operativ kapacitet.

Klassifikationen kan efter omstændighederne ske mere detaljeret end på dokumentniveau. Et dokument kan indeholde både generiske oplysninger og enkelte oplysninger, der kræver særlig beskyttelse. Virksomheden bør derfor overveje, om den relevante del kan udskilles fra dokumentet i sin helhed, mens de fortrolige oplysninger fjernes.

Hvis AI-løsningen behandler personoplysninger 
Hvis AI-værktøjet skal behandle personoplysninger, skal behandlingen heraf risikovurderes. 

Hvis behandlingen indebærer en høj risiko for de registreredes rettigheder og frihedsrettigheder, skal virksomheden gennemføre en konsekvensanalyse (DPIA) efter kravene i GDPR, før værktøjet får adgang til virksomhedens data. 

Virksomheden bør samtidig være opmærksom på forskellen mellem anonymisering og pseudonymisering af personoplysninger. Pseudonymiserede oplysninger er fortsat personoplysninger og er derfor omfattet af databeskyttelsesreglerne. 

Kend værktøjet 
Alle AI-værktøjer er ikke ens. Der er stor forskel på et frit tilgængeligt værktøj, en virksomhedsadministreret løsning og et system, der udvikles og/eller drives i et særskilt kontrolleret miljø.

Virksomheden bør afklare, om værktøjet er godkendt til den påtænkte anvendelse, hvilke datakategorier det må behandle, hvor data opbevares, og om input eller dokumenter gemmes eller anvendes til træning af modellen.

Virksomheden bør samtidig have klare retningslinjer for, hvilke oplysninger der må deles med AI-løsningen, og hvordan data må bevæge sig mellem interne systemer og eksterne værktøjer.

For klassificerede oplysninger gælder et særligt højt beskyttelsesniveau og – som nævnt – omfattende krav om akkreditering. Sådanne oplysninger kan derfor ikke behandles i et AI-system alene fordi leverandøren markedsfører løsningen som sikker eller rettet mod erhvervskunder. Og selv hvis virksomheden selv drifter og hoster AI-systemet i et air-gapped miljø uden berøring med internettet, skal de strenge krav til akkreditering af it-systemer fastsat i sikkerhedscirkulæret være opfyldt inden data eksponeres for AI-løsningen. Det er således for de fleste reelt ikke muligt at anvende AI-systemer til behandling af data, der er klassificerede efter sikkerhedscirkulæret.

Og selv i tilfælde, hvor data ikke er klassificerede, bør forsvarsvirksomheders vurdering også omfatte, om kundens sikkerhedskrav eller kontrakten begrænser, hvilke leverandører, systemer eller lande der må indgå i behandlingen. At et AI-værktøj er godkendt til virksomhedens almindelige interne oplysninger, betyder ikke nødvendigvis, at det må anvendes på oplysninger modtaget fra en kunde eller en samarbejdspartner.

3. Under brugen af AI: Begræns input og adgang

Brug kun de nødvendige oplysninger
AI-værktøjer bør kun modtage de oplysninger, der er nødvendige for at løse den konkrete opgave. Hvis en opgave kan løses på baggrund af et uddrag eller en generisk beskrivelse, bør virksomheden undgå at dele hele dokumenter eller datasæt.

Hvis AI-værktøjet for eksempel skal hjælpe med at udarbejde en skabelon, kan opgaven typisk løses uden deling af fortrolige oplysninger, såsom navn på kunde og produkt. Her vil medarbejderen kunne erstatte navnet med en neutral betegnelse, såfremt den resterende sammenhæng ikke fortsat gør det muligt at identificere de forhold, som virksomheden ønsker at beskytte. 

Begræns adgangen til data og systemer 
Virksomheden bør endvidere tage stilling til, hvilke data og systemer værktøjerne må få adgang til.

Adgangen bør baseres på princippet om mindst mulige privilegier. Medarbejdere, integrationer og konti bør alene have adgang til de oplysninger og funktioner, der er nødvendige for den konkrete opgave. Adgangsrettigheder bør samtidig gennemgås løbende og tilpasses, når behovene ændrer sig.

Virksomheden bør i den forbindelse overveje tekniske foranstaltninger, der understøtter de interne retningslinjer, herunder begrænsninger på brugen af ikke-godkendte AI-værktøjer eller kontrol med upload af bestemte datatyper. 

Ikke alle AI-løsninger bør have adgang til de samme data. En AI, der hjælper med at drive OT-teknologi, bør som udgangspunkt ikke have adgang til de samme systemer og oplysninger som en AI, der anvendes til analyse af tekniske kalibrerings- og analysedata fra et forsvarssystem. Virksomheden bør derfor segmentere miljøer, integrationer og adgange efter anvendelse og risikoniveau.

Beskyt data gennem behandlingen
Oplysninger bør beskyttes under hele behandlingen, herunder når de overføres, behandles og opbevares. 

Basal sikkerhed forudsætter styring af adgangskontrol, autentifikation, begrænsning af integrationer, logning og andre sikkerhedsforanstaltninger, der gør det muligt at kontrollere, hvem der har haft adgang til systemet, og hvordan oplysningerne er blevet anvendt, opbevaret og slettet mv.

Der bør i den forbindelse tages højde for, at loggene selv kan indeholde fortrolige oplysninger. Adgangen til logdata bør derfor også være underlagt passende sikkerhedsforanstaltninger.

4. Efter brugen af AI

Opbevar og slet sikkert
Virksomheden bør have klare regler og rutiner for opbevaring og sletning af prompts, dokumenter, output og logs.

Oplysninger bør ikke gemmes i AI-værktøjer længere end nødvendigt, og sletning bør ske efter virksomhedens procedurer. Samtidig bør virksomheden afklare, hvilke muligheder leverandøren reelt giver for sletning og dokumentation heraf.

Ved udfasning af et AI-system bør håndteringen omfatte både data, modeller, logs, sikkerhedskopier og øvrige komponenter, som kan indeholde eller afspejle fortrolige oplysninger.

Ikke-godkendte værktøjer 
En særlig risiko opstår, når medarbejdere anvender offentligt tilgængelige eller andre ikke-godkendte AI-værktøjer. 

Her kan der være et manglende kendskab til, hvor dataene lagres, om input bruges til modeltræning, og hvilke tredjeparter der kan få adgang. Virksomheden kan også miste muligheden for at slette oplysningerne. 

For virksomheder i forsvarsindustrien må det anses for uacceptabelt, hvis medarbejdere har nogen som helst adgang til at eksponere fortrolige oplysninger for eksterne systemer og løsninger, herunder også AI-systemer. De dele af forretningen, der behandler fortrolige oplysninger, bør derfor operere helt adskilt både fysisk og på it-infrastrukturniveau fra andre dele af forretningen, der ikke er underlagt samme krav. 

AI-systemets forsyningskæde
Forsvarsvirksomheder bør forstå den forsyningskæde, som AI-værktøjet bygger på. Det gælder blandt andet modeludbydere, cloudleverandører, underleverandører, datakilder og andre tekniske komponenter.

Der bør i den forbindelse sikres adgang til den dokumentation, som virksomheden har brug for til at vurdere værktøjets opbygning og sikkerhed. 

Godkendelsen skal følge ændringerne
AI-systemer ændrer sig løbende gennem nye modeller og integrationer. En godkendelse bør derfor ikke betragtes som permanent.

Virksomheden bør fastlægge, hvilke ændringer der kræver en ny sikkerhedsvurdering eller godkendelse. Det kan for eksempel være ændringer i:

• datatyper
• formål og anvendelse
• modeller
• trænings- og testdata
• leverandører
• adgangsrettigheder

Hvis oplysninger deles forkert eller data kompromitteres
Virksomheden bør have en enkel og kendt procedure for situationer, hvor fortrolige oplysninger kompromitteres. Denne bør møde de basale standarder for hændelseshåndtering, der bl.a. følger af relevante sikkerhedsstandarder og regulering som NIS 2.

Ved mistanke om fejlagtig deling af fortrolige oplysninger bør brugen straks stoppes, og virksomheden bør afdække, hvilke oplysninger der er berørt, hvilket værktøj der er anvendt, og hvilke konsekvenser hændelsen kan have.

De relevante funktioner bør involveres hurtigt, og virksomheden bør undersøge mulighederne for at begrænse, slette eller afbøde konsekvenserne.

5. Ledelsen skal skabe rammerne

Sikker anvendelse af AI kan ikke overlades til den enkelte medarbejder.

Ledelsen bør fastlægge, hvilke AI-værktøjer der er godkendt, hvilke data de må anvendes til, hvem der kan godkende nye anvendelser, og hvordan hændelser rapporteres.

Ansvar bør fordeles tydeligt mellem ledelse, data- og systemejere, it- og sikkerhedsfunktioner, juridiske og compliancefunktioner samt de medarbejdere, der anvender AI i praksis.

Uddannelse bør tilpasses den enkelte rolle og suppleres med målrettet træning for medarbejdere, der udvikler, driver eller godkender AI-systemer.

6. En operationel tjekliste

Før forsvarsrelaterede oplysninger anvendes i et AI-værktøj, bør virksomheden som minimum afklare følgende:

1. Kommer oplysningerne fra Forsvaret, en anden forsvarsmyndighed, en hovedleverandør eller en samarbejdspartner?
2. Er oplysningerne omfattet af klassifikation, sikkerhedsinstrukser, kontraktuelle fortrolighedskrav eller eksportkontrolregler?
3. Kan opgaven løses uden kundenavn, projektnavn, systembetegnelse, lokation, komponentnumre eller andre identificerende oplysninger?
4. Kan oplysningerne afsløre forhold om et militært system, en sårbarhed eller en forsyningskæde, selv om de ikke er klassificerede?
5. Er AI-værktøjet godkendt til netop denne type oplysninger og den konkrete anvendelse?
6. Hvordan skærmes oplysningerne effektfuldt og sikkert fra tredjeparter og internettet?
7. Er det klart, hvem der skal kontaktes ved tvivl om klassifikation, eksportkontrol, kontraktuelle begrænsninger eller informationssikkerhed?
8. Er virksomheden forberedt på at håndtere en situation, hvor oplysninger deles forkert eller kompromitteres?
9. DLA Piper bemærker
   AI kan skabe betydelig værdi i forsvarssektoren, men kun hvis virksomhederne bevarer kontrollen over deres data.

Udfordringen er derfor ikke alene at vælge et sikkert AI-værktøj. Det handler om at etablere en løbende proces, hvor data klassificeres, leverandører vurderes, adgang begrænses, ændringer genvurderes, og hændelser håndteres effektivt.

Det kræver samarbejde mellem ledelse, forretning, it, informationssikkerhed, compliance, juridiske funktioner og brugere.

Har I spørgsmål til håndtering af fortrolige data ved brug af AI, eller ønsker I bistand til at etablere interne retningslinjer, risikovurderinger og operationelle processer, er I velkomne til at kontakte partner Nick Bronstein på nick.bronstein@dk.dlapiper.com.