Hopp til innholdet

Skygge-AI i norske organisasjoner: En økende utfordring  

Hva er skygge-AI?

Mange vet ikke hva skygge-AI betyr, men de fleste har fått med seg skandalen i forbindelse med skolesaken i Tromsø Kommune.

Skygge-AI refererer til uautorisert eller ukontrollert bruk av kunstig intelligens i organisasjoner og bedrifter. Dette kan føre til alvorlige risikoer som datalekkasjer, brudd på personvernregler (GDPR), og spredning av feilinformasjon. 

Tromsø kommune: Et skrekkeksempel 

Den mest omtalte skygge-AI-saken i Norge er skandalen i Tromsø kommune. Kommunen brukte kunstig intelligens som hjelpemiddel i arbeidet med en rapport om ny barnehage- og skolestruktur, noe som resulterte i flere alvorlige feil: 

Les også vårt første interne forslag til et en enkel AI-plan for retningslinjer i norske politiske organisasjoner.
 

Typiske eksempler på skygge-AI i norske organisasjoner 

  1. Uautoriserte chatbots og AI-medhjelpere: Ansatte bruker private AI-verktøy til å utarbeide e-poster, rapporter eller kundesvar uten godkjenning. 
  2. Snikinnførte AI-drevne oversettelsestjenester: Oversettelse av sensitive dokumenter med eksterne AI-tjenester uten sikkerhetsvurdering. 
  3. AI-verktøy for bilde/video: Bruk av AI-bildebehandling for markedsmateriell uten avklaring av rettigheter. 
  4. Automatisk møteresumé: Bruk av AI-baserte opptaker- og transkripsjonsapper på konfidensielle møter. 
  5. Personlig AI-assistent: Kobling av AI-assistenter til bedriftens e-post og kalender uten IT-avdelingens godkjenning. 
  6. AI for dataanalyse: Testing av AI-tjenester på kunde- eller medlemsdata uten autorisasjon. 
  7. Uautorisert innholdsgenerering: Produksjon av artikler eller uttalelser med AI uten kvalitetssikring. 
  8. Gratis plug-ins og utvidelser: Installasjon av AI-tillegg i nettlesere eller kontorprogrammer. 
     

Teknisk gjeld forverrer problemet 

Som påpekt i Nettpilots nyere artikkel Kunstig intelligens og digital omstilling stiller krav til norske bedrifter, kan teknisk gjeld forsterke problemene med skygge-AI. Mange norske bedrifter har IT-systemer som kan sammenlignes med et hus fra 60-70-tallet der kun overfladiske oppgraderinger er gjort. Dette gjør det vanskelig å implementere AI på en kontrollert måte, noe som kan føre til at ansatte tar i bruk uautoriserte løsninger. 
 

AI-kaoset i sensitive sektorer 

Spesielt bekymringsfullt er bruken av skygge-AI i sensitive sektorer som helsevesen, farmasøytisk industri og offentlig forvaltning. Som vi beskrev i artiklen om «AI-kaoset i sensitive sektorer«, kan ukritisk bruk av AI i disse områdene få alvorlige konsekvenser. 
 

Hvordan unngå skygge-AI? 

For å motvirke skygge-AI bør organisasjoner: 

  1. Utarbeide tydelige retningslinjer for AI-bruk 
  2. Implementere sporingsverktøy for å overvåke AI-bruk 
  3. Tilby godkjente AI-løsninger som dekker ansattes behov 
  4. Utvikle en intern AI-plan for å sikre kontroll og kvalitet 
  5. Gi opplæring i ansvarlig bruk av AI, slik Nettpilot tilbyr gjennom sine AI-kurs 
     

AI-assistenter

I stedet for at ansatte bruker uautoriserte verktøy, kan organisasjoner implementere skreddersydde AI-assistenter som følger virksomhetens retningslinjer. Nettpilot kan bistå med AI-assistenter som utvikles med fokus på sikkerhet, personvern og kvalitet, og kan integreres i eksisterende systemer. 
 

Vi hjelper gjerne med råd og veiledning 

Skygge-AI representerer en betydelig risiko for norske organisasjoner. Ved å etablere klare rutiner, retningslinjer og kontrollmekanismer, kan virksomheter sikre ansvarlig og trygg bruk av kunstig intelligens. Nettpilot tilbyr både rådgivning, workshops og konkrete løsninger for å hjelpe norske organisasjoner med denne utfordringen. 

Kontakt gjerne Nickolass Jensen på tlf 40043101, hvis du har lyst på en sparringspartner i en intern Workshop.