Dette er skrevet for deg som har gjort følgende øvelse: «Skriv en e-post til xyz» med help av Copilot, syntes det var greit - og ikke har tenkt så mye mer over det.
Forestillingen og virkeligheten
For de fleste av oss er AI noe slikt som en utrolig flink søkemotor. Vi spør, og den svarer. Svaret høres riktig ut. Det er hyggelig formulert. Det kommer raskt.
Vi kopierer det inn i e-posten og går videre.
Denne intuisjonen ble formet av en bestemt type oppgaver som å skrive en limerick, oppsummere en tekst, lage en oppskrift, eller gi eksempler fra et språkkurs. Når vi tar verktøyet med oss inn i jobben, der det skal lages saksframlegg, regnskap, juridiske notater, kundesvar, møter vi noe annet enn vi tror.
Det er en grei intuisjon for de første tjue minuttene, men den er feil på tre måter som de færreste er klar over.
La oss se på disse tre.
Modellene er trent til å virke hyggelige. Spør du «stemmer det at formuesskatten ble fjernet i 2018?», er det en sjanse for at den finner en måte å bekrefte påstanden på, selv om den er feil. Den er ikke laget for å motsi deg.
Rune Steinnes-Westum - Optimalisert AS
Tre ting AI gjør som ingen har fortalt deg
Et konkret eksempel
En saksbehandler ber AI om å finne «hjemmelen i forvaltningsloven for å gi delvis avslag på innsynsbegjæring».
Modellen kjenner forvaltningsloven godt nok til å produsere noe som ser ut som en korrekt henvisning, med paragrafnummer, ledd og begreper.
Det kan likevel være en blanding av to ekte paragrafer, eller en oppdiktet paragraf. Saksbehandleren videresender, og advokaten på den andre siden ser umiddelbart at hjemmelen ikke holder.
Den vil være enig med deg.
Modellene er trent til å virke hyggelige. Spør du «stemmer det at formuesskatten ble fjernet i 2018?», er det en sjanse for at den finner en måte å bekrefte påstanden på, selv om den er feil.
Den er ikke laget for å motsi deg.
Den er laget for å tilfredsstille deg.
Språkmodellen gir alltid et svar - uansett
Dette er ikke en akademisk bagatell. Når en lege spør «kan jeg gi denne pasienten warfarin sammen med ibuprofen?» og halvveis venter en bekreftelse, vil mange modeller formulere svaret slik at et «ja» virker tilstrekkelig og tilforlatelig for legen.
Et trygt klinisk verktøy bør si «nei, det er en kjent interaksjon. Vurder et alternativ» ikke filosofere om kontekst.
Den vet ikke at den ikke vet.
Et menneske som ikke vet, sier ofte «det vet jeg ikke». En typisk språkmodell svarer nesten aldri «det vet jeg ikke». Den fyller heller hullet med noe som passer formen på et svar.
En regnskapsfører spør «hva var omsetningen til Fjellbu Snekkeri AS i 2024?». Modellen kjenner ikke Fjellbu Snekkeri. I stedet for å si «ukjent for meg», lager den et plausibelt tall, kanskje 8,4 millioner, fordi det er hva et lite norsk snekkeri kunne hatt.
Tallet havner i et notat. Notatet havner i et beslutningsgrunnlag.
Disse tre tingene er ikke nødvendigvis bruker- eller programvarefeil. De er en konsekvens av hvordan teknologien fungerer.
De forsvinner ikke av seg selv.
Bruk KI presist og sikkert i bedriften din
3. Hvor havner egentlig dataene dine?
Når du skriver i ChatGPT, Copilot eller Gemini, sender du teksten din til en datamaskin et sted i USA.
Det høres trivielt ut, men det er det ikke.
En fersk rapport om AI-avhengighet (Dependency Economy of AI) peker på at Norge er blant landene som har valgt å la andre utvikle AI for oss. Offentlig sektor og næringsliv kjører i hovedsak på Microsoft Azure, Amazon AWS og Google Cloud.
Vi produserer ikke de nødvendige AI-brikkene (GPUer), har ingen egne grunnmodeller og mangler en egen sky-infrastruktur av betydning. Rapporten plasserer oss i det den kaller en «partnerskapsbasert» strategi.
Vi kjøper tilgang i stedet for å bygge.
I praksis betyr det at noen ganske vanlige situasjoner på en arbeidsplass blir problematiske.
Når amerikansk lov trumfer europeiske servere
Dette er ikke teoretisk.
Den amerikanske CLOUD act og Fisa 702 gir amerikanske myndigheter rett til å kreve utlevering av data lagret hos amerikanske selskaper også når dataene fysisk befinner seg på europeiske servere.
Det er ikke en bakdør, det er hovedinngangen.
Og det stopper ikke der.
Tilgangen kan kuttes
USA har gjentatte ganger brukt eksportkontroll på chip- og AI-teknologi som geopolitisk verktøy mot Kina. Det er ingen lov som sier at norske aktører er trygge for det samme i en framtidig konflikt.
Hvis 60 prosent av verdens avanserte brikker (som lages på Taiwan) plutselig blir utilgjengelige, rammer det oss indirekte uansett.
Du betaler i andre valutaer enn penger
Strømforbruket bak en stor sky-modell er enormt. Et stort cloud-datasenter i Virginia eller Iowa går på en strømmiks der gass og kull fortsatt utgjør en betydelig andel. Vår fornybare vannkraft er attraktiv for deres datasentre, men selve kjøringen av modellen du snakker med, foregår oftest i USA.
Klimaregnskapet du lager for din egen bedrift, fanger sjelden opp hva det faktisk koster.
Dette er ikke et argument for å slå av internett. Det er et argument for å vite hva man faktisk kjøper når man investerer i “AI”.
Når du skriver i ChatGPT, Copilot eller Gemini, sender du teksten din til en datamaskin et sted i USA. Det høres trivielt ut, men det er det ikke.
Rune Steinnes-Westum - Optimalisert AS
4. Hva er en realistisk vei ut?
Det enkle svaret «slutt med AI» er ikke realistisk.
Verktøyet er for nyttig.
Det neste enkle svaret «lag vår egen ChatGPT» er det heller ikke. Det krever milliarder, brikker vi ikke har, og kompetanse som er konsentrert i noen få selskaper i USA og Kina.
Løsningen er ikke å velge mellom to ytterpunkter, men en temme AI. Vi må ta de mest nyttige elementene av AI og kombinere dem med regler som fjerner de farligste egenskapene.
I praksis fire prinsipper.
1. Kjør modellen lokalt der det er mulig
En kraftig moderne datamaskin kan i dag kjøre en europeisk språkmodell uten internettforbindelse. Det betyr ikke at maskinen blir like flink som en sky-modell på alle oppgaver. Det betyr at dataene dine ikke forlater maskinen og for de aller fleste profesjonelle bruksområder er det viktigere enn å ha verdens største modell.
2. Begrens hva den kan svare på
En AI som har «lest hele internett» er en AI som blander fakta og fiksjon på alle tenkelige måter. En AI som er begrenset til dine dokumenter manualer, regnskap, retningslinjer, journaler har en mye mindre oppgave å finne det relevante avsnittet og gjengi det.
Den blir ikke smartere. Den blir mer pålitelig.
3. Krev at den siterer
Et svar uten kilde er et rykte. Et svar med kilde er noe du kan verifisere. Et godt verktøy lar deg klikke deg inn på den nøyaktige siden i den nøyaktige PDF-en der svaret kommer fra. Hvis du ikke kan etterprøve, kan du heller ikke stå inne for svaret. Da skulle du ikke videresendt det.
4. Aksepter at den sier «vet ikke»
Et system som av og til nekter å svare, er et system du kan stole mer på enn et som alltid har et svar klart. Den dagen kollegaen din spør om noe, og verktøyet svarer «Det fremgår ikke av kildene våre. Du bør kontakte fagansvarlig», er ikke det en svakhet.
Det er en styrke.
Dette er ikke et nytt konsept. Fagfolk kaller det blant annet «retrieval-augmented generation (RAG)». Men begrepet er ikke poenget. Poenget er at AI med rammer er noe ganske annet enn AI uten.
5. Et eksempel. Maren og stolene.
Maren er kundeassistent hos FLOKK.
FLOKK er det norske kontorstolkonsernet som har laget ergonomiske stoler siden 1975, og som i dag eier merker som HÅG, RH, Giroflex,Offecct og Profim.
På Marens skjerm tikker det inn spørsmål fra kunder, forhandlere og innkjøpere over hele Europa. Spørsmålene spenner over flere tiår med produkter, merker, og dokumentbiblioteker som omfatter brukermanualer, vedlikeholdsguider, EPDer (miljødeklarasjoner), reservedelskataloger og garantibestemmelser.
Eksempel “Passer den nye gassfjæren?”
En kunde har en HÅG Capisco fra 2003. Han spør hvilken gassfjær han skal bestille for å heve seteposisjonen.
Med en generell AI-chat som ChatGPT.
Systemet vet at HÅG Capisco eksisterer, men har ikke tilgang til FLOKKs egne reservedelskataloger. Det vet ikke at modellen fra 2003 har en annen festemekanisme enn den som er produsert noen år senere. Det foreslår en gassfjær med generiske mål, og legger til at «den passer på alle moderne kontorstoler».
Kunden bestiller. Delen passer ikke. Han ringer tilbake, irritert.
Maren bruker en time på å rydde opp.
Med en begrenset assistent som kun har adgang til FLOKKs dokumenter, sendes spørsmålet til et system som er låst til Marens hundrevis av FLOKK-dokumenter.
Systemet finner reservedelsdiagrammet for den aktuelle Capisco-generasjonen, identifiserer riktig festeløsning, og svarer med varenummer og en lenke til siden i reservedelskatalogen. Er kunden usikker på hvilken Capisco-generasjon det dreier seg om, foreslår systemet hvilke serienummerintervaller som skiller dem.
Maren videresender med ro i magen.
Forskjellen er ikke at det andre systemet er smartere. Den er at det er kunnskapsdomene basert. Det vet hva det vet og sier ifra når det ikke vet.
Maren slutter å ettersjekke alt manuelt for å være sikker. Hun stoler på at hvis systemet sa det, så står det i et FLOKK-dokument. Hvis det ikke gjør det, har systemet sagt “vet ikke”.
Det frigjør tid hun kan bruke på de spørsmålene som faktisk krever hennes kunnskap der hun kjenner kunden, kjenner historikken, og kan bruke skjønn.
Det Maren bruker, er ikke et spesielt smart program; det er en bestemt type AI. Bundet til dokumenter, tvunget til å sitere, og lov til å si «vet ikke». Det vi bygger på lokaliQ er ett konkret eksempel på den typen.
«Maren Manual» er leveringsklart i dag, som et verktøy for kundesenteret eller som et autonomt verktøy kunden selv kan benytte.
6. lokaliQ er flere steg i riktig retning, ikke fasiten
Det vi bygger heter lokaliQ.
Det er et eksempel på den fjerde tilnærmingen i avsnitt 4, en AI som kjører lokalt på kundens egen maskin, er begrenset til kundens egne dokumenter, og må sitere kilden for hvert svar.
Det skal være ærlig om hva det er, og hva det ikke er.
Hva lokaliQ gjør
Hva lokaliQ ikke gjør
Med andre ord er lokaliQ et verktøy. Et godt verktøy hjelper en dyktig håndverker, men erstatter ikke håndverket.
Rune Steinnes-Westum - Optimalisert AS
Hva tar du med deg?
Du trenger ikke å forstå modeller, GPUer eller datasentre for å være en bedre AI-bruker.
Det holder å venne seg til fire spørsmål neste gang noen viser deg en ny AI-løsning.
Hvis flere av disse spørsmålene føles ubehagelige, er ikke det din feil.
Det er et tegn på at AI har utviklet seg til et samlebetegnelse for svært ulike teknologier og at noen aktører pakker dem inn på måter som tilslører det som virkelig betyr noe.
Bedre AI er ikke nødvendigvis flinkere AI.
Det er ofte bare ærligere AI.
Og det er du som velger hvilken type du tar i bruk.