Optimalisert AS har i samarbeid med Fjell-Ljom utviklet tjenesten Konsesjonsassistenten, et nytt selvbetjent innsynsverktøy for alle som ønsker enklere tilgang til informasjon om konsesjonssaker i Røros og Holtålen. Den demonstrerer også hvordan lokaliQ er et verktøy som ivaretar sikkerheten for deg som bruker ved anvendelse av kunstig intelligens.
Konsesjonsassistenten finner du på fjell-ljom.no og er bygget på Optimalisert AS sin egen plattform, lokaliQ.
Skal gi enklere innsyn i konsesjonssaker
Målet med Konsesjonsassistenten er å gjøre det enklere for innbyggere, grunneiere, næringsliv og andre interesserte å finne relevant informasjon om konsesjonsbehandling i regionen vår.
Skjermbilde fra Fjell-Ljom: her kan du søke i konsesjonssaker i Røros og Holtålen. Foto: Nils Kåre Nessvoll.
Flere lag med sikkerhet
– Som med alle løsninger basert på språkmodeller, eksisterer det en risiko for at brukere forsøker å benytte verktøyet til formål det ikke er ment for. Det kan være spørsmål stillt om alvorlige temaer som eksempelvis vold og terror - som følgelig ligger langt utenfor konsesjonsassistentens fagområde, sier fagsjef i Optimalisert AS, Rune Steinnes Westum.
Den underliggende språkmodellen som benyttet i dette verktøyet er Mistral Large.
Denne modellen er spesielt godt egnet til å motstå vanlige forsøk på omgåelse, ofte omtalt som «jailbreaks». Dette skjer når brukere forsøker å lure systemet til å generere innhold det normalt ville avvist.
Ingen løsning er helt risikofri
Samtidig understrekes det at ingen språkmodell kan garantere fullstendig beskyttelse.
– Ingen språkmodeller, verken fra Mistral, OpenAI, Copilot eller andre leverandører, er immune mot såkalte jailbreak-forsøk. Suksessraten for slike angrep har blitt betydelig redusert de siste årene, men den vil aldri være null, sier Westum.
Eventuelle feil som slipper gjennom vil i de fleste tilfeller være knyttet til grenseområder og tvetydige problemstillinger, snarere enn de mest alvorlige kategoriene.
Ekstra sikkerhetslag i lokaliQ
For å redusere risikoen ytterligere er det implementert flere sikkerhetstiltak i lokaliQ-plattformen.
- Mangelen på samtalehistorikk er et særlig viktig sikkerhetstiltak fordi det hindrer såkalte iterative angrep, der brukere gradvis forsøker å manipulere systemet gjennom flere meldinger, påpeker Steinnes Westum.
Logger gjennomgås kun ved behov
Logger analyseres kun dersom det foreligger et sikkerhetsmessig eller personvernmessig behov.
Bekymringsverdige hendelser kan dermed vurderes i ettertid, samtidig som personvernet til ordinære brukere ivaretas.
– Ingen teknologisk løsning kan eliminere all risiko på forhånd. Derfor er det viktig å kombinere forebyggende tiltak med gode rutiner for oppfølging dersom noe uønsket skulle oppstå, sier Steinnes Westum.
– Vi mener kunstig intelligens kan bidra til mer åpenhet i lokalsamfunnet når teknologien brukes på riktig måte og innenfor tydelige rammer.
Rune Steinnes Westum - Optimalisert AS
Kontakt ved spørsmål
Har du spørsmål om tjenesten eller oppdager forhold som bør følges opp, ber Optimalisert AS om at du tar direkte kontakt med Fjell-Ljom