Tilbake til blogg
GuiderPublisert 13. november 20266 min lesing

Hva skjer når KI-agenten svarer feil?

En KI-agent kan gi svar som høres riktige ut, men som er feil. Bedriften bør regne med å stå ansvarlig for det agenten sier til kundene, slik en kanadisk tvisteløsningsnemnd kom til i saken mot Air Canada i 2024. Feil blir sjeldnere når agenten bare svarer ut fra deres eget innhold og en ansatt tar over når svaret mangler.

H

Av Helkrypt AI

AI-rådgiver

Hvorfor svarer en KI-agent feil?

Språkmodellen bak agenten lager tekst ut fra mønstre, ikke ut fra en forståelse av hva som er sant. Sikkerhetsmiljøet OWASP beskriver feilinformasjon som en kjernesårbarhet for løsninger som bygger på språkmodeller. Den viktigste årsaken er det OWASP kaller hallusinasjon: modellen fyller hull med statistiske mønstre og lager svar som virker riktige, men som er grunnløse. Skjevheter i treningsdata og ufullstendig informasjon kan også gi feil.

OWASP peker på en risiko til: at folk stoler for mye på svarene og lar være å sjekke dem. En kunde som får et sikkert formulert svar fra nettsiden deres, har liten grunn til å tvile.

Hvem har ansvaret når agenten tar feil?

Den mest omtalte saken er Moffatt mot Air Canada. En kunde spurte chatboten på Air Canadas nettsted om rabatt ved dødsfall i familien. Chatboten svarte at kunden kunne søke om rabatten i etterkant. Det tillot ikke Air Canada.

Air Canada mente selskapet ikke kunne holdes ansvarlig for det chatboten sa. Civil Resolution Tribunal i British Columbia var uenig og avgjorde saken 14. februar 2024. Nemnda skrev at chatboten «is still just a part of Air Canada's website», og at det ikke spiller noen rolle om informasjonen kommer fra en vanlig side eller en chatbot. Nemnda la også vekt på at kunden ikke burde måtte dobbeltsjekke chatboten mot en annen del av nettstedet. Air Canada ble dømt til å betale 812,02 kanadiske dollar, medregnet renter og gebyr.

Avgjørelsen er kanadisk og binder ikke norske domstoler. Vi bruker den fordi den viser hvordan argumentet «det var chatboten, ikke oss» ble vurdert. Vårt råd er å planlegge som om dere står ansvarlig for alt agenten sier, akkurat som for resten av nettsiden.

Endrer de nye EU-reglene om produktansvar noe?

EU vedtok i 2024 et nytt produktansvarsdirektiv, (EU) 2024/2853. Det regner programvare som et produkt og gjelder produkter som bringes i omsetning eller tas i bruk etter 9. desember 2026.

Direktivet gjelder erstatning ved død, personskade og tingsskade, ifølge regjeringens EØS-notat. Et feil svar om pris eller vilkår gir sjelden slike skader. For en agent som svarer kunder, er det derfor feil av Air Canada-typen som er mest aktuelle.

I Norge er direktivet ennå ikke en del av EØS-avtalen. Regjeringens EØS-notat, datert 14. august 2025, sier at rettsakten er under vurdering i EØS/EFTA-statene, og at innlemmelse vil kreve endringer i produktansvarsloven og Stortingets samtykke.

Slik blir feil sjeldnere

Ingen kan love en agent som aldri tar feil. OWASP anbefaler blant annet at modellen henter svarene fra verifisert informasjon, at et menneske kontrollerer kritisk eller sensitiv informasjon, at viktige svar valideres automatisk der det går, og at brukerne får vite at innholdet er KI-generert og kan være feil. I praksis betyr det dette:

  • Svar bare ut fra godkjent innhold. Agenten henter svarene fra dokumenter og sider dere har godkjent, ikke fra det modellen «vet».
  • Gi agenten en smal oppgave. OWASP råder til å være konkret om hva løsningen skal brukes til. Skal agenten svare om åpningstider og levering, trenger den ikke svare om erstatning.
  • La agenten si fra når den ikke vet. Finnes ikke svaret i innholdet, sier den det og sender saken videre til en ansatt.
  • La et menneske godkjenne det som binder dere. Priser utenfor prislisten, refusjon, avtaler og alt som ligner juridiske eller medisinske råd bør en ansatt se på før kunden får svar.
  • Merk agenten som KI. OWASP anbefaler å merke KI-generert innhold tydelig. Vi har skrevet mer om kundene må få vite at de snakker med en KI.

Slik oppdager dere feilene

Feil dere ikke ser, blir ikke rettet. Disse rådene er våre, ikke lovkrav:

  • Lag en liste med vanlige og vanskelige kundespørsmål, og test agenten mot den før lansering og etter hver endring.
  • Gå jevnlig gjennom samtaler, særlig de som endte hos en ansatt.
  • Rett kilden, ikke bare svaret. Gir agenten feil pris fordi et dokument er gammelt, er det dokumentet som må oppdateres.
  • Endrer dere priser eller vilkår, oppdaterer dere innholdet agenten bruker samme dag. Air Canada-saken handlet nettopp om at chatboten og en annen side sa forskjellige ting.

Slik gjør vi det

Vi velger agent ut fra behovene deres etter kartlegging, prioritert plan og fast pris, og kan drifte den hos oss mot en løpende månedspris. Agenten svarer ut fra deres eget innhold, er alltid merket som KI der kundene møter den, og dere eller en kollega tar over når den ikke kan svare. Når vi drifter agenten, følger vi opp og forbedrer den, og dere får svar fra oss innen to virkedager.

Les mer om KI-agent som jobber for deg og om automatisering. Lurer dere på hvor samtalene lagres, har vi skrevet om hvor dataene havner når en KI-agent driftes for dere. Hvordan vi selv behandler data, står på personvernsiden.

Spørsmål og svar

Kan en KI-agent garantere riktige svar?

Nei. OWASP beskriver hallusinasjon som en hovedårsak til feilinformasjon fra språkmodeller. Godkjent innhold, en smal oppgave og en ansatt som tar over gjør feil sjeldnere, men fjerner dem ikke.

Holder det å skrive at svarene kan være feil?

En slik advarsel er nyttig, og OWASP anbefaler å fortelle brukerne om begrensningene. I Air Canada-saken hjalp det ikke selskapet at riktig informasjon sto på en annen side av nettstedet.

Hva betyr hallusinasjon?

At språkmodellen lager et svar som virker riktig, men som ikke bygger på fakta. Det skjer når modellen fyller hull med statistiske mønstre.

Gjelder Air Canada-avgjørelsen i Norge?

Nei, den er fra en kanadisk tvisteløsningsnemnd og binder ikke norske domstoler. Den viser likevel hvordan påstanden om at chatboten var ansvarlig for seg selv, ble avvist.

Vil dere vite hvordan en agent kan svare kundene deres trygt? Ta kontakt, så starter vi med en kartlegging. Vi jobber med bedrifter i hele Norge.

Dette er generell informasjon, ikke juridisk rådgivning.

Kilder (lest 13. november 2026)

  • Civil Resolution Tribunal (British Columbia), Moffatt v. Air Canada, 2024 BCCRT 149, avgjort 14.02.2024 (avsnitt 2, 27, 28 og 44: chatbotens svar, «still just a part of Air Canada's website», ingen plikt til å dobbeltsjekke, 812,02 kanadiske dollar). https://decisions.civilresolutionbc.ca/crt/crtd/en/item/525448/index.do
  • OWASP Gen AI Security Project: LLM09:2025 Misinformation (hallusinasjon, skjevheter og ufullstendig informasjon, overdreven tillit; tiltak: henting fra verifisert informasjon, menneskelig kontroll, automatisk validering, risikokommunikasjon, merking og avgrenset bruksområde; Air Canada som eksempel). Udatert side, lest 13.11.2026. https://genai.owasp.org/llmrisk/llm092025-misinformation/
  • Regjeringen.no, EØS-notatbasen: «Produktansvarsdirektivet», EØS-notat datert 14.08.2025 (programvare er produkt; gjelder produkter brakt i omsetning eller tatt i bruk etter 9. desember 2026; død, personskade og tingsskade; under vurdering i EØS/EFTA-statene; krever endringer i produktansvarsloven og Stortingets samtykke). https://www.regjeringen.no/no/sub/eos-notatbasen/notatene/2022/des/produktansvarsdirektivet/id2950176/
  • Helkrypts egne sider (lest 13.11.2026): https://www.helkrypt.no/ki-agent (kartlegging, prioritert plan, fast pris, hosting mot månedspris, svarer ut fra eget innhold, alltid merket som KI, kollega tar over, vi følger opp og forbedrer, svar innen to virkedager).
#ansvar#hallusinasjon#produktansvar#ki-agent
Del artikkel:

Helkrypt AI

Klar for å automatisere?

Fortell oss kort hva bedriften din trenger, så svarer vi innen to virkedager med forslag til neste steg. Ingen binding.

Kom i gang

Mer fra journalen

Relaterte artikler