Konstruktør: Morten Larsen

I dag har jeg sett litt nærmere på hva Kina og USA egentlig snakker om når de møtes for å diskutere kunstig intelligens. Jeg trur ikke de sitter rundt bordet fordi de plutselig er blitt enige om KI, og jeg trur heller ikke de forsøker å lage én felles KI-lov. Forskjellene mellom dem er rett og slett for store – politisk, økonomisk og ideologisk. Det mest sannsynlige er at de snakker sammen fordi begge ser at noe kan gå skikkelig galt.

Ifølge Reuters ble USA og Kina 21. september 2026 enige om å etablere en mer formell dialog om KI-sikkerhet. USA har også foreslått en egen varslingsmekanisme – en direkte kanal som kan brukes dersom en alvorlig KI-hendelse truer nasjonal sikkerhet. Det høres kanskje teknisk ut, men i praksis handler det om noe ganske enkelt: Hvis noe alvorlig skjer, må landene kunne snakke sammen raskt før en feil eller misforståelse utvikler seg til en større konflikt.

De konkurrerer – men trenger også hverandre

USA og Kina konkurrerer om det meste innen KI: databrikker, modeller, talenter, kapital og militære fortrinn. Ingen av dem vil havne bakpå, samtidig som de utvikler systemer som kan få konsekvenser langt utenfor deres egne grenser.

Og akkurat der oppstår noe interessant. De ønsker ikke å gi motparten et teknologisk forsprang, men de ønsker heller ikke at et cyberangrep, en teknisk feil eller en KI-agent som handler på en uforutsett måte, skal bli tolket som en bevisst fiendtlig handling.

Slik jeg leser kildene, handler samtalene særlig om: • varsling ved alvorlige KI-hendelser • KI-agenter som handler uforutsett eller skadelig • KI-drevne cyberangrep • misbruk av modeller fra kriminelle og andre ikke-statlige aktører • ansvaret til selskapene som utvikler de kraftigste systemene

AP beskriver det amerikanske forslaget som en varslingsmekanisme for KI-hendelser som kan få betydning for nasjonal sikkerhet. Målet skal være større åpenhet og mindre fare for alvorlige misforståelser.

Militær KI og atomvåpen blir også diskutert av amerikanske og kinesiske sikkerhetseksperter. Her har det blant annet kommet forslag om menneskelig kontroll over kritiske beslutninger og tydelige røde linjer rundt atomvåpen. Men det er viktig å skille dette fra den formelle dialogen mellom regjeringene, for forslagene fra ekspertmiljøene er ikke det samme som en inngått avtale.

Likevel er parallellen til atomalderen vanskelig å overse. Landene trenger ikke stole på hverandre for å forstå at enkelte feil kan bli katastrofale.

Det de neppe blir enige om

Det er lettere å være enig om at en katastrofe bør unngås enn å bli enig om hvem som skal bestemme spillereglene. Jeg trur ikke USA og Kina med det første finner en felles linje om eksport av avanserte databrikker, tilgang til kraftige modeller, sensur, overvåkning, personvern eller ytringsfrihet. Her handler det ikke bare om sikkerhet, men også om økonomi, kontroll og makt.

Derfor tenker jeg at disse møtene først og fremst bør forstås som risikoreduksjon mellom to rivaler. De prøver ikke nødvendigvis å bli enige om hvordan KI skal styres i hele samfunnet, men om hvordan de kan unngå de farligste hendelsene. Det er viktig, men det er ikke nok.

For når selv verdens mektigste land er bekymret for å miste kontrollen, bør vi kanskje også spørre oss hvilken makt KI skal få i våre egne liv.

Hvilke regler trenger vi?

Når jeg går dypere inn i dette, kjenner jeg at jeg lander på et ganske tydelig prinsipp: Vi trenger strenge regler der KI kan gjøre stor og konkret skade, og enklere regler for vanlig og ufarlig bruk. Samtidig bør vi gi rom for forskning og mindre, åpne modeller – så lenge de ikke brukes til å ta avgjørelser som kan få alvorlige følger for mennesker.

Det er viktig for meg å si at dette ikke er et forsøk på å gjengi én bestemt rapport eller lovtekst. Det er mine egne tanker om hvor grensene bør gå. Noe finnes allerede i regelverket, mens andre deler er det jeg mener bør komme.

EU har valgt en risikobasert tilnærming gjennom KI-forordningen. Hoveddelen av regelverket ble gjeldende i EU 2. august 2026, mens enkelte bestemmelser begynte å gjelde tidligere. USA har i større grad støttet seg på frivillige rammeverk, blant annet NISTs rammeverk for risikostyring. Men uansett hvordan reglene blir utformet, mener jeg noen grenser må være tydelige.

Et menneske må kunne si: Se på saken min igjen

For meg begynner det med noe helt grunnleggende: Et menneske må aldri bli stående maktesløst overfor en maskin.

Hvis KI er med på å avgjøre om du får jobb, lån, trygd, studieplass eller helsehjelp, må du få vite det. Du må få en forklaring du faktisk kan forstå, og du må kunne be et menneske om å se på saken på nytt. Ingen bør få livet sitt endret av et system som ikke kan forklare seg, og som ingen vil ta ansvar for.

Ansvaret kan ikke forsvinne inn i en algoritme

Når noe går galt, holder det ikke å si at «systemet gjorde det». Noen har utviklet systemet, noen har kjøpt det inn, og noen har bestemt at det skulle brukes. Da må noen også stå ansvarlig for konsekvensene.

Det gjelder særlig når KI brukes i helsevesenet, politiet, rettsvesenet, kritisk infrastruktur eller militære operasjoner. Jo mer som står på spill, desto tydeligere må ansvaret være.

Stor makt må møtes med strenge krav

De kraftigste modellene må tåle de strengeste kravene. Hvis en modell har potensial til å gjøre stor skade, bør den testes grundig før den tas i bruk. Utviklerne må undersøke hvordan modellen kan misbrukes, beskytte den mot digitale angrep og ha rutiner for å varsle dersom noe alvorlig skjer.

Vi sikkerhetstester biler, medisiner og fly. Da er det vanskelig å forstå hvorfor svært kraftige KI-systemer skulle behandles mindre alvorlig.

Vi må kunne se hva som er ekte

Vi må også kunne se når noe er skapt eller manipulert av KI. Hvis en video viser en politiker si noe som aldri ble sagt, eller et bilde etterligner et virkelig menneske, skal vi ikke måtte sitte og gjette på om det er ekte.

Realistiske deepfakes og KI-generert politisk innhold bør merkes tydelig. Når teknologien brukes til falske nakenbilder, identitetstyveri eller svindel, må det også finnes en rask vei til å få innholdet fjernet. Skaden kan være enorm lenge før en tung klageprosess er ferdig.

Barn skal ikke være forsøkskaniner

Barn trenger et særlig vern. En KI-tjeneste for barn bør ikke bygges for å gjøre dem følelsesmessig avhengige eller holde dem på plattformen lengst mulig. Barn skal heller ikke overlates alene til systemer som kan trekke dem mot seksuelt, manipulerende eller selvskadende innhold.

Her mener jeg vi ikke bare kan vente og se hva som skjer. Voksne må tørre å sette grensene før skaden oppstår.

Det som ligger på nettet, er ikke nødvendigvis fritt fram

Så kommer spørsmålet om dataene. KI-modeller lærer av enorme mengder tekst, bilder, musikk og annet innhold som mennesker har skapt. Da synes jeg det er rimelig at selskapene forteller mer om hva modellene trenes på.

Forfattere, kunstnere og andre rettighetshavere må få reelle muligheter til å reservere seg eller inngå ordentlige lisensavtaler. Samtidig må personvernet til menneskene som finnes i datamaterialet, tas på alvor. At noe ligger på nettet, betyr ikke automatisk at det er fritt fram.

KI på jobb må fram i lyset

Også arbeidslivet må tas på alvor. Hvis KI brukes til å overvåke ansatte, sortere jobbsøkere, rangere prestasjoner eller anbefale hvem som skal sies opp, må de berørte få vite det.

Ingen bør få framtiden sin avgjort av et system som påstår at det kan lese følelser, personlighet eller lojalitet gjennom et ansikt, en stemme eller noen tastetrykk. Når det vitenskapelige grunnlaget er svakt, bør teknologien heller ikke få makt over menneskers liv.

Dette handler ikke om å stoppe KI

For meg handler dette ikke om å bremse all utvikling eller møte ny teknologi med frykt. KI kan gi oss mye godt, og den kan hjelpe oss innen forskning, helse, utdanning og på mange andre områder. Men nettopp fordi mulighetene er så store, må vi tørre å stille krav.

Kina og USA snakker nå om hvordan de kan unngå de mest alvorlige KI-hendelsene. Her hjemme må vi samtidig snakke om hvilken makt teknologien skal få over hverdagen, arbeidslivet og rettighetene våre.

Jeg trur ikke vi trenger tunge regler for absolutt alt. Men der KI kan forandre livet til et menneske, må grensene være tydelige. Makt og ansvar må følges ad, og jo større plass KI får i livene våre, desto viktigere blir det å vite hvem som bestemmer, hvem som passer på – og hvem som må svare når noe går galt.

Kilder

• Reuters: USA og Kina skal fortsette samtalene om KI-sikkerhet • AP: USA foreslår en varslingsmekanisme for KI-hendelser • Reuters: Bekymring for militær KI og internasjonal sikkerhet • EUs KI-forordning – Regulation (EU) 2024/1689 • EU-kommisjonen: Oversikt over KI-forordningen og innføringen • NIST AI Risk Management Framework • EØS-notatet om KI-forordningen