Det virkelig viktige for fremtidig kunstig intelligens KI

For et land som Norge vil jeg formulere det grunnleggende spørsmålet om styring av kunstig intelligens (KI) slik:

Hvordan kan samfunnet høste de enorme gevinstene ved KI uten at verken myndigheter eller private teknologiselskaper får for stor kontroll over informasjonen, infrastrukturen og beslutningssystemene samfunnet er avhengig av?

Dette løfter styringen av KI ut av den rent tekniske diskusjonen. Det blir et spørsmål om demokrati, konkurranse, individuell frihet, nasjonal suverenitet, økonomisk makt og samfunnets fremtidige organisering. De firmaer som skal levere tjenester innen kunstig intelligens må ha forretningsmodeller som tåler den åpne konkurransen vi må ha i dette markedet.

Unngå monopoliseringer i samfunnet

Det finnes også en interessant sammenheng med den norske bekymringen knyttet til manglende konkurransepolitikk, for tiden sterkest vist ved situasjonen i dagligvarehandelen, men samtidig aktuell for hele det norske næringslivet.

AI-industrien bør pålegges å opprettholde et tilsyn med AI-utviklingen mens de sporer og styrer risikoen for "rekursiv selvforbedring," eller recursive self-improvement RSI, AIs evne til å omskrive sin egen kode og bli eksponentielt smartere.

Styringen av KI kan utformes slik at den ikke bare hindrer skadelig bruk av teknologien, men også sikrer at nye aktører stadig kan komme til. Slik kan man forhindre at noen få selskaper ender opp som permanente portvoktere (gatekeepers) for intelligens og informasjon.

illustrasjon ved ChatGPT