KI systemer i dramatisk utvikling: Sjekk at kunstig intelligens systemer er gjennomtenkte vel lagede systemer

Pass på etikken: Store KI systemer, engelsk AI, kan lett styres i en viss retning, for eksempel bygges slik at de fremmer en viss type politikk eller bestemte synspunkter i et land. Mediene er i dag styrt steinhardt ut fra eiernes forutsetninger og ønsker. Det kan skje med ethvert KI kunstig intelligens system. Denne faren er betydelig og må tas alvorlig for at KI -systemer skal ha en framtid som nyttige verktøy.

Hvem som skal ha KI systemer, hva skal de brukes til, hvilken tyngde skal de ha er en debatt som må komme i gang.

Styringen og utviklingen av KI / AI-systemer er en kompleks teknisk prosess som involverer flere aktører. Det tas mange avgjørelser/beslutninger/gjøres mange valg underveis til det ferdige AI/KI systemet. Her er noen viktige aspekter ved oppbygging og administrasjon av AI-systemer:

• Styreutvalg og tverrfaglig team: Det ideelle er å ha et tverrfaglig team som styrer utviklingen av sitt AI-system. Dette teamet bør inkludere eksperter innen datavitenskap, etikk, samfunnsvitenskap, juridiske spørsmål og representanter fra de berørte samfunnene.

• Ansvarlighet og gjennomsiktighet: Det er viktig at utviklingen og administrasjonen av AI-systemer er ansvarlig og gjennomsiktig. Dette innebærer å dokumentere designvalg, datasettbruk, algoritmeutvikling og åpenhet rundt hvordan systemet tar beslutninger.

• Håndtering av bias, påvirkning: AI-systemer kan reflektere og forsterke samfunnsmessige skjevheter og bias som finnes i dataene de er trent på. Det er viktig å implementere tiltak for å identifisere og redusere slike skjevheter for å sikre rettferdighet og likestilling.

• Korrektighet og pålitelighet: AI-systemer må være nøyaktige og pålitelige. Kontinuerlig testing, validering og revisjon av systemer er nødvendig for å sikre at de gir riktige og konsistente resultater.

• Unngåelse av skjulte meninger: Å unngå at AI-systemer blir preget av innebygde meninger eller skjulte agendaer er en viktig målsetning. Dette innebærer å ha klare retningslinjer for at systemene skal være objektive og transparente.

• Revisjon og kontroll: Ja, revisjon og kontroll av AI-systemer er nødvendig for å identifisere potensielle påvirkninger eller uønskede konsekvenser. Dette kan gjøres ved å regelmessig evaluere systemets ytelse, analysere beslutningsprosesser og implementere endringer der det er nødvendig.

Det er viktig å merke seg at fullstendig eliminering av alle former for bias eller subjektivitet kan være utfordrende. Målet bør være å redusere disse faktorene så mye som mulig gjennom nøye design, testing og kontroll, samtidig som man tar hensyn til etikk og samfunnsmessige konsekvenser. De som koder må ikke bli de som styrer samfunnet.

[Photo by hitesh choudhary: https://www.pexels.com/photo/man-in-grey-sweater-holding-yellow-sticky-note-879109/)