Vi må la våre KI-maskiner få lov å selv finne ut hva som er bra

Den bitre lærdommen er at vi må ha øynene åpne for hva kunstig intelligens lærer oss. I 2019 skrev AI-forskeren Rich Sutton en tekst med tittelen "The Bitter Lesson" (Den bitre lærdommen). Budskapet er enkelt, men viktig:

De største fremskrittene innen kunstig intelligens kommer ikke av at mennesker forteller maskinene hva de skal gjøre, men av at maskinene får lære selv.

Maskiner "tenker" annerledes enn mennesker, og vi må la dem gjøre det.

Når vi sier at AI kan «lære selv», betyr det ikke at maskinen tenker eller lærer på samme måte som et menneske. Det betyr at den kan finne mønstre, sammenhenger og løsninger gjennom å behandle store mengder informasjon og prøve ut ulike muligheter – uten at mennesker på forhånd har fortalt den nøyaktig hvordan den skal løse oppgaven.

Et enkelt eksempel:

Tradisjonell programmering:
Vi forteller datamaskinen hvilke regler den skal følge for å kjenne igjen en katt på et bilde. Vi må beskrive egenskaper som ører, øyne, pels og kroppsform.

Maskinlæring:
Vi viser maskinen millioner av bilder, noen med katter og noen uten. Den analyserer bildene og finner gradvis selv hvilke kjennetegn som skiller katter fra andre ting.

Læring gjennom prøving og feiling:
Vi lar maskinen prøve forskjellige løsninger. Den får tilbakemelding på hva som fungerer og ikke fungerer, og forbedrer fremgangsmåten over tid. Dette er blant annet brukt i utviklingen av AI som spiller sjakk og Go.

Hva er det nye?

Det avgjørende er at mennesket ikke lenger behøver å beskrive alle reglene eller løsningene på forhånd. Maskinen kan selv finne frem til metoder som menneskene ikke har tenkt på.

Det er dette Rich Sutton mener med den bitre lærdommen:

Vi må slutte å tro at vi alltid kan lære maskinene best ved å fortelle dem hva vi vet. Ofte kommer de største fremskrittene når vi lar dem finne ut mer på egen hånd.

En viktig presisering: AI lærer ikke nødvendigvis kontinuerlig mens den brukes. Mye av læringen skjer under trening, før modellen tas i bruk.

Linker

KI Norge - Ansvarlig og innovativ kunstig intelligens. For norske virksomheter, på norske premisser.

The Bitter Lesson - Rich Sutton, March 13, 2019