Superlett forklaring om TPU — “som forklart til en venn over kaffe”

Det strømmer på med nye begreper i den nye AI/KI verden som nå vokser fram. Her er en forklaring på en av de nye superkomponentene - TPU.

Hva er en TPU?

En TPU er en supermotor for kunstig intelligens.
Den gjør én ting ekstremt bra: regne veldig fort på de typene tall AI bruker.

Hvorfor finnes den?

Vanlige datamaskiner (CPU) og grafikkort (GPU) kan gjøre mye forskjellig, men AI trenger noe helt annet:
å gjøre millioner av små matteoperasjoner samtidig.

TPU er laget kun for dette.

Hvordan kan den være så rask?

Tenk på det slik:

• En CPU er som en dyktig håndverker: flink til mange ting, men jobber én ting av gangen.
• En GPU er som hundre arbeidere som jobber parallelt.
• En TPU er som tusenvis av arbeidere som kun gjør én spesifikk jobb — og gjør den i rekordfart.

Jobben?
Matrise-multiplikasjon, som er hjertet i nesten all moderne AI.

Hva brukes den til?

TPUs driver mye av Googles AI, som:

• Søk
• Foto
• Kart
• Gemini-modellene

De gjør det mulig å trene enorme språkmodeller mye raskere og billigere.

Kort oppsummert

En TPU er en spesiallaget AI‑motor som:

• regner superraskt
• bruker lite energi
• kan kobles sammen i gigantiske dataklynger
• er perfekt for store AI‑modeller

Bilde ved Google