Selvrefererende forbedring
KI-gjennombrudd skjer når systemet refererer til seg selv på nye måter. Nå leder Claude over en fjerdedel av arbeidet med sin egen utvikling.

I M.C. Eschers «Tegnende hender» tegner to hender hverandre. Den ene tegner den andre, som tegner den første. Tegningen er et av eksemplene i Douglas Hofstadters Gödel, Escher, Bach, en bok Demis Hassabis leste som tenåring, ifølge The AGI Chronicles, som jeg skrev om sist. Selvreferanse, systemer som bruker seg selv som råmateriale, er et bilde som passer påfallende godt på utviklingen.
Transformer-arkitekturen (2017) gjorde selvreferansen til motor. Gjennom «self-attention» ser teksten på seg selv for å forstå hvert ord. Og med GPT ble teksten sin egen fasit: Modellen lærer ved å gjette neste ord og sjekke mot det som faktisk står der. Det var ikke lenger nødvendig å merke dataene, bare å gi modellen enorme mengder tekst og regnekraft. Samme år som transformeren kom, lærte DeepMinds AlphaGo Zero seg Go ved å spille mot seg selv, uten et eneste menneskelig parti.
Resonneringsmodellene videreførte dette. De trenes på sine egne løsningsforsøk og belønnes for dem som fører fram. Det var OpenAI som stod for gjennombruddet med o1 i 2024. Hassabis burde kanskje skjønt det først, med sin erfaring fra AlphaGo, men han hadde lenge begrenset tro på språkmodeller.
I 2026 bygger maskinene seg selv. MIT-forskere viste nylig at en språkmodell kan skrive vektene til små spillnett direkte, uten at nettene trenes. Og Anthropic oppgir at Claude i august ledet 26 prosent av Claudes utvikling, mot under 1 prosent tidligere i år. Mennesker fører fortsatt tilsyn, men illustrerende nok var det også Claude som fant ut hvor mye Claude bidrar.
Men en selvrefererende løkke er ingen garanti for fremgang. Modeller som trenes ukritisk på sin egen tekst, blir dårligere for hver generasjon. Det blir som å holde mikrofonen mot høyttaleren: mer lyd, mindre mening. I et forsøk i Nature endte tekst om middelalderarkitektur som en oppramsing av harer.
De store gjennombruddene innen koding og matte er ikke tilfeldige.
For det som fungerer veldig godt, er løkker med en pålitelig målestokk utenfor: spillregler som avgjør hvem som vant, en fasit i matematikk, en test som viser om koden virker. Jason Wei har formulert det som en tommelfingerregel:
Jo lettere det er å kontrollere en løsning, desto lettere er det å trene KI til å finne den.
Og her vender vi tilbake til Escher. Hendene ser ut til å skape hverandre, men tegneren sitter utenfor bildet. Hofstadter brukte tegningen til å forklare Gödel: Et system kan ikke bevise sin egen pålitelighet innenfra. Å lage et resultat og å avgjøre hva det er verdt, er to forskjellige oppgaver.
Når KI utvikler KI, ligger det viktigste i rammene rundt løkka. Hvem setter målene? Hvem velger testene? Og hvem avgjør om en modell som består dem, faktisk er bedre?
Hvem holder blyanten?