Warfare = software
Programvare er blitt det viktigste våpenet i moderne krigføring, og amerikanerne ligger i front med systemet «Maven». Helt sentralt i utviklingen av Maven står oberst Drew Cukor. Etter 9/11 jobber han som etterretningsoffiser i Afghanistan, og er dypt frustrert over verktøyene han har til rådighet, eller som han oppsummerer det: «Microsoft is where data goes to die.»
Etter å ha sett en dokumentar om DeepMinds AlphaGo i 2017 blir Cukor overbevist om at USA må utvikle KI-baserte krigssystemer. Han møter lite forståelse i Pentagon når han snakker om maskinlæring og autonome systemer, men klarer å fange interessen til viseforsvarsminister Robert O. Work, som er særlig bekymret for at Kina skal få et digitalt forsprang.
Oberst Cukor og teamet hans i “Project Maven” er overbevist om at forsvaret må emulere tankegangen og metodene til Silicon Valley for å hevde seg mot Kina, og det går ikke lang tid før han kommer over startupselskapet Palantir. Han får skreddersydd et anbud, som i praksis bare ett selskap er i stand til å levere på, og da er de i gang for alvor.
Cukors AI-baserte krigssystem blir solgt inn som et avgrenset system for å sortere videoopptak fra droner, med mennesket trygt plassert i beslutningssløyfa. Katrina Manson beskriver i boka “Project Maven” på fascinerende og skremmende vis hvordan løsningene over tid blir mye mer potente og bokstavelig talt dødelige, og integrerer stadig inn ny og mer presis teknologi, som f.eks. Anthropics Claude. Manson mer enn antyder at dette egentlig var Drew Cukors plan og ambisjon helt fra starten av.
Norge skal de neste årene bruke 1 854 milliarder kroner på Forsvaret. Hvor mye skal gå til digitale systemer, og hvilke løsninger skal vi velge? Skal vi, som NATO, abonnere på Palantirs Maven, eller skal vi sikre digital sjølråderett og satse på noe eget? Og hvor langt skal vi gå i å tillate autonome systemer som selv kan identifisere og uskadeliggjøre fiendtlige mål?
Det er spørsmål Forsvarets teknologidirektør Bjørn Tore Markussen må finne svar på. Jeg misunner ham ikke jobben. Han gir et glimt av problemstillingene han står i, i et intervju i Morgenbladet i forrige uke. Anbefales, sammen med boka.