Tom Griffiths: Missförstådd kapplöpning om intelligens

För tio år sedan gick det fortfarande att rada upp sådant som bara människor kunde göra: besegra stormästare i komplicerade spel, skriva sammanhängande uppsatser, bevisa nya satser. Tom Griffiths skriver i The Guardian att listan krympt snabbt – system för artificiell intelligens vinner nu tävlingar på högsta nivå, producerar välpolerad prosa och tar i vissa fall medaljer i matematik. Teknikchefer har svarat med löften om att ”övermänsklig” artificiell intelligens är nära.

Griffiths text är mindre intressant som spådom än som inventering av begränsningar. Mänsklig intelligens drivs av ungefär ett kilo nervceller, i en skalle som inte kan uppgraderas, under en livslängd som tar slut efter några decennier. En människa måste lära sig språk, normer, färdigheter och en fungerande modell av världen utifrån en tunn skiva erfarenhet, och sedan förmedla tankar genom röstljud och fingerrörelser. Maskiner har inte dessa gränser: de kan ta in mer text än någon människa hinner läsa under flera liv, skala sin kapacitet genom att hyra mer beräkningskraft och kopiera det de lärt sig till andra maskiner till nära noll kostnad.

Den asymmetrin gör att rubrikvänliga bedrifter kan vilseleda. AlphaGo slog de bästa go-spelarna, men gjorde det efter träning på vad Griffiths beskriver som många mänskliga livstider av partier. ChatGPT kan föra ett rimligt samtal med stöd av tusentals år av mänskligt språk. I båda fallen är prestationen verklig, men vägen dit är inte mänsklig. Systemet löser inte problemet under samma budget av tid, data och energi som ett barn eller en vuxen måste hantera.

Textens skarpaste poäng är att begränsningar inte bara är ett handikapp; de är en del av definitionen av det som mäts. Mänsklig kognition har utvecklats för att generalisera från begränsad erfarenhet, sluta sig till avsikter och samordna med andra medvetanden under osäkerhet. Därför byggde människor språk, skrift, undervisning och vetenskap – tekniker för att samla kunskap över individer och tid. Maskiner är däremot optimerade för en värld där ”erfarenhet” kan köpas i bulk som datamängder och där minne kan mångfaldigas perfekt. De kan överträffa människor i uppgifter som belönar skala, men det avgör inte vad ”intelligens” är, eftersom tävlingen körs med maskinvänliga regler.

Griffiths menar att intelligens inte är en enda stege som kroppslängd; djur är intelligenta på olika sätt, formade av sina miljöer. Fåglar navigerar, myror samarbetar, spindlar jagar. Mänskliga sinnen är ”särskilda” delvis för att de tvingas göra mycket med lite: korta liv, begränsat antal nervceller, smala kommunikationskanaler. Maskiner är särskilda i motsatt riktning: de kan göra mycket därför att begränsningarna är uppluckrade.

Den politiska debatten tenderar att behandla skillnaderna som en moralisk fråga – om människor ska ”ersättas” – snarare än en praktisk fråga om var institutioner väljer att sätta in system som lär av enormt samlade datamängder. En modell som kan tränas på den ackumulerade produktionen från miljoner arbetstagare förändrar förhandlingsläget för nästa arbetstagare, även om modellen inte kan mäta sig med kreativiteten hos en femåring som fått samma mängd intryck.

Tills vidare är det mest tillförlitliga tecknet på vad som händer inte provresultatet utan träningsräkningen. I Griffiths exempel köps maskinens fördel i förskott och kopieras sedan oändligt.