Vad människor förbiser i AI-debatten

Det har varit intressant att notera vad som har skrivits om artificiell intelligens (AI) de senaste veckorna, särskilt när det gäller hypen kring ChatGPT. Såvitt jag kan bedöma, motsvarar det mesta av detta i huvudsak uppfattningen, eller rädslan, att AI har överträffat människor när det gäller intelligens. Dr Harvey Rischs ögonöppnande konto av hans "konversation" med en AI har rikligt visat att detta är en felaktig uppfattning, och ändå verkar det bestå i alla fall. 

En upplevelse jag nyligen hade med en ChatGPT-entusiast förmedlar samma intryck angående den utbredda uppfattningen att den senare AGI (Artificial General Intelligence) är den jämlika, om inte den överordnade av människor på smartness-avdelningen. Det inträffade med anledning av ett föredrag som jag höll för medlemmarna i en kulturell organisation på temat i vilken utsträckning Freuds och Hannah Arendts arbete kan ge insikt i den nuvarande tillväxten av lömska totalitära kontrollåtgärder globalt. 

En sådan avgörande utveckling är Världshälsoorganisationens försök att beröva länder deras suveränitet genom att framgångsrikt ändra sin konstitution. Detta försök misslyckades för två år sedan när afrikanska länder motsatte sig de föreslagna ändringarna, men 2024 kommer WHO att försöka igen, efter att ha lobbat kraftigt på afrikanska ledare under tiden.

Efter mitt föredrag relaterade någon temat till AI. Specifikt gällde detta mitt påstående att Freuds begrepp om Eros (livsdrift) och Thanatos (dödsdrift), å ena sidan, och Arendts föreställningar om natalitet (varje människa tar med sig något unikt till världen genom att födas) och mångfald (alla människor är olika), å andra sidan, kasta ljus över totalitarismens natur. Det rörde också frågan om huruvida totalitarism kan upprätthållas av dem som främjar den. Det visade sig att, efter att ämnet för mitt föredrag hade cirkulerats, hade han bett ChatGPT att kommentera det och tog med AI:s "svar" till mötet i tryckt format för att visa mig.

Förutsägbart, för en språklig mönsterigenkänning-aktiverad och förutsägande forskningsmaskin med en enorm databas (vilket är vad ChatGPT egentligen är) var det inte svårt att exakt packa upp vad de relevanta freudianska och arendtianska begreppen betyder – vilken student som helst kunde hitta detta på internet eller på ett bibliotek också. Men där AI:n vacklade gällde kopplingen jag etablerade mellan dessa tänkares idéer och aktuella händelser som utspelar sig i det globala rymden.

Minns att jag hade använt Freud och Arendts begrepp heuristiskt i förhållande till vad som utan tvekan är tecken på totalitära "rörelser" som görs inom olika institutionella områden idag. ChatGPT – återigen förutsägbart – gjorde det (och utan tvekan kunde) utvecklade inte sambandet jag antydde i den cirkulerade titeln på mitt föredrag, och hade helt enkelt "förstått" att det fanns "någon" relation mellan dessa två tänkares idéer och totalitarism.

Anledningen till detta bör vara uppenbar omedelbart. Ingenstans i ChatGPTs databas finns det någon information – i form av en läsbar tolkning – för vilka händelser som WHO:s ihållande försök att bli världens styrande organ (som hänvisas till ovan), är symptom på, nämligen en begynnande global totalitär regim. För att ChatGPT (eller någon annan AI) ska kunna komma med en sådan "tolkning" måste den antingen skrivas in i sin databas av dess programmerare – vilket är osannolikt, om inte otänkbart, med tanke på dess underförstådda kritik av själva konstellation av krafter som gav upphov till ChatGPT:s konstruktion – eller så skulle AI:n behöva ha den kapacitet som alla 'normala' människor har, nämligen att kunna tolka upplevelsevärlden omkring dem. Det är uppenbart att ingen AI har den kapaciteten på grund av dess beroende av att vara programmerad. 

Min samtalspartner bestred detta förklarande svar från min sida och hävdade att ChatGPT visar sin förmåga att "resonera" i varje "svar" den kommer med på frågor man kan ställa. Detta, påpekade jag, är inte en korrekt beskrivning av vad AI gör. Kom ihåg: ChatGPT producerar antropomorfa svar i vardagsspråk på frågor som ställs till den. Det gör det genom att använda exempel som upptäckts i de kolossala datamängder som den har tillgång till, och som gör det möjligt för den att förutsäga på varandra följande ord i meningar. Kort sagt: den kan hitta statistiska mönster i dessa enorma databaser med hjälp av "maskininlärning". 

Detta är inte vad resonemang är, som varje student som har studerat logik och filosofins historia borde veta – som René Descartes hävdade i de 17^th århundradet är resonemang en kombination av intuitiva insikter och slutledning eller slutledning. Man börjar med en intuitiv insikt – säg att lamporna har slocknat – och drar därifrån slutsatsen att antingen någon har stängt av dem eller så har elförsörjningen blivit avbruten. Eller så kan man resonera (genom avledning) från en uppsättning givna uppgifter (den intuitiva insikten) att en annan är antingen sannolikt eller osannolik. Man kan inte vid något tillfälle använda sig av enorma mängder data som man söker efter mönster som uppvisar likheter och vågar sig på förutsägelser utifrån detta.

Ändå, som man kan konstatera från datavetare som t.ex Dr Arvind Narayanan, professor i datavetenskap vid Princeton University, människor (som min samtalspartner) blir lätt lurade av en AI som ChatGPT eftersom den verkar så sofistikerad, och ju mer sofistikerade de blir, desto svårare skulle det vara för användare att upptäcka sina brister när det gäller pseudo-resonemang såväl som deras misstag.

Som Dr Narayanan indikerar, var ChatGPT:s svar på några frågor om datavetenskapliga undersökningar som han ställde till det falska, men de var formulerade på ett så skumt sätt att deras falskhet inte var direkt uppenbar, och han var tvungen att kontrollera dem tre gånger innan han var säker på att detta var fallet. Så mycket för ChatGPT:s uppmärksammade förmåga att "ersätta" människor.

Man bör dock komma ihåg att det som har diskuterats hittills i jämförande termer är ämnet, huruvida en AI som ChatGPT fungerar på samma sätt som människor på intelligensnivån, vilket hänför sig till skillnader som resonemang i motsats till mönsterigenkänning, och så vidare. Man skulle naturligtvis kunna formulera frågan i termer av underlägsenhet och överlägsenhet också, och vissa hävdar att människor visas fortfarande att överlista AI, även om en AI kan utföra matematiska beräkningar snabbare än människor. 

Men det är först när man förskjuter terrängen som de grundläggande skillnaderna mellan en människa, sett holistiskt, och en AI, hur smart den än är, kan ses i perspektiv. Detta förbises mestadels av människor som engagerar sig i debatten om människor i motsats till "konstgjord" intelligens, av den enkla anledningen att intelligens är inte allt som betyder något. 

För att illustrera vad jag menar, tänk tillbaka på vad som hände mellan schackvärldsmästaren Garry Kasparov och DJUPBLÅ, IBM 'superdator' 1997. Efter att ha besegrats av Kasparov 1996, DJUPBLÅ gjorde den första vinsten över en människa av en maskin under det följande året, och sedan – som med ChatGPT idag – fanns det en allmän klagan om mänsklighetens förmodade "döende", representerad av att Kasparov blev övervunnen av en dator ( en AI). 

Liksom idag angående ChatGPT, var denna reaktion symbolisk för felet som begicks av de allra flesta människor när de bedömer förhållandet mellan AI och människor. Vanligtvis görs en sådan utvärdering i termer av kognition, genom att bedöma vad som är mer "intelligent" – människor eller maskiner. Men man bör fråga sig om intelligens var det lämpliga – än mindre, mest lämpliga – måttet för att jämföra människor och datorer (som representativa för AI) då, och faktiskt nu. 

Förståeligt nog rapporterades Kasparovs förnedring av maskinen överallt vid den tiden, och jag minns att jag stötte på en sådan redogörelse där författaren visade en stor förståelse för vad jag har i åtanke när jag hänvisar till rätt, eller lämpliga måttstockar för jämförelse mellan människor och AI. Efter att ha rekonstruerat de deprimerande detaljerna i Kasparovs historiska färd förbi DJUPBLÅ, denna författare tillgrep en humoristisk, men talande liten fantasi.

Efter människans symboliska nederlag, fabulerade hon eller han, teamet av ingenjörer och datavetare som hade designat och byggt DJUPBLÅ gick ut på stan för att fira deras epokala triumf. Det skulle vara fel att skriva "deras maskins seger", eftersom det strängt taget var det mänskliga laget som gjorde en seger med hjälp av "sin" dator.

Punchline var förberedd för när författaren frågade, retoriskt, om DJUPBLÅgick också ut för att måla staden röd med ljusrosa för att njuta av dess erövring. Onödigt att betona att svaret på denna retoriska fråga är negativt. Den följdes av punchline, som angav det uppenbara; nämligen att 'människor firar; datorer (eller maskiner) gör det inte.' 

När man ser tillbaka slår det en att den här författaren var en sorts visionär och använde en fiktion för att belysa det faktum att även om människor och AI delar "intelligens" (om än av olika slag), så gör det det inte markera de mest uppenbara, irreducerbara skillnaderna mellan AI och människor. Det finns andra, mycket mer avgörande, skillnader mellan människor och AI, av vilka några har utforskats här. och här. .