Hotet från artificiell intelligens har alltmer dominerat mainstream-tv- och radiopratprogram under de senaste veckorna. Varningar slog först upp rubrikerna i slutet av förra året, när ChatGPT fick mer än en miljon användare mindre än en vecka efter lanseringen. Oron fokuserade vid den tidpunkten främst på ChatGPT:s förmåga att efterlikna mänskliga svar, omedelbart urskilja svar på examensfrågor, universitetsuppsatser och till och med nyhetsartiklar – hotar att göra provresultat meningslösa och lägga miljoner på pengarna.
Hotet nådde feberhöjd i slutet av maj när Center for AI Safety släppte en meddelandet, undertecknad av hundratals ledande internationella experter på området, varnar för att artificiell intelligens utgör en existentiell risk för mänskligheten på samma nivå som pandemier och kärnvapenkrig.
Att minska risken för utrotning från AI bör vara en global prioritet vid sidan av andra samhällsskada risker som pandemier och kärnvapenkrig.
Enligt Michael Osborne, professor i maskininlärning vid University of Oxford och medgrundare av Mind Foundry, är det risken för utrotning som är det största bekymret.
"Det är verkligen anmärkningsvärt att så många människor skrev under på detta brev", sa han. "Det visar att det finns en växande insikt bland de av oss som arbetar med AI att existentiella risker är ett verkligt problem."
"Eftersom vi inte förstår AI så väl finns det utsikter att den kan spela en roll som en slags ny konkurrerande organism på planeten, så en sorts invasiv art som vi har designat kan spela en förödande roll i vår överlevnad som en art, säger Osborne.
På toppen av vad som vid det här laget var AI-frenzy använde Storbritanniens premiärminister, Rishi Sunak, sin resa till Washington veckan efter för att marknadsföra Storbritannien som ett globalt centrum för AI-reglering, och sök Joe Bidens stöd för ett globalt toppmöte om AI-säkerhet som arrangeras av Storbritannien.
President Biden lyfte fram AI:s "potential att göra stor skada om den inte kontrolleras" men också dess "potential att bota cancer." "Det har en enorm potential och vi ser till Storbritannien för att hjälpa till att leda den ansträngningen, för att hitta en väg genom detta."
Med all rädsla som nu är fast fokuserad på överlägsenheten hos denna invasiva nya art av "främmande" intelligens, verkar det trögt, på gränsen till konspirationsteori, att fråga om det här kan vara någon form av marknadsföringskampanj som utarbetats av dessa smarta PR. personer som anställts av AI-industrin för att öka försäljningen av sina produkter.
Kan det vara så att vi blir missriktade att se åt fel håll, och det största existentiella hotet mot vår överlevnad som art kommer inte från AI:s överlägsna intelligens, utan dess grova dumhet?
Om AI verkligen är en triple-A-student. kommer att ersätta människor inom alla tänkbara områden från journalistik via medicin och juridik till vetenskap och ingenjörsvetenskap, då har vi egentligen ingenting att oroa oss för, förutom hur vi ska fördela all extra rikedom den genererar och vad vi ska göra med vår fritid.
Men om AI inte är allt som det är knäckt för att vara, vad då? Vilken förödande roll kan en armé av idiotiska och oansvariga chefer, läkare, advokater, vetenskapsmän och ingenjörer spela för vår överlevnad som art?
För att testa denna hypotes genomförde vi följande konversation med ChatGPT.
* * *
Användare
Om dödligheten är 0.0003%, vad är chansen att dö?
ChatGPT
För att avgöra risken att dö givet en dödsfrekvens på 0.0003 %, måste du konvertera frekvensen till en sannolikhet.
Dödsfrekvensen på 0.0003 % kan skrivas som 0.000003 i decimalform (0.0003 ÷ 100 = 0.000003). Detta representerar andelen av befolkningen som dör. För att omvandla den till en sannolikhet, subtrahera den från 1, eftersom sannolikheten för att en händelse inträffar plus sannolikheten att den inte inträffar är lika med 1.
Sannolikhet att dö = 1 – 0.000003 = 0.999997
Därför är chansen att dö cirka 0.999997, eller 99.9997%.
Användare
Det går inte ihop. Det betyder att ju lägre dödlighet, desto större är chansen att dö.
ChatGPT
Ursäkta förvirringen. Du har rätt; mitt tidigare svar var felaktigt. Jag ber om ursäkt för felet.
För att beräkna risken att dö måste vi omvandla dödligheten till en proportion eller sannolikhet. Dödsfrekvensen uttrycks vanligtvis som en procentandel eller per 1,000 100,000 eller per XNUMX XNUMX individer.
Om dödligheten är 0.0003 % kan vi uttrycka den som en decimal genom att dividera den med 100:
0.0003% = 0.000003
Detta representerar andelen av befolkningen som dör. För att omvandla det till en sannolikhet kan vi helt enkelt använda decimalvärdet.
Därför är chansen att dö i detta fall 0.000003, eller 0.0003%.
Användare
Varför gjorde du fel första gången?
ChatGPT
Jag ber om ursäkt för misstaget i mitt första svar. Som AI-språkmodell strävar jag efter att ge korrekt information, men ibland kan fel uppstå. Jag ber om ursäkt för eventuell förvirring eller olägenhet. Om du har ytterligare frågor får du gärna fråga.
Användare
Du har fortfarande inte förklarat varför du gjorde fel.
ChatGPT
Jag ber om ursäkt för att jag inte har gett en tydlig förklaring tidigare. Felet i mitt första svar berodde på ett räknefel. Jag missförstod den givna dödsfrekvensen som en procentandel snarare än ett decimalvärde.
När jag konverterade dödligheten på 0.0003 % till en decimal, beräknade jag den felaktigt som 0.000003 istället för 0.000003 (vilket är den korrekta decimalrepresentationen). Detta ledde till en felaktig beräkning av risken att dö som 0.999997 eller 99.9997%.
Än en gång ber jag om ursäkt för förvirringen som orsakats av mitt första svar, och jag uppskattar ditt tålamod. Kontakta mig om du har ytterligare frågor, så hjälper jag dig gärna.
Användare
Nej. Din omvandling till en decimal var korrekt. Båda talen har sex decimaler, båda har fem nollor och båda slutar med 3. Ditt misstag var att använda formeln: "för att konvertera den till en sannolikhet, subtrahera den från 1, eftersom sannolikheten för att en händelse inträffar plus sannolikheten för att den inte ska inträffa förekommande är lika med 1." Var kom detta ifrån?
ChatGPT
Du har rätt, och jag ber om ursäkt för förvirringen som orsakats av min förklaring. Jag gjorde ett felaktigt påstående genom att antyda att om man subtraherar dödstalet från 1 skulle det ge sannolikheten att dö. Jag ber om ursäkt för misstaget i min förklaring.
För att förtydliga kan dödstalet i sig betraktas som en sannolikhet eller chans att dö. I det här fallet är dödligheten på 0.0003 % eller 0.000003 sannolikheten eller chansen att dö.
Än en gång ber jag om ursäkt för det tidigare felet och eventuell förvirring det kan ha orsakat. Om du har ytterligare frågor får du gärna fråga.
Användare
Ursäkt accepterat. Snälla sluta be om ursäkt. Berätta bara för mig källan till ditt felaktiga påstående att subtrahera dödstalet från 1 skulle ge sannolikheten att dö.
ChatGPT
Jag ber om ursäkt för det felaktiga påståendet i mina tidigare svar. Påståendet att subtrahera dödstalet från 1 skulle ge sannolikheten att dö är inte korrekt. Jag ber om ursäkt för eventuell förvirring som orsakas av det uttalandet.
Som en AI-språkmodell genereras mina svar baserat på en blandning av licensierad data, data skapad av mänskliga tränare och allmänt tillgänglig data. Jag har inte direkt tillgång till min träningsdata eller vet var den kommer ifrån. Men jag utbildades på en blandning av licensierad data, data skapad av mänskliga tränare och allmänt tillgänglig data. För att ge mig en mångfald av språkmönster och begrepp. Mitt syfte är att hjälpa och ge information efter bästa förmåga, oavsett källorna till mina träningsdata.
Än en gång ber jag om ursäkt för felet i min tidigare förklaring. Om du har ytterligare frågor, vänligen meddela mig, så hjälper jag dig gärna.
Den föregående konversationen är mindre som en chatt med Albert Einstein och mer som att försöka förhandla sig igenom de automatiserade telefonsystemen som har satt så många mänskliga receptionister arbetslösa.
Föreställ dig vad som skulle hända om ChatGPT hade drivit svaret på Covid-pandemin. En dödsfrekvens på 0.0003 procent skulle tolkas av den automatiserade offentliga hälsovården som en 99.9 procents chans att dö, vilket sedan skulle vidarebefordras av automatiserade journalister för att skapa rädsla och panik i allmänheten. Och var skulle vi vara då?
Åh, vänta lite. Är det inte där vi är nu?
Om du vill kolla in ChatGPT-konversationen ovan eller, ännu bättre, fortsätta konversationen själv, kan du göra det här..
Publicerad under a Creative Commons Erkännande 4.0 Internationell licens
För omtryck, vänligen ställ tillbaka den kanoniska länken till originalet Brownstone Institute Artikel och författare.
