Statliga fonder AI-verktyg för övervakning och censur över hela internet

Jag känner mig rädd. Väldigt rädd.

Internetövergripande övervakning och censur, möjliggjort av den ofattbart stora beräkningskraften hos artificiell intelligens (AI), är här.

Detta är ingen futuristisk dystopi. Det händer nu.

Statliga myndigheter samarbetar med universitet och ideella organisationer för att använda AI-verktyg för att övervaka och censurera innehåll på Internet.

Detta är inte politiskt eller partipolitiskt. Det här handlar inte om någon speciell åsikt eller idé. 

 Vad som händer är att ett verktyg som är tillräckligt kraftfullt för att övervaka allt som sägs och görs på Internet (eller stora delar av det) blir tillgängligt för regeringen för att övervaka oss alla, hela tiden. Och, baserat på den övervakningen, kan regeringen – och alla organisationer eller företag som regeringen samarbetar med – sedan använda samma verktyg för att undertrycka, tysta och stänga av det tal den inte gillar. 

Men det är inte allt. Genom att använda samma verktyg kan regeringen och dess offentlig-privata, "icke-statliga" partners (tänk till exempel: Världshälsoorganisationen eller Monsanto) också stänga av all aktivitet som är kopplad till Internet. Bankverksamhet, köp, försäljning, undervisning, lärande, underhållning, kontakt med varandra – om den regeringskontrollerade AI inte gillar vad du (eller dina barn!) säger i en tweet eller ett e-postmeddelande, kan det stänga av allt detta för du. 

Ja, vi har sett detta i mycket lokal och politiserad skala med t.ex. de kanadensiska åkarna. 

Men om vi trodde att den här typen av aktivitet inte kunde, eller inte skulle, ske på nationell (eller till och med läskigare – global) skala, måste vi vakna upp just nu och inse att det händer, och det kanske inte går att stoppa.

Nya dokument visar statligt finansierad AI avsedd för onlinecensur

US House Select Subcommittee on the Weaponization of the Federal Government bildades i januari 2023 "för att undersöka frågor relaterade till insamling, analys, spridning och användning av information om amerikanska medborgare av verkställande organ, inklusive huruvida sådana ansträngningar är olagliga, grundlagsstridiga eller på annat sätt oetiska."

Tyvärr ses kommitténs arbete, även av dess egna ledamöter, som till stor del politiskt: konservativa lagstiftare undersöker vad de uppfattar vara tystandet av konservativa röster av liberalt orienterade statliga myndigheter. 

Icke desto mindre har denna kommitté i sina undersökningar avslöjat några häpnadsväckande dokument relaterade till regeringens försök att censurera amerikanska medborgares tal. 

Dessa dokument har avgörande och skrämmande konsekvenser för hela samhället.

I underutskottets delbetänkande, daterad 5 februari 2024, visar dokument att akademiska och ideella grupper presenterar en statlig myndighet på en plan att använda AI "misinformationstjänster" för att censurera innehåll på internetplattformar.

Specifikt förklarar University of Michigan för National Science Foundation (NSF) att de AI-drivna verktygen som finansieras av NSF kan användas för att hjälpa sociala medieplattformar att utföra censuraktiviteter utan att faktiskt behöva fatta beslut om vad som ska censureras.

Så här visualiseras relationen i underkommitténs rapport:

Här är ett specifikt citat som presenteras i underkommitténs rapport. Det kommer från "Speaker's notes från University of Michigans första pitch till National Science Foundation (NSF) om dess NSF-finansierade, AI-drivna WiseDex-verktyg." Anteckningarna finns hos kommittén.

Vår desinformationstjänst hjälper beslutsfattare på plattformar som vill...skjuta ansvar för svåra bedömningar till någon utanför företaget...genom att externisera det svåra ansvaret med censur.

Detta är ett extraordinärt uttalande på så många nivåer:

1. Det likställer uttryckligen "desinformationstjänst" med censur. 

Detta är en avgörande ekvation, eftersom regeringar över hela världen låtsas bekämpa skadlig desinformation när de i själva verket är anta massiva censurräkningar. De WEF deklarerade "desinformation och desinformation" de "allvarligaste globala riskerna" under de kommande två åren, vilket förmodligen innebär att deras största ansträngningar kommer att gå mot censur.

När en statlig entreprenör uttryckligen anger att den säljer en "desinformationstjänst" som hjälper onlineplattformar att "externalisera censur" - erkänns de två termerna som utbytbara.

2. Det hänvisar till censur som ett "ansvar". 

Med andra ord antar den att en del av vad plattformarna borde göra är censur. Att inte skydda barn från sexrovdjur eller oskyldiga medborgare från desinformation – bara ren och skär, oförfalskad censur.

3. Där står det att AI:s roll är att "externisera" ansvaret för censur.

Tech-plattformarna vill inte fatta censurbeslut. Regeringen vill ta de besluten men vill inte ses som censurerande. AI-verktygen tillåter plattformarna att "externisera" censurbesluten och regeringen att dölja sina censuraktiviteter.

Allt detta borde göra slut på illusionen att det som regeringar runt om i världen kallar "att motverka desinformation och hatretorik" inte är direkt censur.

Vad händer när AI-censur är fullt implementerad?

Eftersom vi vet att regeringen redan betalar för AI-censurverktyg, måste vi tycka om vad detta innebär.

Inga arbetskraftsbegränsningar: Som underkommitténs rapport påpekar har gränserna för statlig onlinecensur hittills involverat det stora antal människor som krävs för att gå igenom oändliga filer och fatta beslut om censur. Med AI behöver knappt några människor vara inblandade, och mängden data som kan övervakas kan vara lika stor som allt någon säger på en viss plattform. Den mängden data är obegriplig för en enskild mänsklig hjärna.

Ingen är ansvarig: En av de mest skrämmande aspekterna av AI-censur är att när AI gör det finns det ingen människa eller organisation – vare sig det är regeringen, plattformarna eller universitetet/ideella organisationerna – som faktiskt är ansvarig för censuren. Inledningsvis matar människor AI-verktyget instruktioner för vilka kategorier eller typer av språk som ska censureras, men sedan går maskinen vidare och fattar beslut från fall till fall helt själv. 

Ingen utväg för klagomål: När AI väl har släppts lös med en uppsättning censurinstruktioner, kommer den att sopa upp mängder av onlinedatapunkter och tillämpa censuråtgärder. Om du vill bestrida en AI-censuråtgärd måste du prata med maskinen. Kanske kommer plattformarna att anställa människor för att svara på överklaganden. Men varför skulle de göra det när de har AI som kan automatisera dessa svar?

Inget skydd för ungdomar: Ett av påståendena från statliga censorer är att vi måste skydda våra barn från skadlig information online, som innehåll som gör dem anorektiska, uppmuntrar dem att begå självmord, förvandlar dem till ISIS-terrorister och så vidare. Även från sexuellt utnyttjande. Dessa är alla allvarliga frågor som förtjänar uppmärksamhet. Men de är inte alls lika farliga för ett stort antal ungdomar som AI-censur är.

Faran med AI-censur gäller alla ungdomar som spenderar mycket tid online, eftersom det innebär att deras onlineaktiviteter och språk kan övervakas och användas mot dem – kanske inte nu, men närhelst regeringen bestämmer sig för att gå efter en viss typ språk eller beteende. Detta är en mycket större fara för ett mycket större antal barn än faran med något specifikt innehåll, eftersom det omfattar all aktivitet de bedriver online och berör nästan alla aspekter av deras liv. 

Här är ett exempel för att illustrera denna fara: Låt oss säga att din tonåring spelar massor av interaktiva videospel online. Låt oss säga att han råkar favorisera spel designade av kinesiska företag. Kanske ser han också andra spela de spelen och deltar i chattar och diskussionsgrupper om de spelen, där många kinesiska medborgare också deltar.

Regeringen kan besluta nästa månad, eller nästa år, att alla som är starkt engagerade i kinesiskt designade videospel är en fara för demokratin. Detta kan leda till att du stänger av din sons konton på sociala medier eller nekar honom tillgång till finansiella verktyg, som collegelån. Det kan också innebära att han flaggas på anställnings- eller dejtingwebbplatser som farlig eller oönskad. Det kan betyda att han nekas ett pass eller sätts upp på en bevakningslista.

Din tonårings liv blev mycket svårare. Mycket svårare än om han blev utsatt för en ISIS-rekryteringsvideo eller självmordsförhärligande TikTok-inlägg. Och detta skulle hända i mycket större skala än sexuellt utnyttjande som censorerna använder som en trojansk häst för att normalisera idén om statlig censur på nätet.

Censurtjänster som kan tjäna pengar: Ett AI-verktyg som ägs av regeringen kan teoretiskt användas av en icke-statlig enhet med regeringens tillstånd, och med välsignelse från de plattformar som vill "externisera" "ansvaret" för censur. Så även om regeringen kanske använder AI för att övervaka och undertrycka, låt oss säga som ett exempel, antikrigsentiment – ​​ett företag kan använda det för att övervaka och undertrycka, låt oss säga som ett exempel, anti-snabbmatsentiment. Regeringen skulle kunna tjäna mycket pengar på att sälja tjänsterna för AI-verktygen till tredje part. Plattformarna kan också tänkas begära en nedskärning. Således kan AI-censurverktyg potentiellt gynna regeringen, tekniska plattformar och privata företag. Incitamenten är så kraftfulla att det är nästan omöjligt att föreställa sig att de inte kommer att utnyttjas.

Kan vi vända kursen?

Jag vet inte hur många statliga myndigheter och hur många plattformar som använder AI-censurverktyg. Jag vet inte hur snabbt de kan skala upp.

Jag vet inte vilka verktyg vi har till vårt förfogande – annat än att öka medvetenheten och försöka lobba politiker och väcka stämningar för att förhindra statlig censur och reglera användningen av AI-verktyg på internet.

Om någon har några andra idéer är det dags att implementera dem nu.