Var "Philip Cross" en AI?

Tillsammans med Brownstone-författaren Jennifer Sey, fick jag hedersomnämnande i Walter Bragmans andfådd Viktigt sammanhang: Läckta e-postmeddelanden från Brownstone Institute avslöjar stöd för barnarbete, rökning av minderåriga. Bragman har valt att bifoga hashtaggen #Brownstonefiler i en uppenbar hänvisning till Twitter-filer, men det är något mindre effektfullt. När detta skrivs har det totalt två efterföljande tweets, båda fientliga mot Bragman. 

Bragman rapporter att i de läckta e-postmeddelanden som han tittade på, "bjöd Blumen upp en anekdot om antikrigsaktivistsidor som långsamt över tiden redigerades av en enda, potentiellt automatiserad användare." 

Bragman har rätt. Jag tog upp historien om Philip Cross i ett internt e-postmeddelande på Brownstone-författarnas lista. Berättelsen är en viktig sådan, som jag inte hade tänkt så mycket på sedan 2018 när den först bröts. I ljuset av de senaste nyheterna ser den här historien helt annorlunda ut än den gjorde för fem år sedan. Jag kommer att återkomma till den historien i det här aktuella stycket och följa upp med en analys av hur världen har förändrats under de senaste fem åren. 

Historien bröts 2018 när den tidigare brittiska parlamentsledamoten George Galloway, länge känd för sin antikrigssyn, ropade en mystisk Wikipedia-redaktör vid namn "Philip Cross" för att ha gjort föga smickrande ändringar på sin Wikipedia-sida. BBC News täckt Galloways ordkrig med en mystisk Wikipedia-redaktör.

Ämnet för Galloways ire är en produktiv Wikipedia-redaktör som går under namnet "Philip Cross". Han har varit föremål för en enorm debatt på internetuppslagsverket – en av världens mest populära webbplatser – och även på Twitter. Och han har anklagats för partiskhet för att ha interagerat, ibland negativt, med några av de personer vars Wikipedia-sidor han har redigerat.

Philip Cross-kontot skapades exakt 18:48 GMT den 26 oktober 2004. Sedan dess har han gjort mer än 130,000 30,000 redigeringar på över 300 XNUMX sidor (sic). Det är en betydande mängd, men inte särskilt ovanligt – det räcker till exempel inte med redigeringar för att placera honom bland de XNUMX bästa redaktörerna på Wikipedia.

Men det är vad han redigerar som har sysselsatt antikrigspolitiker och journalister. På hans topp 10 mest redigerade sidor finns jazzmusikern Duke Ellington, tidningen The Sun och Daily Mail-redaktören Paul Dacre. Men även i den topp 10 finns ett antal högljudda kritiker av amerikansk och brittisk utrikespolitik: journalisten John Pilger, Labourpartiledaren Jeremy Corbyn och Corbyns strategichef Seamus Milne.

Hans kritiker säger också att Philip Cross har gjort positiva redigeringar av sidor om offentliga personer som stödjer västerländsk militär intervention i Mellanöstern. 

.

"Hans redigeringar är obarmhärtigt riktade mot människor som motsätter sig Irakkriget, som har motsatt sig de efterföljande interventionskrigen ... i Libyen och Syrien, och människor som kritiserar Israel," säger Galloway. 

Mintpress publicerad i en utmärkt sammanfattning av kommentarer kring denna fråga och citerar Ron McKay i Edinburgh Sunday Herald:

Man behöver inte vara konspirationsteoretiker för att se att det finns röda trådar här. Alla dessa [inriktade] är... framstående kampanjare på sociala medier och i mainstreammedia som kraftfullt ifrågasätter vår utrikespolitik. 

Förre Storbritanniens ambassadör Craig Murray, även känd för antikrigsåsikter och för sina stöd av Wikileaks grundare Julian Assange, gjorde en liknande poäng: 

[…] Syftet med "Philip Cross"-operationen är att systematiskt attackera och undergräva ryktet för dem som är framstående när det gäller att utmana den dominerande företags- och statliga mediaberättelsen, särskilt i utrikesfrågor. 

Antikrigssajt medialens.org frågade: 

Andra anmärkningsvärda antikrigsröster såsom Noam Chomsky, Edward S. Herman (medförfattare till boken Tillverkningstillstånd), Och Rania Khalek var också föremål för Crosss obevekliga förnedringskampanj. 

Amb Murray, observerade följande häpnadsväckande fakta: 

Den oidentifierade redaktören, "kontot är ansvarigt för 20.4% av alla redigeringar" av Galloways sida (som Cross hade redigerat över 1800 gånger), sa BBC, som fortsätter att detaljera innehållet i specifika redigeringar som var helt i den föga smickrande eller negativa riktningen.

UPPDATERING "Philip Cross" har inte haft en enda dag ledigt från att redigera Wikipedia på nästan fem år. "Han" har redigerat varje dag från 29 augusti 2013 till 14 maj 2018. Inklusive fem juldagar. Det är 1,721 XNUMX dagar i följd av redigering.

Så, 133,612 14 redigeringar av Wikipedia har gjorts i namnet "Philip Cross" under 30 år. Det är över XNUMX redigeringar per dag, sju dagar i veckan. Och jag använder inte det bildligt: ​​Wikipedia-redigeringar är tidsinställda, och om du plottar dem, är tidskortet för "Philip Crosss" Wikipedia-aktivitet häpnadsväckande om det är en individ:

Operationen går som en klocka, sju dagar i veckan, varje vaken timme, utan större variation.

Amb Murray förutsatt följande graf över "Philip Crosss" produktivitet när det gäller att ändra Wikipedia-sidor efter veckodag, i genomsnitt under de 14 åren av aktivitet: 

Vem är eller var denne Philip Cross? Efter den ovan nämnda BBC-artikeln drog Cross sig tillbaka från sin vandaliseringskarriär rankad # 308 bland de mest aktiva Wikipedia-redaktörerna genom tiderna. Hans tidigare Twitter-konto @philipcross63 existerar inte längre. Ingen som vet, berättar. Galloway tänker att Cross är en "riktig och sårbar person". 

Amb Murray anteckningar att Galloway vid ett tillfälle hade erbjudit en belöning på £1,000 XNUMX för denna persons eller enhets identitet, "så att han också kan vidta rättsliga åtgärder." MediaLens tillstånd att "BBC Trending har kunnat fastställa att han bor i England och att Philip Cross inte är det namn han normalt går under utanför Wikipedia." Everipedia.org uppger "Cross är en jazz- och dramaentusiast." Jag misstänker att han förmodligen också gillar långa promenader på stranden och krypa ihop framför en öppen spis med en kopia av New York Times. 

Amb Murray erbjudanden: 

Det finns tre alternativ här. "Philip Cross" är antingen en mycket konstig person, eller är en falsk person som döljer en betald operation för att kontrollera wikipedias innehåll, eller är en riktig frontperson för en sådan operation i hans namn.

och

Min uppfattning är att Philip Cross förmodligen är en riktig person, men att han frontar för en grupp som agerar under hans namn. Det är onekligen sant, faktiskt har regeringen skröt, att både MOD och GCHQ har "cyberkrig"-operationer som syftar till att försvara den "officiella" berättelsen mot alternativa nyhetsmedier, och det är just syftet med "Philip Cross" operation på Wikipedia. Den extrema regelbundenhet i produktionen talar emot att "Philip Cross" är antingen en enmans- eller frivilligoperation. Jag utesluter dock inte möjligheten att han verkligen bara är en enda extremt besatt högerfanatiker.

En Wikipedia-redaktör i en sidokanal uttryckt oro att Wikipedias rykte (som det är) kan vara när ljuset sken över de ovanliga aktiviteterna av "Philip Cross." 

Fick berättelsen ett lyckligt slut? I augusti 2018, rapporterat av Five Filters, “Wikipedias skiljenämnd (ArbCom) har äntligen röstat för banredaktör Philip Cross från ämnet "brittisk politik efter 1978". Men vänta – inte så snabbt. "Men i ett litet drag beslöt Wikipedias skiljenämnd att den också skulle straffa redaktören som försökte uppmärksamma samhället på Philip Cross beteende."

Jag var medveten om Philip Cross-historien när den bröts 2018. Då hade jag ingen förklaring till den. Det verkade kusligt konstigt för mig och jag tänkte inte på bots eller automatisering av naturligt språk. 

De senaste banbrytande Twitter-avslöjandena om existensen och den massiva omfattningen av ett organiserat censurindustriellt komplex (CIC) gör misstankar om officiell sektorcensur, kanske i en tidigare iteration för fem år sedan, mycket mer rimliga. FiveFilters.org skrev 2018, "Nästan hela Wikipedia är skriven av bara 1 procent av dess redaktörer." Samma bit citerar en Daniel Oberhaus-artikel i Vice från 2017 om koncentrationen av Wikipedia-redigering:

Men när uppslagsverket växte, och antalet kollaboratörer växte med det, uppstod en kader av inbitna redaktörer som har stått för huvuddelen av Wikipedias tillväxt sedan dess.

Matei och hans kollega Brian Britt, biträdande professor i journalistik vid South Dakota State University, använde en maskininlärningsalgoritm för att genomsöka kvarts miljarder offentligt tillgängliga redigeringsloggar från Wikipedias första decennium av existens. Resultaten av denna forskning, publicerad i september som en bok, antyder att trots alla Wikipedias anspråk på att vara en webbplats producerad av ett nätverk av fritt samarbetande kamrater, "vissa kamrater är mer jämlika än andra."

Den långa texten på racket.news citerar flera instanser av CIC-aktörer som använder AI och naturlig språkbehandling. De Projekt för kollektiva nyttigheter, Till exempel, 

använd AI och naturlig språkbehandling för att "identifiera, spåra och svara på berättelser, trender och brådskande frågor" för att "utföra faktakontroller" och "strategier för förändring av maktbeteende."

En ny berättelse om Igor Chodovs substack, Bill Gates-finansierade AI Chatbots Marknadsförda COVID-vacciner (du kan ha stött på dem på sociala nätverk) som citerar en artikel på nature.com Effektiviteten av chatbots på covid-vaccinets förtroende och acceptans i Thailand, Hongkong och Singapore ger mer information om användningen av bots i tjänsten för att kontrollera berättelser. 

Den senaste tidens framväxt av högpresterande stora språkmodeller gör tanken på automatisering mer rimlig. Om inte 2018 skulle en LLM nu enkelt kunna skriva om en given text för att luta den i den efterfrågade riktningen. 

Fanns det modeller som kunde göra detta på den tiden? Kommer framtida kampanjer för att kontrollera Wikipedia-berättelser att förlita sig på denna teknik? Hur ser framtiden ut för en kunskapsbas med publikkällor som Wikipedia som beror på den höga kostnaden i mänsklig tid och social interaktion för att göra en redigering av ett kontroversiellt ämne när förmågan att automatisera detta gör det nästan gratis?