Go to main navigation
tova-jertfelt-omvarlden.jpg

Någon skulle behöva lära twitters AI hur man läser, och tolkar in bilder. I ett samhälle där vi kommunicerar allt mer med bild känns det angeläget, menar OmVärldens webbredaktör Tova Jertfelt.

Foto: Tova Jertfelt

KRÖNIKA

Vit näve går bra på twitter – svart näve censureras!

OmVärlden publicerade en svart knytnäve på twitter, och då blockerades den. När redaktionen testade att byta ut den mot en vit näve gick det igenom. 

I senaste temat på OmVärlden har redaktionen fokuserat på skräp som ett resultat av vårt bristande konsekvenstänk. Det är ett aktuellt, viktigt tema då svenskar gärna pantar burkar och talar om klimatet, men inte lika ofta talar om vårt globala ansvar. Precis som vi producerar avföring så producerar vi avfall, och i båda fallen är ämnena något vi inte vill kännas vid. “Jag pruttar regnbågar” som ett barn till en bekant sa. Men bajs och skräp är äckligt, och framför allt, någon annans problem.

Den politiska handen

När jag skulle animera filmen Världen drunknar i sopor så letade jag efter en hand som sträcks upp över ytan, som ropandes på hjälp. Men när jag sökte efter bilder på detta hittade jag bara vita händer. Det  får mig att tänka på Johanna Burai. 2016 utförde Burai det hyllade examensprojektet “World white webb” som handlade om att bryta de rasistiska normerna som gjorde att man bara fick upp vita händer som resultat när man sökte på ordet “hand”. Vad Burai menade, och som jag håller med om, är att den vita handen anses vara “neutral”. När man söker på "hand" får man upp främst vita händer, medan den svarta, asiatiska eller latinamerikanska handen, måste beskrivas, och därför inte är vare sig neutral, eller en norm.

För att skapa en motbild till den vita drunknade handen och den dystopiska stämningen som omgav bilden, så valde jag att till den mer positiva artikeln 7 skräpiga sätt att rädda världen välja en svart knytnäve. Det gjorde jag för att flera av exemplen från artikeln inte var från västvärlden, för att väga upp den vita handens drunknande men också för att problemet med skräp drabbar fattiga länder mer än väst. Historiskt är en knuten näve förknippad med solidaritet, styrka och motstånd.

Men twitter censurerade bilden med motiveringen att det “kan innehålla känsligt material”. En knuten svart hand som visas som positiv och kraftfull, som gör motstånd mot sopkrisen?
Känsligt material?
Hur går det ihop?

Den känsliga roboten

Jag får förklaringen att det är twitters AI (Artificial Intelligence) som  finner bilden olämplig, antingen för att den har med porr att göra (jag antar att om man är långsökt här kan man föreställa sig handen någon annanstans) eller att det är någon som anmält bilden “svart knuten näve” som opassande.  

Historien kring svart knuten hand tar en till olympiska spelen för prick femtio år sedan. Guld- och bronsmedaljörerna Tommie Smith och John Carlos reste sina knytnävar för att synliggöra rasismen i USA, i solidaritet med mänskliga rättigheter. Det kom att kallas för the Black Power Salute.  

Är det referenser till Black Power som gör bilden känslig? Varför är det då tillåtet med bild på NMR, eller män som håller i skjutvapen? Vi postade samma vecka en drunknande hand, är inte det känsligare? Eller bilden från Nicaragua där en byggnad brinner, varför är inte den känsligare än en symbol för solidaritet, styrka och motstånd?

Någon skulle behöva lära twitters AI hur man läser, och tolkar in bilder. I ett samhälle där vi kommunicerar allt mer med bild känns det angeläget.

För att testa vad AI:n kunde ha reagerat på så bytte vi på redaktionen ut bilden till en vit hand istället. Det censurerades inte. Trots att den vita handen plockades upp från en hemsida som använde vita knytnävar på ett minst sagt stötande sätt.

  

 

Jag tittar i formuläret på twitters hemsida och upptäcker att det inte finns någonstans där jag kan anmäla felaktig censurering av min bild. Jag uppmanas, ironiskt nog, att tänka på kontexten; “När du ser en tweet som gör dig upprörd, ta ett steg tillbaka och fundera på kontexten den är i.”

Vem har makten när robotar får censurera?

Jag tänker osökt på när facebooks algoritmer, en rad kodade instruktioner för hemsidor och appar, blockerar bilder på bröstvårtor för att de blivit märkta som opassande. I twitters fall, och facebooks fall, är algoritmerna högst sannolikt skapade av priviligierade tekniknördar i Silicon Valley, USA. Hur stor kunskap har de när det kommer till att läsa av, och förstå, bilder? Från, och till, vilken kontext programmerar de algoritmer?

Facebook förresten, har under året skärpt och försvårat för företag och organisationer att nå ut till privatpersoner. Inte för att jag har märkt det nämnvärt som privatperson. Lösningen, för tidningen OmVärlden, om vi vill nå ut, ligger i algoritmerna. Det blir därför en kamp mot algoritmerna i nästan allt jag gör. Den bilden har bröstvårtor och blockas. Den andra bilden har för stor text och når inte ut. Hashtagga på twitter och instagram, men akta dig för att få en skugghashtag som gör att du inte blir sedd.

Hur mycket makt ska vi tillåta sociala medier ha över oss? Hur mycket ska, och får, algoritmerna styra oss? Och vilka styr algoritmerna?

Jag tänker också på när Microsoft var tvungen att släcka ned sin chatt-robot “Tay” för att den, genom twitters algoritmer, blev en nazist på mindre än 24 timmar. Tay återskapade material den fick på twitter, och efter att användare twittrat misogyna, rasistiska och nazistiska inlägg till den så gick den från att vara öppen och kärleksfull till hatisk.

Förvisso är Tay ett olyckligt exempel, som inte representerar all artificiell intelligens, men hon är likväl ett exempel på hur just twitters algoritmer kan styras av illvilja.

Min farhåga är att algoritmerna styrs av andra viljor än det tidningen OmVärlden står för. När vi jobbar för representation och mångfald, bannas bilder av en knuten svart näve. När börjar de censurera allt vi gör, för att vi utmanar folks världsbild? Eller har vi redan nått dit? 

En sak är säker: algoritmerna är, precis som skräpet, inte någon annans problem. Vi måste våga påtala bristerna i vårt samhällssystem och kalla det för vad det är. Och när det kommer till den bannade handen på twitter finns det bara ett ord: rasism. 

Tova Jertfelt