Kuinka Facebook käsitteli väärennettyä kuvaa Mark Zuckerbergistä natsi -univormussa

Aiemmin tänä vuonna yksinkertainen Facebook -haku Mark Zuckerbergin nimeen tuotti odottamattoman tuloksen: kuva Facebookin perustajasta natsipuvussa, joka esitettiin hänen valokuviensa yläosassa, suoraan hänen vahvistetun profiilinsa alla. Photoshopattu kuva jätti Facebookille kaksi ei -toivottua vaihtoehtoa: se voi joko poistaa tulehduksellisen valokuvan ja riskisyytteet sensuurista tai isännöidä mielellään kuvaa sen toimitusjohtajasta natsi -asussa.



Kumpikaan vaihtoehto ei ollut erityisen houkutteleva Facebookille, mutta tilanne ei ollut vieras. Vaikka joillakin yrityksen sisällönhallintapäätöksillä on selkeät perustelut - esimerkiksi lapsipornografian poistaminen -, monet sen kohtaamista asioista ovat samanlaisia ​​kuin sen väärennetty Zuckerbergin kuvaongelma: ongelmat, joilla ei ole helppoja vastauksia ja joilla voi olla paljon seurauksia.

Nämä vaikeat valinnat ja filosofia, jolla Facebook lähestyy niitä, ovat yhä tärkeämpiä nyt, kun yhtiö on keskellä sisällönhallintatoimien ennennäkemätöntä eskaloitumista. Kahden miljardin käyttäjän alusta palkkaa 4000 uutta moderaattoria sen jälkeen, kun julkinen valvonta sen tiukasta käsittelystä väkivaltaista sisältöä , valeuutisia ja Kremlin tukemaa pyrkimystä kylvää ristiriitoja Yhdysvalloissa vaalivuoden aikana. Facebookin inhimilliset moderaattorit tuovat nyt yrityksen arvot harmaiden alueiden sisältöön liittyviin päätöksiin, mikä usein häviää keskustelussa siitä, että yrityksen on toimittava paremmin.

Yhä interventiokykyisemmälle Facebookille tulee nyt se vaikein osa: selvittää, kuinka ratkaista vaikeimmat sisältöongelmat sen laajalla alustalla - rasismi ja vihapuhe, väärät tiedot ja propaganda, Mark Zuckerberg photoshoppasi natsipukuun.

Tämä on todella maailmanlaajuisesti monimuotoinen väestö, ja ihmiset ympäri maailmaa saavat todella erilaisia ​​käsityksiä siitä, mikä on sopivaa jakaa verkossa, ja mihin meidän pitäisi vetää nämä rajat, Facebook -politiikan johtaja Monika Bickert kertoi BuzzFeed Newsille.

Monista monimutkaisia ​​kysymyksiä Facebook kohtaavat, joitakin thorniest esiin aikana Kuulemiset marraskuussa Washingtonissa, kun Facebook, Google ja Twitter kutsuttiin kongressiin keskustelemaan Venäjän manipuloimasta alustojaan vuoden 2016 presidentinvaalien aikana. Lainsäätäjien intensiivisen grillauksen keskellä alustojen asianajajat lupasivat toistuvasti tehdä paremmin.

Mutta kuinka Facebookin pitäisi täyttää tämä lupaus, on edelleen tärkeä kysymys. Tulee lukemattomia ongelmia, joihin ei ole helppoja vastauksia, edustajainhuoneen tiedustelukomitean edustaja Adam Schiff kertoi BuzzFeed Newsille kuulemisten jälkeen. Jopa asuilla, kuten [venäläinen televisioverkko] RT, kysymykset tulevat olemaan vaikeita.

Yhdysvaltain tiedustelupalvelu on kutsunut RT: tä Kremlin tärkeimmäksi kansainväliseksi propagandavälineeksi, mikä tekee siitä kuuman perunan Facebookille, jonka kongressi on ohittanut, koska se mahdollisti venäläisten pyrkimykset häiritä vuoden 2016 vaaleja. Facebookilla on valta rajoittaa RT -sisällön leviämistä alustallaan, mutta päätös tehdä niin on täynnä. RT: n sisällön liikkumisen salliminen verkon kautta muuttaa Facebookin tehokkaasti propagandan välitysmekanismiksi. Mutta RT: n vaimentamisella olisi myös seurauksia, ja se iskisi ilmaisunvapauteen alustalla, joka isännöi paljon julkista keskustelua.

Kyle Langvardt, Detroitin yliopiston Mercy Law -apulaisprofessori, joka tutkii ensimmäistä muutosta, varoitti vaarasta poistaa poliittista sisältöä Facebookin kaltaiselta alustalta. Jos yksityiset yritykset päättävät, mitä materiaaleja voidaan sensuroida tai eivät, ja he hallitsevat yhä enemmän julkista aluetta, meillä on lähinnä yksityisiä yrityksiä, jotka säätelevät julkista aluetta tavalla, jota emme koskaan hyväksyisi valtiolta, hän sanoi.

'Se tosiasia, että nämä yritykset eivät ole hallitusta, tekee heidän tekemästään vieläkin huolestuttavampaa.'

Kuten Langvardt totesi, Facebookin poliittista puhetta säätelevät ongelmat ovat todella huolestuttavia. Alusta käyttää 2,07 miljardia ihmistä joka kuukausi, ja sen uutissyötteestä on tullut de facto kaupungin aukio, jossa 45% amerikkalaisista sanoo saavansa uutisia. Pew Research Center . On vain vähän tarkistuksia Facebookin kyvystä poistaa sisältöä; se ei julkaise poistamastaan ​​sisällöstä julkista tietuetta, mikä tekee kolmansien osapuolien lähes mahdottomaksi saattaa sen vastuuseen valvontapäätöksistä. Langvardt sanoi, että monella tapaa se, että nämä yritykset eivät ole hallitus, tekee heidän tekemästään vieläkin häiritsevämpää. Jos he olisivat ainakin hallitus, he olisivat vastuussa poliittisesta prosessista.

Facebook näyttää ainakin olevan kiinnostunut avoimuuden lisäämisestä. 'Haluamme olla avoimempia tavoilla, joilla pakottelemme Facebookin ongelmallista sisältöä vastaan, ja etsimme tapoja tehdä se jatkossa', tiedottaja sanoi.

Tällä hetkellä Facebook ei kohtele RT: tä eri tavalla kuin sen alustan muu sisältö, Bickert sanoi. Heidän suhteensa hallitukseensa ei ole meille este, hän sanoi. Jos he julkaisisivat jotain, joka rikkoo käytäntöjämme, poistamme sen. Facebook jatkaa myös RT: n mainostamista, toisin kuin Twitter, joka kielsi julkaisun sen mainosalustalta sen jälkeen tarjoamalla sitä 15% sen vuoden 2016 Yhdysvaltain vaalien mainosjakaumasta 3 miljoonalla dollarilla.

Fake news - toinen aihe, josta keskusteltiin marraskuun DC: n kuulemistilaisuuksissa - voi olla vieläkin hankalampi alue Facebookille, varsinkin nyt, kun kriitikot ovat väittäneet, että alustalla on osallistui tuhansien Myanmarin rohingya -etnisen ryhmän murhaan. Kun uutisia tapahtumista ilmeni, ihmiset syyttivät Facebookia kansanmurhan edistämisestä; jotkut vaativat yrityksen perustamista hätätiimit käsitellä asiaa. Mutta myös täällä oikea lähestymistapa ei näy heti. Jos Facebook olisi lähettänyt hätätiimin poistamaan Myanmariin liittyvää valheellista sisältöä, sen olisi pitänyt tehdä tylsiä tuomioita konfliktista tuhansien kilometrien päässä pääkonttoristaan. Ja todellakin, kun Facebook lopulta ryhtyi toimiin ja poistanut joitakin viestejä Rohingya -aktivistit syyttivät rohingyakylien sotilaallista toimintaa dokumentoimasta sitä etnisten puhdistusten todisteiden poistamisesta.

Filosofisesti Facebook ei halua erityisesti poistaa väärää sisältöä. En usko, että kukaan haluaa yksityisen yrityksen olevan totuuden tuomari, Bickert sanoi. Ihmiset tulevat Facebookiin, koska he haluavat olla yhteydessä toisiinsa. Heidän näkemänsä sisältö on heidän valintojensa funktio. Kirjoitamme ohjeita varmistaaksemme, että pidämme ihmiset turvassa. Haluamme, että yhteisömme määrittää sisällön, jonka kanssa he ovat vuorovaikutuksessa. Facebook esitteli äskettäin tuotteiden lukumäärä rajoittaa valeuutisten leviämistä, mutta varhaiset tulokset ovat puutteellisia.

En usko, että kukaan haluaa yksityisen yrityksen olevan totuuden tuomari.

Jopa selkeillä ohjeilla, maltillisuus voi olla täynnä. Miten Facebookin poliisin häirinnän kaltainen alusta suoritetaan koodisana ? Miten se käsittelee rodullisia loukkauksia, joita käytetään opetuksellisessa tai historiallisessa yhteydessä? Miten se käsittelee hakaristia satiirisessa yhteydessä? Ja vaikka Facebookilla on selkeästi määritelty kanta poliittisen puheen sääntelyä vastaan, puhe voi silti kuulua valvojaryhmän alaisuuteen, jos se kohtaa muita Facebookin sääntöjä, kuten loukkaavan puheen kieltäviä sääntöjä.

Kun otetaan huomioon harkinnanvaraisuus, väärän tiedon, vihapuheen ja loukkaavan sisällön poistamisen ja sensuurin välillä on hieno raja. Näemme jo merkkejä siitä, miltä aggressiivisempi alusta näyttää. Twitter, jolla on samanlaiset säännöt kuin Facebookilla, ottaa puheeseen interventiollisemman lähestymistavan häirinnän sivuuttamisen pitkän historian jälkeen. Sen nykyisellä poistotodistuksella, tililukituksilla ja tilien jäädyttämisellä on havaittavissa toissijaisia ​​vaikutuksia-enemmän kuin muutama henkilö käytävän molemmin puolin väittää olevansa hiljaa epäoikeudenmukaisesti. Twitter lukitsi tilini 12 tunniksi rasistisen tytön, yhden käyttäjän, huutamisesta kirjoitti lokakuuta lausunnossaan, joka ei enää yllätä alustalle.

Facebook on käyttänyt kevyempää kosketusta kuin Twitter, mutta sen viimeisen vuoden virheet ovat työntäneet sen edelleen mikroskoopin alle ja pitäneet sitä armottomasti siellä. Ei vain Facebook, vaan kaikki sosiaalisen median valtavirran käytäntöjä tarkastellaan tavalla, jota ne eivät ole koskaan aikaisemmin olleet, UCLA: n apulaisprofessori Sarah Roberts, joka on opiskellut sisällön valvontaa seitsemän vuotta, kertoi BuzzFeed Newsille. Facebook, riippumatta siitä, onko se perusteltua vai ei, näyttää kantavan tämän tutkimuksen suurimman osan.

Ja kun Facebook yrittää löytää oikean sisällönhallinnan tasapainon, se kohtaa myös toisen haasteen: pitää tuhannet valvojat samalla sivulla, jotta he soveltavat sääntöjään johdonmukaisesti. David Wilner, varhainen Facebookin työntekijä, joka auttoi perustamaan yrityksen alkuperäisen sisällön valvontapyrkimyksen, kertoi BuzzFeed Newsille, että tämä on työn vaikein osa. Suurin osa tervettä järkeä ei ole todellinen asia. Toki, on olemassa joukko perusasioita, joista useimmat ihmiset ovat yhtä mieltä siitä, että ne ovat hyviä - esimerkiksi itkevän vauvan auttaminen. Mutta kun olet päässyt yli laajoista vetoista hyvin, hyvin perustavanlaatuisista lihan ja veren kysymyksistä, ei ole luonnollista yksimielisyyttä, Wilner sanoi. Jokainen tuo historiansa jokaiseen päätökseen - lapsuuteensa, rotuunsa, uskontoonsa, kansallisuuteensa, poliittisiin näkemyksiinsä. Jos otat 10 ystävääsi ja annat heille erikseen 50 vaikeaa esimerkkiä sisällöstä päätösten tekemiseksi - ilman keskustelua - he ovat eri mieltä. Tiedämme tämän, koska olemme kokeilleet sitä.

Aiemmin Facebook on osoittanut taipumusta hyökätä ongelmiinsa raa'alla voimalla. Tämä lähestymistapa saattaa osoittautua tuhoisaksi, jos sitä sovellettaisiin tähän uuteen sisällönhallinnan painostukseen, joka johtuu osittain voimakkaasta julkisesta paineesta. Facebook on jo osoittanut ongelmat, joihin tämä lähestymistapa voi johtaa, kun se aiemmin tänä vuonna poisti laajalti postauksia, joissa käytettiin sanaa dyke, vaikka sitä käytettiin itseviittaavilla eikä vihamielisillä tavoilla. Saatuaan lisää kontekstia Facebook palautti monet viestit.

Mutta jos tapa, jolla Facebook käsitteli Zuckerbergin natsivalokuvausta, on osoitus siitä, että yritys näyttää ottavan vivahteikkaamman lähestymistavan arkaluonteisiin sisältökysymyksiin. Facebook ei poistanut kuvaa. Sen sijaan se jätti sen alustalle. Kuva ei enää näy hakutulosten hakutuloksissa 'Mark Zuckerberg', ja tiedottaja sanoi, että se painettiin alas Zuckerbergin hakutuloksissa sivuston laajuisessa päivityksessä, jonka tarkoituksena oli parantaa osuvuutta.