Undersøgelse: Sociale medier fjerner ikke ulovlig hadtale

Foreløbige resultater fra EU-støttet projekt viser, at i langt de fleste tilfælde reagerer sociale medier ikke på anmeldt hadtale eller fjerner indholdet. Forskere fra IT-Universitetet i København er ansvarlige for at indsamle og analysere data for hadtale på de danske platforme.

Institut for DatalogiInstitut for Digital DesignForskningetiksociale medier

Skrevet 3. juli 2024 09:57 af Mai Valentine Kristensen

Siden januar 2023 har det EU-støttede projekt ‘Safenet: Monitoring and Reporting for Safer Online Environments’ monitoreret hadtale på sociale medier i 19 EU-lande, heriblandt Danmark. Formålet med projektet er at indsamle data, analysere og skabe indsigt i, hvordan sociale medier modererer hadtale for på den måde at dæmme op for problemet.

“Vi kan se, at platformene har nogle procedurer og processer for at fjerne skadeligt indhold, men det er tydeligt, at de ikke altid er særlig effektive. Der er rigtig mange mennesker, der bruger deres tjenester, derfor er det vigtigt, at der er en grad af beskyttelse,” siger lektor Christian Hardmeier.

Hadtale og andre typer af indhold, der opfordrer til vold på sociale medier er ulovligt i EU, derfor er platforme såsom Facebook, TikTok og X (Twitter) forpligtede til at fjerne det. Men de foreløbige resultater fra undersøgelsen i Danmark indikerer - med undtagelse af TikTok – at størstdelen af anmeldelserne ikke bliver besvaret, i mens en endnu mindre andel bliver fjernet.

X har indført EU-anmeldelsesmulighed

I Danmark er det forskerne Luca Rossi, Christian Hardmeier og forskningsassistent Peter Brunsgaard Trolle fra ITU, der står for at indsamle data om, hvordan Facebook, X og TikTok modererer hadfuldt indhold.

I deres seneste rapport, der løber fra januar 2023 til juni 2024, har de på tværs af platformene anmeldt 1130 tilfælde af hadtale, og kun 247 opslag eller kommentarer er blevet fjernet. TikTok er det medie, der er hurtigst til at reagere på anmeldelserne, hvoraf cirka halvdelen er ført til, at indhold er blevet fjernet fra tjenesten. I den modsatte ende befinder Facebook sig med den laveste fjernelsesrate, mens X har den længste responstid.

Selvom X og Facebook klarer sig ens i den seneste rapport, var det ikke tilfældet ved projektets start. Siden januar 2024 er X både blevet bedre til at reagere på anmeldelser og fjerne skadeligt indhold. Det skyldes en ny anmeldelsesfunktion, der giver brugerne valget mellem at rapportere indhold under EU’s lovgiving eller generelle retningslinjer.

“Der er stor forskel på, om man bruger den ene eller anden anmeldelsesfunktion. Hvis du bruger den almindelige, vil indholdet blive fuldkommen fjernet fra X, hvis de er enige i din anmeldelse. Bruger du derimod EU-funktionen, bliver det kun fjernet i det pågældende land. Du kan altså stadig finde indholdet, hvis du bruger en VPN eller befinder dig i et andet land,” forklarer forskningsassistent Peter Trolle.

Inden januar 2024 var X’s fjernelses- og besvarelsesrate ekstremt lav i forhold til de andre platforme, og det er de fortsat, hvis forskerne anmelder indhold under generelle retningslinjer.

“At have to anmeldesesmuligheder lægger et betydeligt ansvar på brugerne, der så skal træffe en beslutning om hvorvidt indholdet er ulovligt under EU eller ej. Tallene fra X viser, at de to anmeldelsesfunktioner udløser forskellige processer hos platformen,” siger Christian Hardmeier.

Få dansktalende moderatorer

I februar 2024 trådte EU-forordning ‘Digital Service Act’ (DSA), i kraft, der har til formål at regulere online platforme såsom sociale medier. Som en del af forordningen er online platforme og søgemaskiner, der har mere end 45 mio. aktive brugere i EU om måneden, blevet pålagt at udgive to årlige gennemsigtghedsrapporter om blandt andet tjenesternes indholdsmoderation.

Den seneste opgørelse viser, at medierne X og Linkedin har nul dansktalende indholdsmoderatorer, Facebook og Instagram har tilsammen seks, i mens TikTok har hele 27. Det kan blandt andet være en af årsagerne til, at TikTok er hurtigere til at reagere på anmeldelser end de andre tjenester.

På trods af det forskellige antal af moderatorer, ser forskerne alligevel en generel tendens på tværs af platformene. Når de anmelder indhold, der er ekstremt og fx opfordrer til vold, bliver det hurtigt fjernet, hvorimod indhold, der er mere subtilt, enten forbliver uafklaret og eller ikke bliver fjernet.

“Selvom lovgivningen siger, at en form for hadtale er ulovligt, så er det svært at bruge kriterierne i praksis, fordi to forskellige mennesker kan nå frem til to forskellige konklusioner. Endvidere, så er mennesker ofte subtile og tvetydige i deres kommentarer, hvilket gør det endnu sværere,” siger Christian Hardmeier.

Peter Trolle tilføjer: “Det kræver blandt andet, at man har moderatorer, der har kendskab til sproget og kulturen i det pågældende land, og det er multinationale virksomheder, der driver platformene.”

På tværs af de 19-EU lande, som deltager i Safenet-projektet, er der anmeldt 14.006 tilfælde af hadtale i alt fra platformene Facebook, Instagram, X, YouTube og TikTok I tidsrummet  januar 2023 til juni 2024. 4.158 ammeldelser er ført til, at indhold er blevet fjernet, svarende til 30 procent. I den samlede rapport er TikTok fortsat den platform, der har den hurtigste responstid og højeste fjernelsesrate, i mens Instagram og YouTube, der ikke indsamles data fra i Danmark, befinder sig i bunden.

Safenet projektet skal fortsætte indtil udgangen af 2024 og sigter efter at indrapportere 20.000 tilfælde af hadtale på forskellige sprog. Rapporterne deles med EU og de platforme, der er med i undersøgelsen, for at fremhæve problemer i forbindelse med monitorering af denne type indhold på sociale platforme.

Du kan læse hele rapporten her.

Mere information