Sociale medier og brug af kunstig intelligens er med til at puste til had og opfordringer til vold. Samtidig sker der en høj grad af diskrimination på nogle af verdens største sociale-medie-platforme, viser dokumentation fra Amnesty International.
Amnesty har samtidig fundet en alarmerende stigning i opfordringer til vold, had og diskrimination på sociale medier, hvilket er en overtrædelse af både national og international lov.
Dokumentationen viser et stort antal opslag på sociale medier, som glorificerer Israels angreb på palæstinensere i Gaza, støtter ødelæggelserne af Gaza og taler for vold mod palæstinensere. Mange opslag bruger nedgørende og racistisk sprog mod palæstinensere.
Amnesty har også fundet dokumentation for antisemitisk indhold, der opfordrer til had og vold mod jøder. Tidligere har forskning fra “Center for Countering Digital Hate” vist, at antisemitisk indhold er blevet spredt på X (tidligere Twitter) de seneste måneder.
Mens Israel intensiverer angrebene, er vi ekstremt bekymrede over rapporter om, at indhold, der taler for palæstinensiske rettigheder, blokeres eller fjernes
Rasha Abdul-Rahim, direktør for Amnesty Tech
Sociale medier kan bidrage til overtrædelser af menneskerettigheder
”Sociale medier kan spille en vital rolle for kommunikation i krisetider. Derfor skal de store virksomheder bag sociale medier hurtigst muligt øge indsatsen for at beskytte menneskerettighederne. Selskaberne må sikre sig, at deres platforme ikke er med til at viderebringe budskaber om had og vold. Ellers risikerer de at bidrage til grove og alvorlige overtrædelser af menneskerettigheder og international humanitær lov. Dette omfatter krigsforbrydelser, som har præget denne konflikt og forårsaget hidtil usete civile tab og en katastrofal humanitær krise,” siger Rasha Abdul-Rahim, som er direktør for Amnesty Tech.
Palæstinensiske opslag fjernes og blokeres
Samtidig diskriminerer AI (kunstig intelligens) imod bestemte typer af indhold og har foretaget problematiske ændringer i automatiserede oversættelser, lyder opråbet fra Amnesty International.
For eksempel måtte Meta (der ejer Facebook og Instagram) offentligt gå ud med en undskyldning den 19. oktober 2023. Instagram-profiler havde i forbindelse med oversættelse fået indsat ordet ”terrorist”, hvis der var brugt et ord som ”palæstinensisk”, vist emojien af det palæstinensiske flag eller brugt vendingen ”Alhamdullilah” (som betyder lovet være Gud). Amnesty International har modtaget foruroligende rapporter, der indikerer en høj grad af censur af palæstinensiske profiler og indhold, der taler for palæstinensiske rettigheder på flere sociale medier.
Palæstinensere i det besatte Gaza får stadigt sværere ved at søge, modtage og videregive informationer. Den ulige fordeling i måden, som sociale medier begrænser opslag på, risikerer at underminere palæstinensere og begrænse dem endnu mere i at bruge deres til at ytringsfrihed.
”Når indhold modereres, skal det udføres på en måde, der respekterer retten til ytringsfrihed. Samtidig skal der skrides ind overfor opfordringer til had. Firmaerne bag sociale medier er nødt til at investere tilstrækkelige ressourcer i menneskelig overvågning af kunstig intelligens, der modererer indhold. Dette skal sikre, at alle brugere, inklusiv palæstinensere, kan bruge deres rettigheder ligeværdigt online, uanset sprog og politiske synspunkter. Flere platforme har undermineret deres muligheder ved at afskedige det personale, som var ansvarlige for overholdelsen af menneskerettighederne”, siger Rasha Abdul-Rahim.
Sociale medier fremhæver skadeligt indhold
Systemer styret af kunstig intelligens gentager ofte fordomme og stereotyper, der allerede eksisterer i samfundet, viser forskning.
Meta måtte undskylde den 19. oktober 2023 for at indsætte ordet ”terrorist” på oversættelser af Instagram-profiler, der indeholdt ord som ”palæstinensisk” og Alhamdullilah (hvilket betyder Lovet være Gud) og emojien for det palæstinensiske flag.
Amnesty Internationals forskning viser også , at algoritmerne på sociale medier fremhæver skadeligt indhold, der kan føre til vold, diskrimination og had. Når algoritmerne vælger sådan, skyldes det, at sociale medier går efter mest mulige reaktioner. Selv om det betyder, at de er med til at øge had på deres platforme.
Det er afgørende, at tech-firmaer forholder sig til de konsekvenser for menneskerettigheder, som deres platforme har, og sikrer, at de ikke er med til at skabe eller udbrede had, racisme og misinformation.
Hvis du eller nogen, som du kender, har oplevet dette, del venligst links og/eller screenshots af det indhold, som blev anmeldt eller fjernet samt screenshots af det originale indhold til hello@amnesty.tech
Hvad er shadow banning?
Når indhold eller profiler oplever at blive begrænset, blokeret og censureret på sociale medier, kaldet det shadowbanning.