Die automatische Bildauswahl von Twitter bevorzugt Frauen und junge Personen sowie lateinische Schrift und schneidet Behinderte aus.
Im Rahmen eines Wettbewerbs und mithilfe sogenannter Bug Bountys, also einem kleinen Preisgeld, hatte der Social-Network-Betreiber Twitter dazu aufgerufen, weitere diskriminierende Eigenschaften seines automatischen Bildzuschnitts zu suchen. Wie unter anderem das Team auf seiner eigenen Plattform selbst schreibt, sind einige Forscher dabei fündig geworden.
So verändert etwa die Nutzung von sogenannten Beauty-Filtern, die auf zahlreichen Social-Media-Plattformen genutzt werden, die internen Bewertungen von Bildern durch den Algorithmus. "Dies zeigt, wie algorithmische Modelle reale Vorurteile und gesellschaftliche Erwartungen an Schönheit verstärken". Konkret bedeutet das, dass etwa Gesichter mit "stereotyp weiblichen Eigenschaften" bevorzugt werden. Ähnliches gelte für jüngere Personen oder auch schlankere Gesichter.
Ein weiteres Team konnte zeigen, dass die Bildauswahl von Twitter gesellschaftliche "Marginalisierungen fortschreibt". Dazu heißt es: "Beispielsweise wurden Bilder von älteren und behinderten Menschen weiter an den Rand gedrängt, indem sie aus Fotos herausgeschnitten und räumliche Blickverzerrungen verstärkt wurden".
Zahlreiche Probleme mit dem Twitter-Bildzuschnitt
Bei dem Wettbewerb, der auf der Konferenz Def Con abgehalten wurde, konnte auch nachgewiesen werden, dass die Bildauswahl bei mehrsprachigen Memes lateinische Buchstaben gegenüber arabischen bevorzugt. Zu den weiteren Erkenntnissen gehörte, dass selbst Emojis mit hellerem Hauttyp bevorzugt werden und dass auch durch die gezielte Manipulation einzelner Pixel im Bild der Algorithmus manipuliert werden kann.
Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.
Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt bei seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Der auf der Konferenz durchgeführte Wettbewerb sollte die Arbeiten dazu vertiefen.
https://ift.tt/3xM0Ggx
Wissenschaft & Technik
Bagikan Berita Ini
0 Response to "KI: Weitere Diskriminierungen in Twitter-Algorithmus gezeigt - Golem.de - Golem.de"
Post a Comment