News

Facebook: Algorithmus denkt, schwarze Menschen seien Affen

Diesen Shitstorm hätte sich Facebook sicherlich gerne erspart. Das soziale Netzwerk hat sich mit seiner sagenumwobenen KI einen wahren Supergau geleistet. Schließlich hat diese schwarze Menschen mit Affen gleichgesetzt.

„Eindeutig inakzeptabler Fehler“

Der Ursprung des Aufschreis liegt in einem Video, in dem mehrere Personen mit dunkler Hautfarbe zu sehen waren. Nachdem dieses abgespielt wurde, fragte Facebook den User, ob er nach wie vor „Videos über Primaten“ sehen möchte. Dementsprechend hat der Algorithmus schlichtweg schwarze Menschen mit Affen verwechselt. Facebook selbst bezeichnet diesen Fauxpas zu Recht als „eindeutig inakzeptablen Fehler“. Das Video wurde von keinem herkömmlichen User gepostet, weshalb es wohl überhaupt erst zum Aufschrei kam. Urheber ist vielmehr das britische Boulevard-Magazin „Daily Mail“.

Der Titel des Videos lautete „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ und wurde von vielen Facebook-Nutzern angesehen. Allesamt bekamen im Anschluss an die Wiedergabe die Frage gestellt, ob eine Fortsetzung mit „Videos über Primaten“ gewünscht sei. An die Öffentlichkeit geraten ist der Fall durch ein anderes journalistisches Urgestein – die New York Times. Um weitere Fehler dieser Art zu vermeiden, habe das Unternehmen den entsprechenden Algorithmus sofort überarbeitet. Weiterhin entschuldigte sich eine Sprecherin von Facebook mit den Worten:

„Wir entschuldigen uns bei jedem, der diese beleidigenden Empfehlungen gesehen hat“.

KI ist nicht frei von Fehlern

Wir leben in einer Zeit, in der künstlicher Intelligenz immer mehr Perfektion zugeschrieben wird. Insbesondere die Algorithmen von IT-Giganten wie Facebook oder Google sollen mithilfe von modernstem Machine Learning immer besser werden. Der oben geschilderte Fall macht jedoch deutlich, dass auch bei modernen Algorithmen noch Fehler auftreten können. Hier war es die ohnehin heftig umstrittene Gesichtserkennungssoftware von Facebook, die sich einen Patzer geleistet hat. Auf etwaige Probleme des Algorithmus weisen Bürgerrechtler bereits seit geraumer Zeit hin.

Jens Scharfenberg

Gaming und Technik waren stets meine Leidenschaft. Dies hat sich bis heute nicht geändert. Als passionierter "Konsolero" und kleiner "Technik-Geek" begleiten mich diese Themen tagtäglich.

Ähnliche Artikel

Neue Antworten laden...

Avatar of Basic Tutorials
Basic Tutorials

Neues Mitglied

2,151 Beiträge 951 Likes

Diesen Shitstorm hätte sich Facebook sicherlich gerne erspart. Das soziale Netzwerk hat sich mit seiner sagenumwobenen KI einen wahren Supergau geleistet. Schließlich hat diese schwarze Menschen mit Affen gleichgesetzt. „Eindeutig inakzeptabler Fehler“ Der Ursprung des Aufschreis liegt in einem Video, in dem mehrere Personen mit dunkler Hautfarbe zu sehen waren. Nachdem dieses abgespielt wurde, fragte … (Weiterlesen...)

Antworten Like

Schaltfläche "Zurück zum Anfang"