Die Antidiskriminierungsbeauftragte des Bundes will den Schutz vor digitaler Diskriminierung ausweiten. Ein Rechtsgutachten schlägt eine Beweislastumkehr vor.
Was schieflaufen kann, wenn man Algorithmen agieren lässt, illustriert das Beispiel einer schwarzen Frau, die mithilfe einer Software ein Bewerbungsfoto erstellen wollte. Obwohl sie kein Dekolleté trug, zauberte der Softwarefilter einen tiefen Ausschnitt in ihr Kleid. Der Algorithmus hatte sich offenbar an Fotos aus dem Internet orientiert, auf denen schwarze Frauen in sexualisierten Kontexten dargestellt werden.
Algorithmen treffen Entscheidungen oder eine Vorauswahl – beispielsweise im Bewerbungsprozess für eine Arbeitsstelle oder eine Wohnung oder bei einem Antrag auf einen Kredit. Dabei können sie im schlechtesten Fall automatisch Vorurteile und Stereotype reproduzieren. Zum einen kann Benachteiligung entstehen, weil ein Programmierer seine eigenen Vorurteile bewusst oder unbewusst in die Software überträgt. Zum anderen filtern selbstlernende Systeme aus der Datenflut heraus, dass Menschen aus bestimmten Gegenden seltener Kredite bekommen, und treffen danach ihre Entscheidungen.Das Allgemeine Gleichbehandlungsgesetz biete bisher keinen Schutz gegen solche „automatische“ Benachteiligung durch Algorithmen und KI, sagte Ataman.
Außerdem sollten Betreiber von KI-Systemen verpflichtet werden können, Einblicke in die genutzten Daten und die Funktionsweise des Systems zu ermöglichen.„Die Gefahren digitaler Diskriminierung dürfen wir auf keinen Fall unterschätzen.“
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Künstliche Intelligenz: Bundesregierung will gegen Diskriminierung durch Algorithmen vorgehenDie Antidiskriminierungsbeauftragte des Bundes will den Schutz vor digitaler Diskriminierung ausweiten. Ein Rechtsgutachten schlägt eine Beweislastumkehr vor.
Weiterlesen »
Ataman warnt vor Diskriminierung durch Künstliche IntelligenzBerlin - Die Antidiskriminierungsbeauftragte des Bundes, Ferda Ataman, warnt vor einer neuen Form von Diskriminierung, wenn öffentliche und private Stellen zunehmend Entscheidungen durch automatisierte
Weiterlesen »
Künstliche Intelligenz - Ataman warnt vor digitaler DiskriminierungDie Antidiskriminierungsbeauftragte des Bundes, Ataman, warnt vor einer neuen Form der Diskriminierung durch den Einsatz von Künstlicher Intelligenz.
Weiterlesen »
Künstliche Intelligenz erobert die Wall Street im Sturm - Bank of America sieht bei diesen ...Nvidia meldet Quartal für Quartal horrende Gewinne, Orcale-Chef Larry Ellison investiert Milliarden, Alphabet-Chef Sundar Pichai spricht von einer Revolution durch KI. Ergebnis: Die Wall Street hob KI-Aktien
Weiterlesen »