Sie sollte eigentlich helfen, die besten Bewerber auszusuchen – nun wird sie zum Paradebeispiel, wie tief maschinelles Lernen noch in den Kinderschuhen steckt. Der US-Gigant Amazon (NASDAQ:AMZN) hatte in den vergangenen Jahren eine Künstliche Intelligenz eingesetzt, um mögliche neue Mitarbeiter zu bewerten und mit anderen zu vergleichen.
Jetzt stellte sich wohl heraus, dass das automatische Bewertungssystem diskriminierend gehandelt habe – zum Nachteil von Frauen, wie die Nachrichtenagentur Reuters kürzlich mitteilte. Demnach habe der Konzern das System mittlerweile wieder größtenteils eingestampft.
KI bevorzugte Männer
Um was geht es? Der von Amazon entwickelte Algorithmus sollte anhand von Bewerbungstexten automatisch die vielversprechendsten Personen herausfiltern. Hierbei nutzte das System Informationen aus den Schreiben bereits angenommener Bewerber.
Laut Reuters hatte die Software mit jenen Datensätzen „trainiert“, um zu lernen, welche Eigenschaften von Amazon bevorzugt werden. Das Problem: Beim US-Konzern, ähnlich wie bei vielen anderen Tech-Unternehmen auch, waren in den letzten zehn Jahren hauptsächlich Männer eingestellt worden. Somit kam der Algorithmus zu dem Ergebnis, dass Bewerbungen von Frauen ungeachtet der eigentlichen Kompetenzen prinzipiell schlechter einzustufen seien.
Software größtenteils eingestampft
Der Nachrichtenagentur zufolge haben die zuständigen Softwareentwickler das System später angepasst. Dennoch konnte offenbar nicht garantiert werden, dass die KI nicht trotzdem weiter diskriminieren würde. Daraufhin entschied man sich, die Software nur noch in deutlich eingeschränkterem Umfang einzusetzen, so Reuters.
Ursprünglich hatte der Konzern vor, der KI den kompletten Auswahlprozess zu überlassen. Nach Reuters-Informationen sei es aber nie über reine Vorschlags-Features hinausgegangen. So habe Amazon nie allein auf Grundlage des Algorithmus‘ Bewerber eingestellt.
Ja, mit nur 1.000 Euro können Sie jetzt reich werden:
Rolf Morrien – Aktien-Analyst und Börsen-Profi – zeigt Ihnen heute kostenlos, wie Sie selbst als blutiger Anfänger an der Börse reich werden können. UND DAS MIT NUR 1.000 € EINSATZ!
Das geht nur an der Börse und mit Rolf Morriens kostenlosen Leitfaden „Reich mit 1.000 €“!
>> Klicken Sie hier! Fordern Sie den Report jetzt HIER absolut kostenfrei an!
Ein Beitrag von Marco Schnepf.
Aktuelle Video-Analyse von Amazon: