Analyse

Ohne Zugriff auf die Computer von Goldman Sachs ist es unmöglich, sicher zu sein, was vor sich geht. Die Tatsache, dass ein Zusammenhang zwischen Geschlecht und Kredit besteht, bedeutet nicht unbedingt, dass einer den anderen verursacht. Trotzdem besteht der Verdacht, dass sich unbeabsichtigte Vorurteile in das System eingeschlichen haben.

Dies könnte daran liegen, dass die Algorithmen bei der Entwicklung auf einem Datensatz trainiert wurden, bei dem Frauen in der Tat ein größeres finanzielles Risiko darstellten als Männer. Dies könnte dazu führen, dass die Software generell niedrigere Kreditlimits für Frauen ausspuckt, auch wenn die zugrunde liegende Annahme für die gesamte Bevölkerung nicht zutrifft.

Alternativ könnte das Problem in den Daten liegen, mit denen die Algorithmen jetzt gespeist werden. Beispielsweise ist es bei verheirateten Paaren wahrscheinlich, dass Männer größere Kredite nur unter Verwendung ihres Namens aufnehmen, anstatt dies gemeinsam zu tun, und die Daten wurden möglicherweise nicht angepasst, um dies zu berücksichtigen.

Eine weitere Komplikation besteht darin, dass die betroffene Software als “Black Box” fungieren kann, die Beurteilungen liefert, ohne dass die Art und Weise, wie die einzelnen Entscheidungen getroffen wurden, ermittelt werden kann.

“In den letzten fünf bis sechs Jahren wurden viele Schritte unternommen, um die Erklärbarkeit von Entscheidungen zu verbessern, die auf maschinellen Lerntechniken basieren”, kommentierte Jonathan Williams von Mk2 Consulting. “Aber in einigen Fällen ist es immer noch nicht so gut wie es sein könnte.”

In jedem Fall würde Apple es vorziehen, wenn Goldman Sachs die Hitze nimmt, obwohl die Marketingmaterialien besagen, dass seine Karte “von Apple erstellt wurde, nicht von einer Bank”. Aber das ist eine schwierige Position zu behaupten.

Apples Marke ist die einzige, die das minimalistische Design des Kartengesichts kennzeichnet, und viele der Verbraucher haben höhere Erwartungen an das Verhalten als bei anderen Anbietern von Zahlungskarten.

Das bedeutet, dass Apple im Mittelpunkt der angesprochenen Forderungen steht, auch wenn sich Probleme mit der geschlechtsspezifischen Voreingenommenheit bei den Kreditgebern als häufig herausstellen.

onlinekredit card
Symbolfoto