Goldman Sachs und Apple sitzen im Fadenkreuz des New Yorker Finanzministeriums (DFS) nach einem viralen Tweet, der eine geschlechtsspezifische Diskriminierung aufgrund der mit der Apple Card verbundenen Kreditlinien vorsieht.
Der Softwareentwickler David Heinemeier Hansson, Entwickler des beliebten Ruby on Rails-Frameworks, veröffentlichte am 7. November einen Tweet mit der Feststellung, dass er auf seiner Apple Card ein 20-mal höheres Kreditlimit als auf seiner Frau erhalten habe über Bonitätsalgorithmen zur Bestimmung solcher Faktoren. Hanssons Erfahrung wurde vom Apple-Mitbegründer Steve Wozniak bestätigt, der sagte, er und seine Frau hätten eine ähnliche Erfahrung gemacht. Andere Apple Card-Benutzer haben sich ebenfalls angeschlossen - einige berichten von ähnlichen Erfahrungen, andere sagen, dass sie und ihre Ehepartner die gleiche Kreditlinie und Limite haben.
Hansson sagte, dass der Kundendienst von Apple Card letztendlich die gleiche Grenze für seine Frau erreicht habe, obwohl es ihnen nicht möglich war, die Unterbrechung zufriedenstellend zu erklären, ohne den zur Bestimmung der Kreditwürdigkeit verwendeten "Black-Box" -Algorithmus vage dafür verantwortlich zu machen. Hansson antwortete:
Also versteht niemand DEN ALGORITHMUS. Niemand hat die Macht, den Algorithmus zu untersuchen oder zu überprüfen. Alle, mit denen wir sowohl von Apple als auch von GS gesprochen haben, sind sich so sicher, dass DER ALGORITHMUS in keiner Weise voreingenommen und diskriminierend ist. Das ist ein Grad-A-Management der kognitiven Dissonanz.
- DHH (@dhh) 8. November 2019
Jetzt greift die New Yorker DFS ein, um Nachforschungen anzustellen. Linda A. Lacewell, Superintendent der New Yorker DFS, sagte in einem Tweet und später in einem Post an Medium über das Wochenende, dass sie das Problem untersuchen werden, um festzustellen, ob die staatlichen Antidiskriminierungsgesetze verletzt wurden.
Die DFS reguliert die im Bundesstaat New York angebotenen Finanzprodukte und -dienstleistungen. Finanzdienstleistungsunternehmen sind dafür verantwortlich, dass die von ihnen verwendeten Algorithmen geschützte Gruppen nicht unbeabsichtigt diskriminieren. Unser Nordstern ist, dass der Verbraucher an erster Stelle steht. Wir werden untersuchen, was möglicherweise schief gelaufen ist. Wenn der von Apple Card verwendete Algorithmus tatsächlich zu rechtswidriger Diskriminierung geführt hat, werden wir geeignete Maßnahmen ergreifen.
Goldman Sachs bestritt seinerseits jegliches Fehlverhalten in einer auf Twitter veröffentlichten Erklärung. Es lautet zum Teil:
Wie bei jeder anderen Kreditkarte wird Ihre Bewerbung unabhängig bewertet. Wir untersuchen das Einkommen und die Kreditwürdigkeit einer Person, einschließlich Faktoren wie persönliche Kreditwürdigkeit, wie viele Schulden Sie haben und wie diese Schulden verwaltet wurden. Aufgrund dieser Faktoren ist es möglich, dass zwei Familienmitglieder signifikant unterschiedliche Kreditentscheidungen treffen.
In allen Fällen haben und werden wir keine Entscheidungen über Faktoren wie das Geschlecht treffen.
Update (11.11.09): Erklärung von Goldman Sachs hinzugefügt.
Haben Sie und Ihr Ehepartner eine unterschiedliche Behandlung mit der Apple Card erhalten? Haben Sie das schon einmal bei anderen Kreditkarten gesehen? Lass es uns in den Kommentaren wissen.
