Apple Inc. en Goldman Sachs Group Inc., twee van de meest herkenbare bedrijven in technologie en financiën, zijn verwikkeld in een groeiend debat over de vraag of kredietverstrekkers onbedoeld discrimineren wanneer ze complexe modellen gebruiken om te bepalen hoe Amerikanen geld lenen.

Op zaterdag, Bloomberg meldde dat een toezichthouder op Wall Street een onderzoek naar de creditcardpraktijken van Goldman had geopend nadat een virale tweet van een tech-ondernemer beweerde dat de algoritmen van de Apple Card zijn vrouw discrimineerden.

Nu roept een andere spraakmakende gebruiker van de Apple Card, mede-oprichter van Apple, Steve Wozniak, de regering op om mee te doen. daarbij verwijzend naar buitensporige afhankelijkheid van bedrijven van mysterieuze technologie.

"Dit soort oneerlijkheden stoort me en druist in tegen het waarheidsprincipe. We hebben geen transparantie over hoe deze bedrijven deze dingen opzetten en werken, Wozniak zei zondag in een interview. "Onze regering is niet sterk genoeg op het gebied van regelgeving. Consumenten kunnen alleen door de overheid worden vertegenwoordigd omdat de grote bedrijven alleen zichzelf vertegenwoordigen."

Wozniak zei dat hij 10 keer zoveel kan lenen als zijn vrouw op hun Apple Cards, ook al delen ze bank- en andere creditcardrekeningen. en dat andere geldschieters hen gelijk behandelen.

"Algo's hebben duidelijk gebreken, " zei Wozniak. "Een groot aantal mensen zou zeggen:"We houden van onze technologie, maar we hebben niet langer de controle." Ik denk dat dat het geval is."

Virale Tweets

Lenders hebben de modellen gepromoot omdat ze geacht worden het speelveld tussen verschillende leners te egaliseren door menselijke fouten weg te nemen en zich alleen op gegevens te concentreren.

"Onze kredietbeslissingen zijn gebaseerd op de kredietwaardigheid van een klant en niet op factoren als geslacht, ras, leeftijd, seksuele geaardheid of enige andere door de wet verboden grond, ", zei Goldman-woordvoerder Andrew Williams nadat het New York Department of Financial Services een onderzoek had geopend naar de kaartpraktijken van de bank.

Het onderzoek werd gestart naar aanleiding van een reeks Twitter-berichten van David Heinemeier Hansson waarin werd geklaagd tegen de Apple Card omdat hij hem 20 keer de kredietlimiet had gegeven die zijn vrouw kreeg. de tweets, waarvan vele godslastering bevatten, kreeg onmiddellijk online grip - en een reactie op Twitter van Wozniak.

Hansson heeft geen specifieke inkomensgerelateerde informatie over het paar bekendgemaakt, maar zei dat ze gezamenlijke belastingaangiften hebben ingediend en dat zijn vrouw een betere kredietscore heeft dan hij. Wozniak zei dat hij en zijn vrouw ook gezamenlijke aangiften indienen en creditcard- en bankrekeningen delen.

"De afdeling zal een onderzoek uitvoeren om vast te stellen of de wet van New York is geschonden en om ervoor te zorgen dat alle consumenten gelijk worden behandeld, ongeacht hun geslacht. " zei een woordvoerder van Linda Lacewell, de inspecteur van de NY DFS. "Elk algoritme dat al dan niet opzettelijk resulteert in een discriminerende behandeling van vrouwen of een andere beschermde klasse van mensen, is in strijd met de wet van New York."

Het is de tweede dergelijke actie in de afgelopen weken van de toezichthouder, die een onderzoek opende tegen de gezondheidszorggigant UnitedHealth Group Inc. nadat uit een onderzoek bleek dat een algoritme de voorkeur gaf aan blanke patiënten boven zwarte patiënten.

"Nieuwe technologieën kunnen bepaalde consumenten niet achterlaten of discriminatie verankeren, ", zei Lacewell zondag in een verklaring. Ze vroeg ook om klachten van benadeelde consumenten op Twitter.

Traditionele kredietverstrekkers gebruiken steeds meer machines om te beslissen wie hoeveel krediet krijgt als onderdeel van een strategie om de kosten te verlagen en het aanvragen van leningen te stimuleren. In de tussentijd, technologiebedrijven betreden het terrein van de financiële dienstverlening, met bedrijven als Amazon, Appel, Facebook en Google bedreigen de lucratieve businesslijnen van banken door leningen en betalingsopties aan te bieden.

Congrescontrole

De algoritmen hebben kritiek gekregen in het Congres. In juni, de House Financial Services Committee hoorde over voorbeelden van algoritmische besluitvorming waarbij onderzoekers gevallen van vooringenomenheid hebben gevonden die gericht waren op specifieke groepen, zelfs als het niet de bedoeling was om te discrimineren.

Sommige wetgevers eisen al een federaal antwoord. Senator Elizabeth Warren, een Democraat uit Massachusetts en mededinger om president Donald Trump uit te dagen bij de verkiezingen van 2020, vertelde de federale regelgevers in juni dat de regering "actie zal moeten ondernemen om ervoor te zorgen dat antidiscriminatiewetten gelijke tred houden met innovatie."

Voor Goudman, de groeiende ambities voor Main Street zorgen voor meer controle en een nieuwe reeks uitdagingen waar het nog niet eerder mee te maken heeft gehad. De Apple Card is een joint venture tussen Apple en de in New York gevestigde bank, die verantwoordelijk is voor alle kredietbeslissingen op de kaart. Het werd eerder dit jaar uitgerold - de techgigant brengt het op de markt als "gemaakt door Apple, geen bank" - en leidinggevenden van beide bedrijven prezen het als de meest succesvolle lancering ooit.

Hansson zei dat Goldman onbedoelde vooroordelen niet serieus behandelt.

"Zodra dit een PR-kwestie werd, ze verhoogden onmiddellijk haar kredietlimiet zonder om aanvullende documentatie te vragen, " zei hij over zijn vrouw in een interview zaterdag. "Mijn overtuiging is niet dat er een snode persoon was die wilde discrimineren. Maar dat maakt niet uit. Hoe weet je dat er geen probleem is met de machine-learning-algo als niemand kan uitleggen hoe deze beslissing is genomen?"

© 2019 Bloomberg Nieuws
Gedistribueerd door Tribune Content Agency, LLC.