IL CASO

L’algoritmo è “sessista”? Goldman Sachs sotto accusa per le Apple card

Secondo la pista che sta seguendo il dipartimento cittadino dei servizi finanziari i sistemi automatici della banca concederebbero agli uomini che richiedono la carta tetti di spesa molto più alti rispetto alle donne

Pubblicato il 11 Nov 2019

Antonio Dini

mobile-payment-wallet

Una dichiarazione dei redditi congiunta. E anzi, un punteggio per il credito migliore per la moglie che non per il marito. Tuttavia, Goldman Sachs, la banca americana che da pochi mesi è entrata nel settore del credito al consumo con il suo primo strumento finanziario B2C, ha assegnato automaticamente un tetto di credito 20 volte più alto al marito che non alla moglie. Un algoritmo, insomma, che discriminerebbe sulla base del genere dei clienti.

Ne è seguita una serie di tweet da parte del marito, lo sviluppatore software David Heinemeier Hansson, che sono diventati virali e stanno portando all’indagine della città di New York. Non ci sarebbe stata nessuna attenzione da parte della stampa, però, se non si fosse trattato di una discriminazione “automatica” e soprattutto se la carta di credito non fosse gestita per conto di Apple da una delle più grandi banche d’affari al mondo, alla sua prima entrata nel settore del credito al consumo (la Apple Card è disponibile solo negli Stati Uniti ed è un prodotto finanziario gestito da Goldman Sachs).

Hansson, che nel mondo degli autori di codice è una piccola celebrità perché ha creato Ruby on Rails, un popolare framework per la creazione di siti web, non ha rivelato alcuna specifica informazione relativa al suo reddito o a quello della moglie, ma ha sostenuto che la coppia ha presentato la dichiarazione dei redditi comune e che sua moglie ha sempre avuto un punteggio di credito migliore del suo. Il tetto che l’algoritmo di Goldman Sachs ha riservato alla moglie è però di un ordine di grandezza più limitato di quello del marito.

Il Dipartimento dei servizi finanziari di New York ha confermato che era in corso un’indagine. Un portavoce di Goldman Sachs ha rifiutato di commentare se Hansson avesse contattato Goldman in merito alle preoccupazioni sollevate su Twitter perché la banca non discute pubblicamente di questioni riguardanti singoli clienti.

La carta di credito di Goldman Sachs brandizzata con il logo di Apple è stata lanciata ad agosto, ed è come detto la prima carta di credito di Goldman Sachs. La banca d’investimento di Wall Street in seguito ha offerto anche altri prodotti per i consumatori, compresi prestiti personali e conti di risparmio attraverso la sua banca online Marcus.

Il Dipartimento dei servizi finanziari “condurrà un’indagine per determinare se la legge di New York è stata violata – ha detto un portavoce – e garantire che tutti i consumatori siano trattati allo stesso modo indipendentemente dal sesso. Qualsiasi algoritmo che provoca intenzionalmente o meno un trattamento discriminatorio nei confronti delle donne o di qualsiasi altra classe protetta viola la legge di New York”.

@RIPRODUZIONE RISERVATA

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Argomenti trattati

Aziende

A
apple
G
Goldman Sachs

Approfondimenti

A
algoritmo
C
carte credito