Biais sexiste de l'Apple Card : Goldman Sachs va examiner ses pratiques

Mickaël Bazoge |

Pris dans la tourmente du scandale, Goldman Sachs mets les bouchées doubles pour éteindre l'incendie. La banque partenaire d'Apple pour l'Apple Card a été prise en grippe ce week-end par les services financiers de New York : après plusieurs témoignages ― dont celui de Steve Wozniak ―, l'établissement est suspecté de défavoriser les utilisatrices du service d'Apple.

Apple Card semble en effet attribuer davantage de crédit aux hommes qu'à leurs compagnes, notamment chez les couples de longue date qui ont un compte joint et déclarent conjointement leurs revenus pour les impôts (lire : L'Apple Card accusée d'un biais sexiste). Ça la fiche mal évidemment, en particulier au vu de discours d'Apple sur l'égalité entre les hommes et les femmes.

Goldman Sachs a déjà eu l'occasion d'émettre un premier communiqué rappelant la méthode de calcul pour déterminer le montant de crédit alloué et les taux d'intérêt : cela varie en fonction de la cote de crédit du client, de ses revenus, ses dettes et leur gestion, entre autres critères. Selon la banque, il peut arriver que « deux personnes d'une même famille ne reçoivent pas les mêmes lignes de crédit ». Mais elle assurait aussi que jamais le sexe n'entrait en ligne de compte.

Nouvelle déclaration hier soir, dans laquelle Goldman Sachs réaffirme l'absence de discrimination par le genre ; l'établissement ignore le statut marital du client qui demande un crédit Apple Card. Il annonce qu'une tierce partie va revoir et analyser le processus décisionnel afin de prévenir tout biais. De plus, la banque va proposer un système d'appel si on estime que le crédit proposé ne reflète pas l'historique de crédit. Le cas échéant, Goldman Sachs s'engage à réévaluer le montant du crédit alloué.

avatar debione | 

C’est le fait du hasard moi je dis... Jamais au grand jamais GS ne ferait un truc en marge de la loi...

avatar NEWIPHONE76 | 

@debione

😂

avatar jazz678 | 

@debione

Et les redresseurs de torts toujours véhéments et à l’affût hein ..

La loi n’est pas en question ici. On parle de réparer une inégalité

avatar John McClane | 

@jazz678

Je pense que debione plaisantait !

avatar Osei Tutu | 

@jazz678
La loi est bien en question ici. Autrement les services financiers de New York n'auraient pas décidé d'une enquête

avatar fte | 

@jazz678

"La loi n’est pas en question ici. "

Pourquoi y a-t-il enquête dans ce cas ? Pour le fun ?

avatar jazz678 | 

@fte

Une enquête n’est qu’une enquête.
Et même si on a envie de clouer GS au pilori, elle ne signifie pas qu’elle est coupable de quoi que ce soit vis à vis de la loi. GS aura enfreint la loi quand l’enquête l’aura prouvé

avatar fte | 

@jazz678

"Une enquête n’est qu’une enquête."

En effet. Il n’y a que questions et peut-être suspicion.

"Et même si on a envie de clouer GS au pilori, elle ne signifie pas qu’elle est coupable de quoi que ce soit vis à vis de la loi. GS aura enfreint la loi quand l’enquête l’aura prouvé"

C’est juste. Et je n’ai rien dit allant dans le sens contraire.

Quoique enquête et preuve ne suffisent pas. Il doit y avoir jugement et appel et confirmation de jugement... mais bref.

avatar aldomoco | 

@debione

..bien sûr cela serait 😇😅😂🤣

avatar webHAL1 | 

@debione

Non, c'est sûr. ;-)

Apple a eu totalement raison de s'associer avec Goldman Sachs, un établissement connu pour sa probité et sa morale sans faille ! 😂

avatar SLV17000 | 

@debione

Nous parlons quand même du diable en personne la ! 😅

avatar jaymcfly | 

@debione

😂

avatar moua | 

Peut être est ce lié à l’âge aussi ?
Ou au fait que monsieur ai contracté/rembourse plus de (cartes de) crédits dans sa vie, augmentant son scoring (c’est le fonctionnement aux US), comparé à madame ?

C’est comme les refus d’octroi en France, la banque n’est pas tenue de se justifier, et une personne largement solvable peut se voir refuser une carte de crédit au contraire d’une autre ayant bien moins de revenus.
Les algorithmes ne sont pas communiqués.

avatar SyMich | 

Les personnes qui ont soulevé ce problème connaissent parfaitement le système américain du credit score et ils connaissent certainement le leur et celui de leur femme. Si ça suffisait à expliquer les écarts (jusqu'a 20x !) de plafond alloué par GoldmanSachs, ils auraient éventuellement questionné les critères d'évaluation de ce crédit score, mais n'auraient pas questionné l'algorithme de cette carte spécifique.

Quant à communiquer les algorithmes... Apple vante une totale transparence concernant cette AppleCard. Ça fait partie des 1ers atouts mis en avant pour justifier qu'ils ont "totalement réinventé" la çarte de crédit !

avatar moua | 

@SyMich

Le credit score ne fait pas tout.
Et on peut voir des incohérences là où il n’y en a pas dans l’algo.
Après, il peut y avoir des « incohérences » dans la façon dont a été fait l’algo lui même.
Il y a des cas similaires entre personnes de même sex, donc dire que c’est lié au genre c’est un peu rapide.

Quand à Apple, ça n’est pas la banque, c’est pourquoi ils s’appuient sur Goldman Sachs (même si dans cette « affaire », ils surveillent ça de près).

avatar Ducletho | 

@moua

« Quand à Apple, ça n’est pas la banque, c’est pourquoi ils s’appuient sur Goldman Sachs (même si dans cette « affaire », ils surveillent ça de près). »

Ah ? Soit t’es mytho ou alors t’es dans les petits papiers d’Apple.
Parce qu’une banque comme celle là et bien d’autres, même les états ont du mal à les surveiller de près...

avatar J'en_crois Pas_mes yeux | 

@SyMich
Ce "scandal" est un non évènement qui nous rappelle les défauts du politiquement correct et la stupidité des emballements médiatiques. Les banques (et particulièrement GoldmanSachs) sont des "monstres" rationnels sans états d'âme... du moins c'est ce qu'elle voudraient/devraient être. Elle sont "agnostiques", les idéologies, valeurs et contre valeurs humaines ne les concernent pas. Elles peuvent investir dans une dictature, dans un pot de yaourt... du moment que ça leur rapporte. Alors si d'aventure cette carte étaient réellement "sexiste", c'est à dire au service d'une idéologie machiste et non du profit maximal, ce serait une trahison des valeurs indépassables de GoldmanSachs.
Ce que j'essaye de dire, c'est que -soit cette différence de 20 est justifiée par un calcul probabiliste destiné à maximaliser les gains *et tout va bien* -soit cette différence de 20 va à l'encontre des bénéfices maximaux et cette erreur doit être corrigée et les responsables punis.
*et tout va bien?* Non ! Ce qu'il y a de grave dans tout "ce scandal", ce n'est pas le "sexisme" de cette carte qui n'existe probablement que dans la tête des politiquements corrects, c'est le problème général de la prise de décision par des algorithmes. Cela est effrayant !

avatar fte | 

@J'en_crois Pas_mes yeux

"c'est à dire au service d'une idéologie machiste et non du profit maximal, ce serait une trahison des valeurs indépassables de GoldmanSachs."

Ça m’a fait marrer.

Sauf que si certains (au masculin) pensent que les femmes sont un danger pour les profits de la banque, les deux idéologies s’accordent pour abaisser la limite de crédit des femmes... ce n’est pas nécessairement une trahison donc.

Quel cynisme, sacrebleu !

avatar J'en_crois Pas_mes yeux | 

@ fte
Je comprends que mon message soit difficile pour toi à comprendre.
Fais un effort, dépasse le réflexe pavlovien et peut-être pourrons nous alors partager pour un enrichissement mutuel.
PS : Si certains passages reste obscure, n'hésites pas à me demander des éclaircissements : je ferai de mon mieux :-)

avatar fte | 

@J'en_crois Pas_mes yeux

"Je comprends que mon message soit difficile pour toi à comprendre."

C’était limpide au contraire, et c’était marrant.

Qu’est-ce qui te fait penser que tes messages sont incompréhensibles ? Tu demandes à Siri de les écrire au hasard pour toi ?

avatar reborn | 

@fte

J’ai hâte de lire ce que pense Jennifer Bailey. C’est elle qui est à la tête d’Apple pay, Apple card et cie chez Apple

avatar eX0 | 

@fte

On parle de Goldman Sachs, la banque qui a aidé la Grèce à maquiller ses comptes pour entrer dans l’Union européenne, qui a fait des prêts à taux usuriers tout en conseillant la Grèce et en spéculant sur la dette de cette dernière.
Et les mecs auraient un « intérêt masochiste » supérieur à empêcher les femmes à s’endetter beaucoup plus que leurs maris??? Mais au contraire!!!!
La dette c’est l’asservissement ET du pognon en plus.
C’est bien la victimisation mais il faut réfléchir entre deux phases.

avatar J'en_crois Pas_mes yeux | 

@ eX0
Merci, tu as tout dit.

Il y a la banque et ses serviteurs.
La banque agnostique et amorale. objectif unique, augmenter ses bénéfices.
Les banquiers plus ambigus, loyaux serviteurs de la banque, mais aussi mâles Alpha.

Il faut bien être conscient que nous ne savons pas grand chose.
Il nous faut donc faire des hypothèses en fonction de nos connaissances.
1 - La banque est agnostique. Vendre des crédits plantureux aux femmes comme aux hommes est son intérêt. La taille du crédit est évalué d'une manière "savante ou magique" pour prévoir le bon remboursement du crédit. Si dans un couple, un mari et une femme ont un différentiel de 20 on peut supposer
1 (bon fonctionnement) - qu'il existe chez la femme une variable cachée correspondant à un risque important de non remboursement.
ou
2 (dysfonctionnement) - que les algorithmes prévisionnels souffrent d'une erreur de taille monstrueuse. Rien ne justifiait le traitement différencié de la femme et de l'homme.
La deuxième hypothèse est gravissime pour GoldmanSachs car elle va devoir revoir et corriger ses algorithmes. Remettre en question les algorithmes, ce sera (serait) douloureux pour eux.
Ce qu'il y a de politiquement important à saisir : c'est la nécessité d'un contrôle citoyen de ces automats monstrueux. C'est ce que suggère aujourd'hui Goldman... c'est ce que nous devons au plus vite inscrire dans la loi : contrôle des algorithme, possibilité de les court-circuiter
.

avatar JackOne | 

@J'en_crois Pas_mes yeux

+1

avatar hledu | 

Encore une bonne raison de ne pas recourir à GS qui a largement montré dans le passé l’absence totale de tout sens de l’éthique. Parce qu’une épouse gagne moins que son mari, elle a moins le droit de dépenser au nom du couple... curieux de voir ce que ça donnera lorsque ce truc arrivera en France.

avatar moua | 

@hledu

C’est déjà le cas.

La plupart des banques en ligne (mais pas que !) par exemple ne regardent que les revenus/avoirs du titulaire.

Donc si madame (ou monsieur !) gagne beaucoup moins, il faut ouvrir un compte joint, avec ce que ça implique.
Ou si c’est proposé, de demander une seconde carte au nom du conjoint, mais lié au même compte, ce qui est tout à fait courant aussi.

avatar CNNN | 

Quel drôle de procédé dans un pays soit disant civilisé.... Triste peuple américain

avatar SyMich | 

Goldman Sachs va examiner ses pratiques...

Ils vont s'auto-surveiller? On est sauvées alors 🥴
Et Apple? Ils semblent aux abonnés absents...

avatar J'en_crois Pas_mes yeux | 

@ SyMich "Et Apple? Ils semblent aux abonnés absents..."
Apple, mais qu'ont-ils à voir avec l'erreur technique que tu décris dans ton excellent message suivant ? Ce n'est pas eux qui l'on faite, ce n'est non plus pas eux qui peuvent la corriger.

avatar SyMich | 

Mais Apple c'est LEUR carte! Dont ils font une large promotion comme étant la meilleure carte jamais creee, Apple ayant "réinventé" la carte de crédit (selon leurs dire). A new kind of credit card. Created by Apple, not a bank.
Goldman Sachs n'est présenté par Apple que comme un simple partenaire!
https://www.apple.com/apple-card/

Quand il y a un bug sur le modem d'un iPhone, c'est bien Apple qui communique, pas Qualcomm!

avatar J'en_crois Pas_mes yeux | 

@ SyMich
Apple n'a pas accès aux algorithmes, n'est pas responsable de l'erreur, mais surtout ne peut rien faire pour la corriger. L'exemple d'un Iphone défectueux parce que l'une des pièces est défaillante n'a rien à voir. Dans le premier cas seul la banque peut corriger l'erreur, dans le second cas seule Apple peut réparer le dysfonctionnement.
Je ne comprends pas ton insistance passée à voir un problème de sexisme, et présent de vouloir faire endosser à Apple des responsabilités qui ne sont pas les siennes.
Apple lovers / Apple haters + féminisme/machisme ? c'est ce qui a permis cette histoire insignifiante de prendre des dimensions démesurées et qui a alimenté l'emballement médiatique. Il serait bien que l'on revienne à un simple problème rationnel qui devrait être résolu facilement.
Tu devrait relire l'excellent message de @ SyMich qui remet les pendules à l'heure.

avatar eX0 | 

@J'en_crois Pas_mes yeux

+1

avatar webHAL1 | 

@SyMich

Tout à fait d'accord. l'Apple Card n'est pas une simple carte Goldman Sachs existante que la Pomme revend. C'est un produit d'Apple, qu'elle présente comme tel, et donc c'est sa responsabilité.
Par contre, plutôt que faire un parallèle avec un bug dans un modem Qualcomm, je prendrais plutôt l'exemple d'un iPhone qui émettrait des ondes dépassant les limites légales. À en croire certains ici, Apple ne serait pas responsable, mais ça serait le fabricant de la puce réseau. Ça n'a pas de sens.

avatar J'en_crois Pas_mes yeux | 

Bonne chance @webHAL1 pour tenter de rallumer une polémique,
Peu de chance pourtant que tu trouves des personnes prêtes à perdre leur temps
alors que la stupidité de l'information de base est à présent clairement établie.
Mais peut-être trouveras tu quand même quelques Apple Lover qui répondront à ton message Apple hater... Sur ce, je te laisse en leur compagnie si, ce qui n'est pas sur, l'un d'entre eux exprime l'envie de te rejoindre.
Bonne chance.

avatar webHAL1 | 

@J'en_crois Pas_mes yeux

Il n'y a pire aveugle que celui qui refuse de voir.

avatar Spinnozza | 

C’est pas du sexisme c’est du pragmatisme, voilà tout.

avatar SyMich | 

Ce midi, j'ai profité d'un déjeuner avec mon précédent patron (grand groupe bancaire international) pour évoquer le sujet avec lui.
Son analyse c'est que GS a fait une erreur de débutant dans le process d'"enrôlement de ses clients. Ils prennent en compte le crédit score (ce que font tous les organismes de prêts américains), mais ils demandent également au futur client de déclarer ses revenus annuels.
2 clients avec strictement le même score crédit mais des revenus très différents, se verront allouer un plafond très différents. (Probablement ce qui s'est produit dans les cas rendus publics)
Là où GS a fait une erreur, c'est qu'ils ont oublié de demander si il y a solidarité économique au sein du foyer, auquel cas, chacun des époux est engagé à rembourser les crédits de son conjoint si nécessaire.
GS devrait modifier son questionnaire d'enrôlement pour ajouter cette déclaration sur l'honneur des époux (lorsque c'est bien le cas) et prendre en compte alors la totalité des revenus du foyer et pas seulement les revenus du porteur de la carte de crédit.

En attendant, au sein d'un foyer faisant "caisse commune", chacun des époux demandant une AppleCard pourrait déclarer comme revenus, la moitié des revenus du foyer (ce qui, à crédit score individuel identique, donnerait le même plafond à chacun). Par contre c'est risqué car ça revient à faire une fausse déclaration au risque de se voir résilier sa carte de crédit et se retrouver avec une grosse pénalité sur son credit score... donc ce n'est pas à recommander.

avatar J'en_crois Pas_mes yeux | 

@ SyMich
Merci @ SyMich
Si je vous ai bien lu, il n'y a donc aucune "faute sexiste" mais une erreur technique. Ce qui dès le début de cette histoire me paraissait la seule explication crédible. Encore un emballement médiatique fondé sur un non évènement. Mais dès que le mot Apple est prononcé, il leur est difficile de proposer une analyse rationnelle, et d'ailleurs pourquoi le ferait-il ? Ce n'est pas ce qu'attend leur lectorat.

avatar eX0 | 

@SyMich

C’est en effet la seule raison logique que je vois.
Le crédit score seul ne détermine pas la quantité d’argent auquel quelqu’un peut avoir accès.
C’est une combinaison entre le dossier de crédit (historique des crédits accordés, crédits actifs, défauts de paiements si ils existent, etc) avec les revenus qui déterminent la quantité d’argent et le taux d’intérêt auquel cet argent sera « emprunté ».
Mon crédit score est inférieur à celui de ma copine avec qui je suis conjoint de fait, pourtant je peux emprunter plus parce que mon salaire (informatique) est 6 fois le sien(organisme à but non lucratif).

avatar eX0 | 

@SyMich

La pratique habituelle est de demander une carte et ensuite donner un doublon de cette carte que le conjoint,conjointe utilisera.

CONNEXION UTILISATEUR