L'Apple Card accusée d'un biais sexiste 🆕

Florian Innocente |

Les services financiers de l'État de New York ont ouvert une enquête afin de déterminer si le fonctionnement de l'Apple Card n'était pas entaché d'un biais sexiste.

Tout est parti d'une série de tweets furieux de l'entrepreneur David Heinemeier Hansson (créateur de Ruby on Rails) où il observe qu'il bénéficie d'une limite de crédit 20 fois supérieure à celle de son épouse, alors même qu'ils déclarent conjointement leurs revenus pour les impôts et qu'ils sont mariés depuis de nombreuses années.

Il qualifie de « boite noire » l'algorithme d'Apple qui établit ces limites et ajoute que ni l'assistance technique d'Apple, ni celle de sa banque partenaire Goldman Sachs n'ont su ou voulu lui expliquer les raisons d'une telle disparité, sinon que c'était le fait du fameux « algorithme ».

Au bout du compte et après six interlocuteurs, ses efforts ont fini par payer et ces soldes de crédits ont été équilibrés. Sans que cela ne permette pour autant d'y voir plus clair sur le fond des choses.

Image : Apple

Plusieurs autres propriétaires d'Apple Card ont embrayé derrière son tweet en relatant des expériences identiques. Parfois c'était même l'épouse qui aurait dû, logiquement, disposer d'une limite de crédit supérieure mais dans les faits c'est l'inverse qui se produit. Parmi ces témoignages, on compte celui de Steve Wozniak qui évoque une situation similaire pour sa femme.

Linda Lacewell, directrice du département des services financiers de New York, a fait savoir par un porte-parole qu'une enquête allait essayer de déterminer « Si la loi de New York a été enfreinte et veiller à ce que tous les consommateurs soient traités avec égalité, quel que soit leur sexe ».

Andrew Williams, responsable de la communication pour Goldman Sachs, a assuré que les évaluations pour ces capacités de crédit sont « fondées sur la solvabilité des clients et non sur le genre, la race, leur âge, leur orientation sexuelle ou autre critère interdit par la loi ». Apple n'a pas communiqué.

Il y a un peu moins d'un mois, le patron de Goldman Sachs se réjouissait de ce partenariat avec Apple qui avait conduit, selon ses termes, au « lancement de carte de crédit le plus réussi de l'histoire ».

Mise à jour 11/11 — Goldman Sachs a publié une déclaration qui rappelle la manière dont les lignes de crédit sont calculées : le montant du crédit varie en fonction des revenus du client, son score de crédit, ses dettes, la façon dont ces dettes sont gérées. « Il est possible que deux personnes d'une même famille ne reçoivent pas les mêmes lignes de crédit ». La banque martèle que cette décision ne repose pas sur le genre de la personne. Par ailleurs, Goldman Sachs et Apple étudient le moyen de partager une même Apple Card avec d'autres membres de la famille.

Source
Tags
avatar dgaultie | 

C’est le début d’un nouveau CardGate !
Ce qui est assez marquant, qu’il y ait eu biais algorithmique ou pas, c’est que la responsabilité est en fait chez Goldman Sachs mais c’est Apple qui est visée par le buzz !

avatar hirtrey | 

@dgaultie

Apple Card ou Goldman Sachs Card ?

avatar SyMich | 

La carte s'appelle AppleCard, non? Pas GoLdmanSachs Card...
Même si l,algorithme est celui de GoldmanSachs, Apple doit assumer les erreurs de son partenaire.

avatar reborn | 

@SyMich

Si le client a signer avec GS c’est le problème de GS.

En attendant c’est un cauchemar de PR pour Apple

avatar SyMich | 

AppleCard, a new kind of credit card, created by Apple, not a bank
Apple Card completely rethinks everything about the credit card.
It represents all the things Apple stands for. Like simplicity, transparency, and privacy.
https://www.apple.com/apple-card/

GoldmanSachs est présenté comme un simple partenaire:
Every credit card needs an issuing bank. To create Apple Card, we needed a partner that was up for the challenge of doing something bold and innovative. Enter Goldman Sachs.

Si il y a un bug, Apple doit assumer. Même si l'erreur vient de son partenaire.

avatar lepoulpebaleine | 

@SyMich

Comme on dit souvent, ce n’est peut-être pas un bug mais une fonctionnalité : « it’s not a bug, it’s a feature ».

avatar bibi81 | 

Comme on dit souvent, ce n’est peut-être pas un bug mais une fonctionnalité : « it’s not a bug, it’s a feature ».

Là pour le coup il vaut mieux que ce soit un bug...

avatar totoguile | 

@SyMich

+1

avatar zoubi2 | 

@SyMich

"Si il y a un bug, Apple doit assumer. Même si l'erreur vient de son partenaire"

C'est un bug... ou de la connerie pure et simple ?

avatar arekusandoro | 

@reborn

Non tu as une AC ... donc c’est de la « faute » de Apple.

Quand tu as un problème avec NRJ mobile, Cic mobile ou reglo mobile ... tu n’appelle pas celui qui fournis le réseau à savoir sfr, Orange ou BT mais bien ton opérateur ...

Là c’est un peu pareil. Normal que les gens s’en prenne à Apple.

avatar reborn | 

@arekusandoro

Je parle sur le plan juridique il est possible que ce soit du coté de GS si le client signe un contrat avec GS

Sur plan PR évidement les gens s’en prennent à Apple.

avatar arekusandoro | 

@reborn

Juridiquement ça peut aussi être le pb de Apple

avatar fte | 

@reborn

"En attendant c’est un cauchemar de PR pour Apple"

Apple présente cette carte comme SA carte, sa réinvention de la carte. Si la pomme n’a pas vérifié comment la limite est déterminée, c’est totalement son problème PR, créé de toutes pièces par ses propres soins.

Après , la responsabilité juridique en cas de biais avéré, j’imagine que Apple s’est convenablement protégé le cul.

avatar totoguile | 

@SyMich

Parfaitement ! Apple est malheureusement responsable des agissements de ses fournisseurs. Apple a signé un contrat avec GS et doit donc assumer ses manquements également.

avatar soucolline | 

Quand bien même son formidable travail sur rails les tweets de DHH sont bien trop souvent pleins de suffisances et de certitudes

avatar fte | 

@soucolline

"Quand bien même son formidable travail sur rails les tweets de DHH sont bien trop souvent pleins de suffisances et de certitudes"

Pas faux. Mais pleins de pertinence très souvent aussi.

avatar shaba | 

Nous avons des membres du forum qui travaillent dans la banque aux usa il me semble (Paquito ?), peut-être peuvent-ils nous dire en tout anonymat si ces pratiques sont réelles ?

avatar Paquito06 | 

@shaba

Aucune idee a ce sujet. Je n’ai jamais entendu parler d’une telle chose/pratique.
On sait les salaires inégaux entre les genres (masculin, feminin, neutre etc.) mais pour l’obtention d’une carte de credit alors là, ...?!
Les tweets sont assez simples, personne ne parle de credit score, d’une part, ce qui represente la majorité de l’obtention du credit limit, et d’autre part, meme si les credit score sont identiques, on peut encore decortiquer ceux-ci et comparer la duree, le nombre de cartes detenues, l’utilisation, les hard inquiries, derogations, etc. ce qui peut jouer sur le resultat obtenu. C’est bien plus complexe. Malgré tout, si le facteur “genre” fait pencher la balance, c’est fort regrettable, mais ca ne m’etonnerait pas non plus. Il est simple de parametrer un algorithme (aucune inteligence artificielle ici) si les stats montrent que les femmes depensent +/- et remboursent +/- que les hommes.... :/

Et pour “l’erreur” que beaucoup citent, c’est Apple qui voit son image ternie, mais c’est GS qui est responsable à 100%. Sauf si c’est averé ET qu’il est prouvé que ca provient d’une demande d’Apple et non de GS.

avatar marveyhumus | 

@Paquito06

C’est quoi un genre neutre ? Pour la banque je précise

avatar Paquito06 | 

@marveyhumus

“C’est quoi un genre neutre ? Pour la banque je précise”

Pour la banque (ou meme ailleurs), les personnes qui ne s’identifient ni masculin, ni feminin. On a une 15aine d’Etats où c’est reconnu/legal aux US, et donc les banques (ou autres) offrent la possibilité de choisir X au lieu de M (male) ou F (female). Je ne sais pas si GS offrait que F et M à cocher lors de la souscription à l’Apple Card, dans l’Etat de Californie du moins, où je reside. Ils offrent la possibilite de cocher bien plus que masculin/feminin/neutre cependant sur leur site quand on postule pour un job chez eux.
Apres en banque (d’investissement ou de detail) je n’ai jamais vu une distinction quelconque par genre pour les clients, meme avec les equipes sales ou marketing, c’est assez etrange cette histoire de biais sexiste 👀

avatar Khrys | 

Certainement lié au fait que dans ce monde misogyne, à travail égal, le salaire d'une femme est inférieur d'environ 20% (voire même 30% ou plus parfois), par rapport à celui d'un homme.

avatar Kimaero | 

@Khrys

Beaucoup de raccourcis.

Selon l’Observatoire des Inégalités, à poste, horaires et diplômes égaux, la différence est de 0.2-0.3%.

Le fameux nombre de 23% correspond à la différence entre le salaire annuel moyen de tous les hommes et celui de toutes les femmes, tous postes, temps de travail et diplômes confondus.

Une étude canadienne avait montré que le sexe n’avait pas d’influence sur le salaire, mais que le principal facteur était le temps consacré aux enfants.
La catégorie qui gagne le plus est les femmes et les hommes qui n’ont pas d’enfants, de façon égale.
A l’autre extrémité, ceux qui sont le moins bien lotis sont les pères et mères célibataires, de manière égale aussi.

Donc chacun a les cartes en main chez soi !

avatar Khrys | 

@Kimaero

"Selon l’Observatoire des Inégalités, à poste, horaires et diplômes égaux, la différence est de 0.2-0.3%. "

Pas certain:

https://www.inegalites.fr/Les-inegalites-de-salaires-entre-les-femmes-et...

Selon d'autres études et organismes divers, la différence est bien d'environ 20%... Ça vaut pour la France, le Canada, les États-Unis et bien d'autres pays.

avatar pechtoc | 

@Khrys

Ça ne contredit pas ce qu'il dit. D'un côté on prend tout et on fait une moyenne, écart important, de l'autre on fait une comparaison plus poussé à poste/responsabilités et certification équivalente, différence faible.

avatar mouahahaha | 

"de l'autre on fait une comparaison plus poussé à poste/responsabilités et certification équivalente, différence faible."

Sauf que ça ça permet pas la pleurniche habituelle des féminazies, donc ça pas à la trappe. Sinon on se rendrait compte qu'une femme gagne autant qu'un homme pour le même poste et le même nombre d'h de travail...

avatar marc_os | 

@mouahahaha

« féminazies » ???
Ah bravo. 😱

avatar Kimaero | 

@Khrys

Mea culpa, j’ai dû confondre la source alors.

Je vais essayer de la retrouver, l’étude que j’avais lu poussait l’ajustement plus loin et prenait notamment en compte les diplômes, l’expérience et le parcours de travail (arrêts à des moments x ou y, périodes de temps partiel...).

avatar Khrys | 

@Kimaero

"Mea culpa, j’ai dû confondre la source alors."

Oui, j’imagine... 😄
Bonnes recherches !

avatar Khrys | 

@Kimaero

"Je vais essayer de la retrouver, l’étude que j’avais lu poussait l’ajustement plus loin et prenait notamment en compte les diplômes, l’expérience et le parcours de travail (arrêts à des moments x ou y, périodes de temps partiel...)."

Je suis certain qu’il y a d’autres paramètres de pris en compte dans l’étude à laquelle tu fais référence, comme le jour de la semaine, la force du vent, l’alignement des astres, l’âge du capitaine et d’autres éléments « pertinents » permettant de ramener la différence à presque 0.2% 🙂

avatar JokeyezFX | 

@Khrys

« Lorsque l'ensemble des critères est pris en compte, secteur d'activité, âge, catégorie socioprofessionnelle, taille de l'entreprise et condition d'emploi équivalent (temps complet ou partiel), l'écart de salaire moyen entre hommes et femmes est alors de 9,3 % »

https://www.google.fr/amp/s/amp.lefigaro.fr/social/2019/03/04/20011-2019...

Dans ce même article est expliqué un peu plus haut que ce passage que j’ai sélectionné que les 18,5% d’écart de salaire des femmes par rapport à celui des hommes, est en partie dû au fait que les femmes occupent moins de postes hiérarchiquement supérieurs et dont les salaires sont plus élevés. Une fois ce paramètre pris en compte il resterait donc un écart de salaire, injustifiable, certes, de l’ordre de 10% non environ 20%.

avatar Khrys | 

@JokeyezFX

"est en partie dû au fait que les femmes occupent moins de postes hiérarchiquement supérieurs et dont les salaires sont plus élevés. "

C’est aussi un problème de société en terme d’inégalités hommes/femmes. La plupart de ces postes étant réservés aux hommes.

Merci de l’avoir souligné 🙂

avatar JokeyezFX | 

@Khrys

Il y a sûrement du vrai dans votre réponse à ma remarque. Cependant, j’ajouterai qu’il y a certainement aussi un phénomène de mentalité à prendre en compte consistant à penser que les femmes qui sont avant tout des mères (donc non appliquable aux femmes sans enfants) préfèrent consacrer davantage de leur temps à leur famille qu’à leur carrière.
Il y aurait environ 80% des postes à mi-temps occupés par des mères de famille.
La société ne justifie pas à elle seule ce type de choix, il incombe également à la personne directement.

avatar Khrys | 

@JokeyezFX

"La société ne justifie pas à elle seule ce type de choix"

Au contraire, ce choix s'explique en grande partie par le mode de fonctionnement de la société actuelle, ainsi que de la mentalité qui veut que la mère s'occupe des enfants pendant que le père travail. L'inverse est plutôt rare, et je reste persuadé que beaucoup de mères optent pour un mi-temps faute d'avoir réellement le choix. Et pour celles qui choisissent leur carrière, on leur rappel gentiment que leur place est à la maison et non au bureau.

avatar JokeyezFX | 

@Khrys

Je pense justement que la mentalité est beaucoup résultante de la société, mais je reste convaincu qu’il est possible de modifier les mentalités qui auront certainement comme résultat de modifier la société.
Je dirais même que si ce n’était pas vrai, on aurait pas connu toutes les révolutions que l’on a connu dans l’Histoire.

avatar Khrys | 

@JokeyezFX

"mais je reste convaincu qu’il est possible de modifier les mentalités qui auront certainement comme résultat de modifier la société."

J'y crois également, mais là encore, ça va prendre du temps, beaucoup de temps...

avatar marc_os | 

@JokeyezFX

« ’écart de salaire des femmes par rapport à celui des hommes, est en partie dû au fait que les femmes occupent moins de postes hiérarchiquement supérieurs et dont les salaires sont plus élevés. Une fois ce paramètre pris en compte il resterait donc un écart de salaire, injustifiable, certes, de l’ordre de 10% non environ 20%. »

Donc, le fait qu’à compétences égales « les femmes occupent moins de postes hiérarchiquement supérieurs », c’est normal pour toi ??? 😱

avatar JokeyezFX | 

@marc_os

Personnellement j’ai compris ça comme ça : à compétences égales, les femmes sont moins nombreuses que les hommes à occuper ces postes. Ça veut juste dire qu’il y a moins de femmes que d’hommes qui occupent ces postes, mais une fois ces postes obtenus, on considère bien que ces hommes et ces femmes ont les mêmes compétences.

avatar Khrys | 

@JokeyezFX

"on considère bien que ces hommes et ces femmes ont les mêmes compétences."

Mais pas toujours le même salaire, du fait que les femmes sont des femmes et les hommes sont des hommes. On revient au point de départ.

avatar JokeyezFX | 

@Khrys

Oui beaucoup de temps!
Pour en revenir aux compétences hommes/femmes, tout à fait, à 9,3% de différence comme évoqué prévédemment. Mais on est d’accord pour dire que ce n’est pas normal.

avatar ddrmysti | 

@marc_os

Ça serait sûrement instructif pour toi de te pencher sur les facteurs ayant une incidence directe sur le salaire, comme les heures supplémentaires, l’absentéisme, l’engagement, les négociations salariales, etc...

Mais bon, ça ne dérange personnes que les hommes, qui représentes plus d’un tiers des victimes de violences conjugales en France, soient totalement exclus de là communications et la prévention sur ces violence, donc ça ne me surprend pas que les données qui n’arrangent pas les féministes sur le salaire soient totalement occultées.

avatar marc_os | 

@ddrmysti

« tiers des victimes de violences conjugales en France »
Si on te croit, ça fait donc les deux tiers de victimes féminines.
Et combien pour les meurtres ?

avatar showmehowtolive | 

@Khrys

Il faut voir à temps de travail et poste égal. Les études englobent tout et ne veulent souvent rien dire.

avatar  | 

@Kimaero

Merci pour cette précision ô combien utile dans cette société de l’indignation instantané.

avatar macfredx | 

@Kimaero

Ça me semble en effet plus conforme à la réalité, même si les 0,2-0,3% me semblent faibles.

avatar SyMich | 

"... Selon l’Observatoire des Inégalités, à poste, horaires et diplômes égaux, la différence est de 0.2-0.3%..."
Il paraîtrait même qu'à salaire équivalent, la différence serait encore plus faible 🤦‍♂️

avatar marc_os | 

@Kimaero

Ben voyons. Et la France, c’est pas le Canada.

avatar Link1993 | 

@Kimaero

Je ne sais pas pour la France, mais j'avais lu quelque chose de similaire étudié par l'état allemand.

Une histoire que les familles donne priorité au job aux hommes, laissant la femme gérer la vie quotidienne, influençant ainsi l'écart moyen salaire homme/femme.

avatar marc_os | 

@Link1993

Exemple symptomatique : Après la chute du mur les allemands de l’ouest qui ont pris le contrôle de l’est ont fermé toute les crèches. Comme ça, les mères qui ont perdu leur emploi en masse sont rentrées à la maison torcher les momes au lieu d’aller pointer au chômage.

avatar Link1993 | 

@marc_os

Je suis allemand, j'ai grandis à Munich, et même la j'ai pu le voir.... Mais c'est vrai, c'est un des défauts de l'Allemagne...

avatar marc_os | 

@Link1993

Na dann, grüß Dich !
J‘ai vécu tout cumulé presque 10 ans en Allemagne, la majorité du temps passée en Bavière à Erlangen puis Munich... et les 2 dernières années à Berlin. Au siècle passé.

Pages

CONNEXION UTILISATEUR