L'Apple Card accusée d'un biais sexiste 🆕
Les services financiers de l'État de New York ont ouvert une enquête afin de déterminer si le fonctionnement de l'Apple Card n'était pas entaché d'un biais sexiste.
Tout est parti d'une série de tweets furieux de l'entrepreneur David Heinemeier Hansson (créateur de Ruby on Rails) où il observe qu'il bénéficie d'une limite de crédit 20 fois supérieure à celle de son épouse, alors même qu'ils déclarent conjointement leurs revenus pour les impôts et qu'ils sont mariés depuis de nombreuses années.
Il qualifie de « boite noire » l'algorithme d'Apple qui établit ces limites et ajoute que ni l'assistance technique d'Apple, ni celle de sa banque partenaire Goldman Sachs n'ont su ou voulu lui expliquer les raisons d'une telle disparité, sinon que c'était le fait du fameux « algorithme ».
Au bout du compte et après six interlocuteurs, ses efforts ont fini par payer et ces soldes de crédits ont été équilibrés. Sans que cela ne permette pour autant d'y voir plus clair sur le fond des choses.
Plusieurs autres propriétaires d'Apple Card ont embrayé derrière son tweet en relatant des expériences identiques. Parfois c'était même l'épouse qui aurait dû, logiquement, disposer d'une limite de crédit supérieure mais dans les faits c'est l'inverse qui se produit. Parmi ces témoignages, on compte celui de Steve Wozniak qui évoque une situation similaire pour sa femme.
Linda Lacewell, directrice du département des services financiers de New York, a fait savoir par un porte-parole qu'une enquête allait essayer de déterminer « Si la loi de New York a été enfreinte et veiller à ce que tous les consommateurs soient traités avec égalité, quel que soit leur sexe ».
Andrew Williams, responsable de la communication pour Goldman Sachs, a assuré que les évaluations pour ces capacités de crédit sont « fondées sur la solvabilité des clients et non sur le genre, la race, leur âge, leur orientation sexuelle ou autre critère interdit par la loi ». Apple n'a pas communiqué.
Il y a un peu moins d'un mois, le patron de Goldman Sachs se réjouissait de ce partenariat avec Apple qui avait conduit, selon ses termes, au « lancement de carte de crédit le plus réussi de l'histoire ».
Mise à jour 11/11 — Goldman Sachs a publié une déclaration qui rappelle la manière dont les lignes de crédit sont calculées : le montant du crédit varie en fonction des revenus du client, son score de crédit, ses dettes, la façon dont ces dettes sont gérées. « Il est possible que deux personnes d'une même famille ne reçoivent pas les mêmes lignes de crédit ». La banque martèle que cette décision ne repose pas sur le genre de la personne. Par ailleurs, Goldman Sachs et Apple étudient le moyen de partager une même Apple Card avec d'autres membres de la famille.
@marc_os
Servus !
J'ai fais mon Kindergarten la bas, et suis rentrée en France pour mon CP en école franco allemande. Mon pere y vit toujours, donc j'ai toujours l'occasion de voir la différence entre l'Allemagne et la France !
(Et de récupérer mon accent bavarois aussi ! 😬🔨)
@Khrys
Mdrrrrr
Arrête donc de répandre ce mythe et va lire des articles fait par des chercheurs dont c’est le métier :
https://www.economist.com/graphic-detail/2017/08/01/are-women-paid-less-than-men-for-the-same-work
@comboss
"Arrête donc de répandre ce mythe et va lire des articles fait par des chercheurs dont c’est le métier "
De la même famille que Dodo8?
Regarde les chiffres de lNSEE. Sauf si comme lui tu n’as pas terminé ta scolarité et que la lecture n’est pas facile pour toi.
@Khrys
Mec t’es inculte et t’es incapable de réfléchir par toi même. Pose toi 2 seconde et essaye d’être sérieux.
Si les femmes étaient vraiment moins payées que les hommes, les entreprises n’embaucheraient qu’elles pour de simple raison de compétitivité lié au coût de la masse salariale.
Qui plus est, ton attaque ad hominem sur ma scolarité prouve ta débilité profonde... T’étais vraiment pas obligé d’expliquer sur un forum que t’as un QI inférieur à 50.
Enfin j’ai seulement 25 ans et gagne probablement 4x ton salaire mon garçon ❤️
sur ce retourne faire chauffer ton petit cerveau, attention je veux que ça fume 😘
@comboss
Je pensais que tu le faisais exprès pour troller, mais non, t'as vraiment le QI d'un Apéricube 😁
@Khrys
Jpp le mec reprend l’histoire du QI en plus ahahahaha
On est inférieur à 30 en fait,
Oyez oyez, peuple d’iGen !
Admirez moi l’artiste 😂
@comboss
"On est inférieur à 30 en fait"
À priori non, tu es en dessous 🙂
@Khrys
Quelle idiotie congénitale et quelle médiocrité intellectuelle ! Comment on peut tenir ce genre de propos dans une société où la culture est accessible gratuitement en un clic ??
Tous les chiffres te donnent tort mais, pour modifier l’adage, il n’y a pas plus aveugle que celui qui ne veut pas voir.
@Dodo8
"Quelle idiotie congénitale et quelle médiocrité intellectuelle ! Comment on peut tenir ce genre de propos dans une société où la culture est accessible gratuitement en un clic ?? "
Je te retourne le compliment! Lis les chiffres de l’INSEE. Enfin, si tu sais lire, ce qui ne semble pas être le cas :)
C'est drôle, parce que bizarrement, les chiffres de l'INSEE expliquent totalement l'écart sans la moindre discrimination. Mais bon, on parle d'un mouvement qui occulte totalement plus d'un tiers des victimes de violences conjugale car ça n'arrange pas ses affaires, on ne va pas lui demander de prendre en compte des facteurs comme le nombre d'heures supplémentaire, l’absentéisme, l'engagement, la négociation salariale et la prise de risque qui en découle, etc...
@Dodo8
Le mec a le quotient intellectuelle d’un crustacé et la ramène. Bordel j’ai montré ses textos à des collègues en finance et ils étaient pliés ahaha
Laisse le donc bafouiller, le ridicule ne tue pas ;)
@comboss
Vous êtes donc bien tous les deux de la "famille"! Les ravages de la consanguinité sont assez apparents dans votre cas. Affligeant de débilité profonde... En tout cas...
@Khrys
Le pire que j’ai vu, assez surprenant en soit, c’est ce film dont le second rôle gagnait 2 fois plus que le premier qui était une femme évidemment.
@iPop
Le monde du cinéma est un peu à part dans le sens où c'est la notoriété de l'actrice ou de l'acteur qui permet de définir le montant de son cachet pour un film, tout comme les talents de négociation de son (ou sa) manager auprès des boites de productions.
@Khrys
Ce qui est marrant, c’est que quand les féministes parlent de ça, elles ne parlent jamais des critères bien connus et documentés qui ont un impact directe sur le salaire, que ce soit le brut annuel ou le salaire horaire. Comme les heures supplémentaires, les négociations salariales, le fait de faire jouer la concurrence ou de changer de travail pour obtenir un meilleurs salaires ou conditions de travail, etc...
Mais bon, venant d’un mouvement qui parle de violences conjugales en les limitant aux femmes et refusant catégoriquement de communiquer sur le fait que plus d’un tiers des victimes sont des hommes, on ne risque pas d’espérer une quelconque égalité de leur part...
Si même Le Woz s’y met 😁
Ça ressemble tout simplement à un algorithme bâclé, qui ne prends pas en compte une situation aussi simple et aussi courante que le compte joint.
@pim
Le soucis c’est qu’il n’y a pas encore de compte joint pour l’Apple card. Je pense qu’un compte joint pourrait résoudre ça
L'enquête de l'Etat de New York dira ce que il en est, mais si avec les mêmes données économiques les femmes se retrouvent avec une limite de crédit inférieure (jusqu'à 10 fois!) ce n'est pas que cet algorithme est bâclé, c'est qu'il prend en compte le sexe en préférant les hommes aux femmes.
@SyMich
Ou qu elles sont repérées par de grosses dépenses pendant les soldes ? =))
🤦♂️
Et alors? Le sujet n'est pas ce qu'on dépense mais notre capacité à rembourser, non?
Qu'est ce que c'est pénible ces remarques sexistes 😡
@SyMich
Le système américain est basé sur le Credit Score. Si ça se trouve pour les personnes qui plaignent d’un crédit moins élevé pour leur conjointe/copine/amante/amie/autre le résultat est juste le fait d’incident de remboursement de ladite personne. Sur si peu d’éléments de comparaisons et surtout avec si peu d’éléments d’analyse sur le risque que la personne présente un incident de payement il est facile d’en tirer des conclusions hâtives. Surtout que la personne qui déclare un compte commun ne précise pas non plus si il y a des incidents de remboursement sur les cartes de sa conjointe.
Les personnes qui soulèvent ce problème potentiel ne sont pas tombés de la dernière pluie et connaissent parfaitement le système du crédit score américain. Ils connaissent plus que certainement leur propre score et celui de leur femme. Si ça pouvait expliquer l'écart constaté dans le plafond qui leur est autorisé sur l'AppleCard, ils n'auraient pas créé cette polémique et l'Etat de New-York n'aurait pas ouvert une enquête. (Éventuellement ils auraient soulevé le problème du manque de transparence du crédit score qu'utilisent toutes les banques et organismes de crédit)
@406
"Ou qu elles sont repérées par de grosses dépenses pendant les soldes ? =))"
Alerte, commentaire sexiste détecté !
J’imagine que c’est une blague, mais franchement le moment n’est pas top bien choisi.
Une nouvelle science va naître : l’étude du caractère sexiste d’un algorithme.
Après avoir étudié sa correction, terminaison et complexité algorithmique, tout algorithme devant être implémenté pour le grand public devra passer à la moulinette pour savoir s’il est sexiste ou raciste (etc.).
Je dis tout ça sur le ton de la blague mais il y a un vrai problème dons notre monde ultra-numérique : les personnes ou institutions se défausse de plus en plus sur les algorithmes.
« Ha ma pauvre dame, je suis désolé mais c’est l’informtique qui est coupable. »
Autre exemple bien connu : Parcoursup.
@lepoulpebaleine
Tout à fait. Un jour je me suis retrouvé sans sécu alors que c’était dû à un bug informatique. Et la personne de la sécu ne voulait rien entendre, elle me répétait « ah ben non, si l’ordinateur me dit que vous n’existez pas à la sécu, je n’y peux rien car c’est l’ordinateur qui le dit »... C’était aussi kafkaïen que brazilien !
@lepoulpebaleine
"Je dis tout ça sur le ton de la blague mais il y a un vrai problème dons notre monde ultra-numérique : les personnes ou institutions se défausse de plus en plus sur les algorithmes."
J’enseigne l’informatique entre autres choses. Un des points sur lesquels j’insiste assez lourdement, le biais des moteurs de recherche. Pas un biais sexiste, encore que la question pourrait être posée. Mais biais de résultats. Des moteurs différents donnent des résultats différents (heureusement). Il est dès lors important de varier les moteurs de recherche pour moins subir le biais de chaque moteur. Et de recouper les résultats de divers moteurs, comme on recoupe informations et sources.
La dominance du moteur Google est un vrai problème en effet. "Google a dit..." : possiblement des conneries !
Vivement que ça n’arrive pas en France cette chose 😌
Ce genre de réaction des gens me décourage.. je suis développeur dans la vie et jamais on met un:
If (sexe == féminin)
{
Du code sexiste
}
On connaît pas toute l’histoire, la femme a sûrement pas un bon crédit à cause de son historique passé ou autre. Faut arrêter de crier au scandal et au sexisme à chaque truc qui a même pas rapport.
Vive la société en 2019..
@Atlantis251
Ah bon ? C’est pourtant ce que je fais tous les jours 🙃
Le problème, s’il y a, est implémenté au niveau des règles métiers je pense.
@Atlantis251
"On connaît pas toute l’histoire"
Peut-être, mais l’algorithme n’a pas été rendu public non plus.
Ne pensez vous pas que, dès lors que la solvabilité d’une personne est mise en doute, sur la place publique, sans preuves, l’algorithme censé avoir déterminé sa limite de crédit devrait également pouvoir être examiné ?
@occam
Tout à fait.
Il faudrait exiger une transparence totale sur ce genre d’algo.
@Atlantis251
Si c’était aussi simple ?!
Un long discours en apparence logique peut contenir des biais sexistes ou racistes. Idem pour un algorithme qui implémente des systèmes de règles complexes conçues par des humains vivant dans une société encore majoritairement sexiste...
@Atlantis251
"Ce genre de réaction des gens me décourage.. je suis développeur dans la vie et jamais on met un:
If (sexe == féminin)
{
Du code sexiste
}"
Jamais ?
Ça on ne le sait pas. Les critères n’ont pas été révélés. L’algorithme n’a pas été révélé.
Il y a du sexisme légal. Une bonne gestion de risque fait intervenir divers critères que l’on sait corrélés au risque, par exemple pour l’assurance voiture.
Il y a donc bien des algorithmes sexistes, agistes, culturistes, etc. Ton jamais me semble très précipité donc.
La résolution de cette affaire est très simple : publier critères et algorithmes pour inspection publique (et légale).
@Atlantis251
Vous n'y êtes pas du tout. Ce sont des biais cognitifs (involontaires ou non) qui mènent à ce résultat.
@Atlantis251
Merci ! Enfin !
C'est con, ça fait perdre des prises de crédits et donc des sous en moins pour Apple et Goldman Sachs...
@bunam
La justice américaine a des moyens humains et financiers sans comparaison avec la France, si jamais ils trouvent un quelconque problème de discrimination, l’addition va être salée...
Il a de fortes chances qu’il n’y ait pas de critères sexistes dans l’algorithme mais que les limites de crédit soient simplement calculées sur le score de crédit de chaque souscripteur.
Ça fait du bruit parce que c’est Apple mais il y a fort à parier que les notes de ces deux chefs d’entreprise, qui ont du faire des prêts dans le cadre de leurs activités professionnelles, sont bien meilleurs que celles de leurs épouses.
On pourrait s’interroger sur la caractère sexiste de la notation mais tout le système de crédit aux USA & Canada est basé dessus alors...
@Mikey5887
Et le « score de crédit de chaque souscripteur » il sort d’où ?
Il n’y a aucune transparence,
Le biais sexiste peut venir aussi de ces scores.
@marc_os
Aux USA, le score de crédit est établi en fonction de l’historique de crédit. En gros, tu dois commencer avec des petits crédits que tu rembourses correctement. Plus tu empruntes et plus tu rembourses « bien », plus tes futures demandes vont être acceptées facilement et avec des limites élevées.
Apple avait d’ailleurs fait valoir à l’époque du lancement que le score de crédit nécessaire ne serait pas très élevé pour obtenir leur carte (j’ai en tête 650 mais je peux me tromper).
C’est pour cela que ce qui peut être questionné est plus ce score de crédit qui reproduit les inégalités sociétales que l’algorithme d’Apple qui doit ni plus ni moins se baser là dessus comme tout organisme de crédit aux USA.
Un article qui explique le credit score dans les grandes lignes : https://www.lauramoonzi.com/americanlife/2019/7/23/le-systeme-de-credit-aux-etats-unis
Plutôt que de geindre, les américain.e.s feraient mieux d’arrêter de vivre à crédit pour leurs simples dépenses courantes.
@Derrick92
C’est leur économie
@Derrick92
"Plutôt que de geindre, les américain.e.s feraient mieux d’arrêter de vivre à crédit pour leurs simples dépenses courantes."
Je vis à crédit pour mes simples dépenses courantes. C’est le principe avec une carte de... crédit.
Ma femme et moi avons la même limite de crédit par ailleurs, que l’on a choisie en accord avec la banque, en discutant 5 minutes.
Quel rapport avec une suspicion de biais sexiste arbitraire donc illégal ?
Des gens qui se plaignent parcequ'ils ne peuvent pas assez s'endetter, l'occident marche sur la tête
Argent = dette + intérêts
C’est basé sur la confiance à rembourser. Visiblement madame est perçue comme une personne de confiance
Ah la la! Tous ces problèmes de riches! Cela doit être épuisant! 😂😂😂
les hommes produisent plus, pour ça ils gagnent plus. les femmes en profitent du système, quand la machine d'un Etat tourne toute seule, la vie devienne facile, plus besoin de labeur ou de courage pour diriger. historiquement quand les femmes prennent le pouvoir (notre époque en fait partie, une mauvaise signe), Semiramis de Babylone, Cléopâtre d'Egypte, Teuta d'Illyrie, etc, c'est la fin du pays concerné et même de l'époque.
@marenostrum
🍿🍿
@reborn
Euh tu es sérieux ou juste un pilier de bar ?
Pages