L'Apple Card accusée d'un biais sexiste 🆕
Les services financiers de l'État de New York ont ouvert une enquête afin de déterminer si le fonctionnement de l'Apple Card n'était pas entaché d'un biais sexiste.
Tout est parti d'une série de tweets furieux de l'entrepreneur David Heinemeier Hansson (créateur de Ruby on Rails) où il observe qu'il bénéficie d'une limite de crédit 20 fois supérieure à celle de son épouse, alors même qu'ils déclarent conjointement leurs revenus pour les impôts et qu'ils sont mariés depuis de nombreuses années.
Il qualifie de « boite noire » l'algorithme d'Apple qui établit ces limites et ajoute que ni l'assistance technique d'Apple, ni celle de sa banque partenaire Goldman Sachs n'ont su ou voulu lui expliquer les raisons d'une telle disparité, sinon que c'était le fait du fameux « algorithme ».
Au bout du compte et après six interlocuteurs, ses efforts ont fini par payer et ces soldes de crédits ont été équilibrés. Sans que cela ne permette pour autant d'y voir plus clair sur le fond des choses.
Plusieurs autres propriétaires d'Apple Card ont embrayé derrière son tweet en relatant des expériences identiques. Parfois c'était même l'épouse qui aurait dû, logiquement, disposer d'une limite de crédit supérieure mais dans les faits c'est l'inverse qui se produit. Parmi ces témoignages, on compte celui de Steve Wozniak qui évoque une situation similaire pour sa femme.
Linda Lacewell, directrice du département des services financiers de New York, a fait savoir par un porte-parole qu'une enquête allait essayer de déterminer « Si la loi de New York a été enfreinte et veiller à ce que tous les consommateurs soient traités avec égalité, quel que soit leur sexe ».
Andrew Williams, responsable de la communication pour Goldman Sachs, a assuré que les évaluations pour ces capacités de crédit sont « fondées sur la solvabilité des clients et non sur le genre, la race, leur âge, leur orientation sexuelle ou autre critère interdit par la loi ». Apple n'a pas communiqué.
Il y a un peu moins d'un mois, le patron de Goldman Sachs se réjouissait de ce partenariat avec Apple qui avait conduit, selon ses termes, au « lancement de carte de crédit le plus réussi de l'histoire ».
Mise à jour 11/11 — Goldman Sachs a publié une déclaration qui rappelle la manière dont les lignes de crédit sont calculées : le montant du crédit varie en fonction des revenus du client, son score de crédit, ses dettes, la façon dont ces dettes sont gérées. « Il est possible que deux personnes d'une même famille ne reçoivent pas les mêmes lignes de crédit ». La banque martèle que cette décision ne repose pas sur le genre de la personne. Par ailleurs, Goldman Sachs et Apple étudient le moyen de partager une même Apple Card avec d'autres membres de la famille.
@marenostrum
Oui, une différence de rapport 20 ! (je viens de corriger mon post précédent)
Il y a plusieurs questions :
1 - la construction d'un monde "minority report" est-il notre choix politique ?
une seconde question secondaire
2 - dans l'acceptation du monde "minority report" le rejet de cette femme est-il justifié ou une erreur de programmation ?
3 - Une non question qu'il faudrait être stupide comme un titre du journal Le Monde pour poser : un bout de plastique peut-il être sexiste ?
Seule la question 1 est sujet au débat, les autres sont de la fumée qui obscurcisse les enjeux.
@marenostrum
"pour ça que la banque lui donne plus de credit. y a pas de mystère. "
Super. Aucun problème à publier critères et algorithme dans ce cas. Pile poil.
@marenostrum
Oui tu as raison, le gars entrepreneur qui devient un patron voyou qui plante « son » entreprise n’est jamais inquièté. C’est ce que permettent les statuts de SARL et pire, de SA.
« Responsabilité limitée »
« Anonyme »
Ça veut dire en clair : Je peux faire ce que je veux, moi actionnaire ou gérant, polluer, détruire, mettre au chômage mes employés qui doivent me dire merci afin de maximiser _mes_ bénéfices, bref j’ai tous les droits. Exactement la mentalité des rois « de droit divin » ayant droit de vie et de mort sur leurs sujets (salariés, sous-traitants).
Magnifique !
@J'en_crois Pas_mes yeux
La question posée ne serait pas plutôt : Comment DES femmes aboutissent à un score 20 fois moins bon ?
L’indignation peut prospérer puisque comme il est précisé dans le NY Times « Andrew Williams, who said that the company could not comment publicly on individual customers »
ces capacités de crédit sont « fondées sur la solvabilité des clients et non sur le genre, la race, leur âge, leur orientation sexuelle ou autre critère interdit par la loi »
Parce que bien sûr, aucun lien statistique ne peut être établi entre la solvabilité et les paramètres cités.
Quand le cynisme de la finance et le politiquement correct se téléscopent.
La parole à Coluche :
Dieu a dit : il y aura des hommes blancs, il y aura des hommes noirs, il y aura des hommes grands, il y aura des hommes petits, il y aura des hommes beaux et il y aura des hommes moches, et tous seront égaux ; mais ça sera pas facile… Et puis il a ajouté : il y en aura même qui seront noirs, petits et moches et pour eux, ce sera très dur !
Tant d’encre numérique pour un faux problème complètement bidon
@Vicken
Merenostrum, sort de cet avatar !
Dans le métro une dame m’a marché sur le pied, je me sens terriblement offensé, ma vie est un désastre et je demande réparation !!!
Je ne sais comment fonctionne leur algo. Mais admettons que de manières statistiques les femmes (où les hommes on s'en fiche un peu) remboursent moins bien de manières significatives leurs credits. Il est logique d'introduire une discrimination basé sur le sexe dans l'algorithme. Ça na rien de sexiste ou je ne sais trop quoi c'est juste une optimisation rationnelle des risques. La banque se fiche pas mal du sexe ce qu'elle veux c'est que les crédits soient remboursés. Dans le cas évoqué dans l'article, ben effectivement il serait intéressant de voir l'historique de crédit pour voir si l'écart est justifié.
Enfin dans tout les cas c'est dommage de faire tout un fromage parce madame/monsieur ne peut pas s'endetter autant que son/sa conjoint(e). Oh secours, le droit fondamental de dépenser toujours plus n'est pas établit avec parité, quelle tragédie !!!!
@Spip74
Tiens encore un type qui veut justifier le sexisme !
Décidément on vit une belle époque. Où les c..s machistes sont fiers de l’être et l’affirment
@marc_os
Whaoo machiste carrément ^^. Je ne vois pas en quoi. J'ai juste dis que dans l'hypothèse où homme et femme ne remboursaient pas pareil ça me paraissait pas anormal d'intégrer ce paramètre dans un algo.
1. Mon exemple est un cas purement hypothétique, j'en sais trop rien qui rembourse mieux ou pas et il y a peut être même aucune différence. Et à vrai dire je m'en fiche pas mal.
2. Je vois toujours pas le rapport avec le machisme, mais ça doit être parce que je suis trop c..
3. Il semble en effet que telle pratique soir interdite par la loi. À la réflexion je me rends compte que ça doit pouvoir rapidement dégénérer dans la mauvaise direction. Ce qui me paraissait à première vu ne pas être choquant peut être une mauvaise idée, mais bon il y a pas de quoi s'énerver 🤗
-
"Whaoo machiste carrément ^^. Je ne vois pas en quoi. J'ai juste dis que dans l'hypothèse où homme et femme ne remboursaient pas pareil ça me paraissait pas anormal d'intégrer ce paramètre dans un algo."
Il fait partie de ce genre de personne qui pensent que la vérité doit être combattue si elle ne va pas dans leur sens. Faut pas trop leur accorder d'importance, vu qu'ils ne sont rien. :)
Sauf que la loi l'interdit... même l'élaboration de la statistique que vous évoquez est interdite. Vous n'avez pas le droit de tracer les habitudes de consommation ou la capacité à rembourser selon des critères de races, sexes ou religion.
Vous ne pouvez pas plus chercher à savoir si les femmes remboursent moins bien que les hommes, que vous n'avez le droit de le faire pour différencier les noirs des blancs sur ce sujet.
tu penses que la femme du gars qui se plaint gagne autant que lui ? et si l'algorithme (le banquier plutôt quel algorithme, les machines n'ont pas encore le pouvoir) se base sur les gains simplement, les achats par rapport aux rentrées, etc. pourquoi est utile de connaitre le sexe, par exemple ici dans ce forum ? les commentaires suffissent largement faire la différence des personnes derrière eux. qui est plus intelligent que l'autre, etc.
même si la nature nous a équipé de yeux (2 en plus et pas un seul), justement faire la différence dans chacun de nos pas, ne pas avancer aveuglement. mesurer à chaque moment les risques et périls qui peuvent se présenter devant nous, etc. bref c'est impossible pour l'homme de traiter les choses de manière égale. si devant toi se présentent quelques personnes tu les vois tous pareil ? sans rien différencier ? mais bien sur que non. et pourquoi alors tu veux que le banquier ne le fasse pas, différencier ses clients ?
@SyMich
Utiliser les statistiques pour discriminer les femmes et les hommes sont souvent une bonne choses. Cela n'est bien sur pas interdit.
Et bien détrompez vous. Que ce soit aux UsA ou en France (mais dans le cas d'AppleCard pour l'instant, ce sont les USA qui sont concernés), ce genre de suivis statistiques sont totalement interdits, comme le sont les suivis statistiques liés à la race ou à la religion.
@SyMich
Comme j'écrivais discriminer les femmes et les hommes en fonction des statistiques est une question de bon sens et il n'y a la rien d'illégale bien entendu.
(discrimination en fonction des différences de besoins alimentaires, de taille, de poids, pilosité, menstruation, grossesses, etc,
Ces différences statistiques exigent dans certains cas une discrimination entre ces deux populations
Le problème des algorithme est tout autre : si l'algorithme peut être correcte sur une base statistique, il est forcément faux dans les marges de ces populations.
@SyMich
Enfin quand bien même ça serait interdit, c'est un argument d'autorité dire que c'est interdit, ça ne répond pas vraiment à la question sur le fond...
"Vous ne pouvez pas plus chercher à savoir si les femmes remboursent moins bien que les hommes,"
Ah bah oui ça serait con qu'on le sache hein et que du coup les hommes serait légitime à demander de ne pas avoir à payer pour toutes ces femmes qui ne remboursent pas...
Encore un exemple d'inégalité qu'il ne faudrait pas démontrer parce que dans ce cas elle arrangerait bien les feminazguls qui passent leur temps à chialer quand elles n'ont pas absolument tout les avantages...
Okay, okay, my bad ! Maintenant je suis convaincu que c'est une mauvaise idée d'introduire une discrimination basée sur le sexe pour ce type l'algorithme. Comme quoi en 2h on peut changer un à priori faussé 😅.
par la pression médiatique ils vont surement le changer mais comme pour tout ça va niveler par le bas. bref tout le monde sera au même niveau que les femmes aujourd'hui. le gars du tweet aura le même niveau de crédit que sa femme, et pas 20 fois plus.
@marenostrum
« mais comme pour tout ça va niveler par le bas. bref tout le monde sera au même niveau que les femmes aujourd'hui »
Sérieux, j'en ai marre des sans gêne machos sexistes dans ton genre qui tiennent des propos à la limite de la légalité et qui persistent quand on le leur signale.
Je viens de signaler ton commentaire.
Je suis curieux de voir comment la rédaction de macg/igen va réagir.
@marc_os "Je suis curieux de voir comment la rédaction de macg/igen va réagir."
Je suppose qu'elle réagira comme devant une divergence de point de vue. Plutôt que de censurer un des deux intervenants, elle conseillera à chacun dans le respect de l'autre d'étayer son point de vue pour l'enrichissement de chacun.
Pour l'instant le message de Marenostrum me parait difficile à comprendre, mal étayé, probablement erroné et absolument pas sexiste.
Alors stop à la censure...
@J'en_crois Pas_mes yeux
« tout ça va niveler par le bas. bref le monde sera au même [bas] niveau que les femmes aujourd'hui »
C’est pas clair ???. La loi lui a de plus déjà été rappelée. Si ce type enfreint la loi, comme se serait le cas avec des propos ouvertement racistes ou antisémites , une fois signalé, si l’hébergeur ne fait rien alors lui aussi se met dans l’illégalité.
Je conseillerais donc à macg de consulter un avocat avant de considérer les propos sexistes comme un avis comme un autre et de se faire attaquer sur le plan pénal.
Il se trouve que la vie et un patron voyou m’ont obligé à consulter un avocat. Demain je demanderai son avis. A bon entendeur...
@marc_os
« Si ce type enfreint la loi, comme se serait le cas avec des propos ouvertement racistes ou antisémites , une fois signalé, si l’hébergeur ne fait rien alors lui aussi se met dans l’illégalité. »
@marenostrum a plus d’une fois tenu des propos ouvertement racistes sur ce forum. Sans équivoque. Assumés.
Il est coutumier du fait.
@jazz678
"@marenostrum a plus d’une fois tenu des propos ouvertement racistes sur ce forum. Sans équivoque. Assumés."
Absolument. Dans ce cas et sans état d'âme, je suis pour la "censure".
@marc_os "La loi lui a de plus déjà été rappelée. Si ce type enfreint la loi
Non
Certains ont prétendu que ces messages étaient contraire à la loi. La loi est précise, le sexisme la misanthropie et le machisme ne sont pas en eux même contraire à la loi. Si l'on prétend se substituer à la justice, encore faudrait-il bien la connaître (ce n'est pas mon cas).
Dans ce cas précis, il faudrait reprendre le passage qui contreviendrait à la loi et préciser la loi qui l'interdit. Les posts des machos et des féministes sont truffés d'affirmations sexistes, et si désagréables qu'ils sont à lire, ils ne tombent pas toujours sous la loi.
PS : Après nous avoir donner les passages que tu imagines contraire à la loi, n'oublie pas de les emmener quand tu verras ton avocat ;-)
@J'en_crois Pas_mes yeux
Bon, pour rendre les choses plus claires, voici une petite transposition du message de maremachin en remplaçant « homme » par « homme blanc » et femme par « noir ».
Et dis moi si c’est pas raciste :
« les hommes blancs produisent plus, pour ça ils gagnent plus. les noirs en profitent du système »
« pour moi un homme blanc et un noir c'est pas pareil, on peut le voir même facilement à l'oeil. les statistiques surement le montrent aussi plus en détail. »
« par la pression médiatique ils vont surement le changer mais comme pour tout ça va niveler par le bas. bref tout le monde sera au même niveau que les noirs aujourd'hui. le gars du tweet aura le même niveau de crédit qu’un noir, et pas 20 fois plus »
Mouhaha est pas mal non plus :
« "Vous ne pouvez pas plus chercher à savoir si les noirs remboursent moins bien que les blancs,"
Ah bah oui ça serait con qu'on le sache hein et que du coup les blancs serait légitime à demander de ne pas avoir à payer pour tous ces noirs qui ne remboursent pas... »
PS: j’ai conservé à l’identique leur grammaire foireuse.
@marc_os
Il est probable que la plus part de ces messages contreviennent à la loi et sont susceptibles de poursuite judiciaire. Mais (pour ma défense) ils émanent d'autres pages que je n'ai jamais lues. Sur celle-ci, aussi détestables qu'ils nous paraissent, ses messages ne me semblent pas contrevenir à la loi.
oups ! :-( je n'avais pas lu correctement ton message
"en remplaçant « homme » par « homme blanc » et femme par « noir »."
Ce n'était pas des messages ayant été écrit sur d'autres pages, mais des messages caviardés.
Vraiment nul.
@J'en_crois Pas_mes yeux (et, du coup, @marc_os et @SyMich)
"Pour l'instant le message de Marenostrum me parait difficile à comprendre"
C'est le moins qu'on puisse dire...
"mal étayé"
Pour que son message soit étayé, il faudrait d'abord qu'il ait des fondations.
"probablement erroné"
Probablement ?
"absolument pas sexiste"
Alors là, je ne vous comprends vraiment plus. Désolé, vraiment. Ce pauvre type ne fait que balancer des horreurs mysogines et vous le trouvez "absolument pas sexiste" ? Moi je comprends très bien la réaction épidermique et justifiée de @SyMich.
@ zoubi2
"balancer des horreurs mysogines et vous le trouvez "absolument pas sexiste" ? Moi je comprends très bien la réaction épidermique et justifiée de @SyMich."
Je comprends tout à fait les réactions épidermiques de et en partie je les partage. Mais prétendre que ces propos vont à l'encontre de la loi est probablement faux. Il est heureux que des paroles qui ne correspondent pas à mes valeurs puissent être prononcées sans tomber sous le coup de la loi.
Pour aller plus loin, si cela est ton désir, il serait souhaitable de reprendre et analyser le(s) portions de messages qui dépasserai(en)t les limites de la loi ou simplement qui dépasseraient la courtoisie du "vivre ensemble"
@J'en_crois Pas_mes yeux
On se comprend sans se comprendre...
Si votre propos concerne essentiellement l'aspect légal alors je la ferme. Je ne suis pas compétent. On ne va pas résoudre ici le problème récurrent et vraiment compliqué du "freedom of speech" qui agite bien des gens, surtout à l'Ouest.
Néanmoins, puisqu'il est question de liberté de parole, permettez-moi de faire remarquer à un abruti qu'il est bête à manger du foin.
@ zoubi2
Finalement nous partageons le même point de vue
"On ne va pas résoudre ici le problème récurrent et vraiment compliqué du "freedom of speech"
Là est bien la question :-)
Les propos tenus sont répugnants, mais le point limite qui définit leur interdiction est difficile à situer. En France, la loi met des limites (que j'apprécie) Ces interdits (souhaitables) ne doivent pas conduire à des débordements politiquement correct. Le médicament (l'interdiction) est iatrogène, l'utiliser trop ou à mauvais escient serait toxique pour la société.
"Sérieux, j'en ai marre des sans gêne machos sexistes dans ton genre qui tiennent des propos à la limite de la légalité et qui persistent quand on le leur signale."
Tu vas aussi faire la serpière quand elle demanderont à ce qu'on te coupe 15 ou 20 cm de guibole parce que la taille moyenne d'un homme est > à celle d'une femme et que c'est sexiste et misogyne ?
Sérieux, on en à marre des sans gêne cuck et sexistes dans ton genre qui tiennent des propos qui défient toute logique et qui persistent quand on le leur signale.
Un autre exemple : en 2015, 75% des français morts sur la route sont des hommes. De plus 82% des français à l'origine d'accidents mortels sont des hommes (source fichier national des accidents de la route). Question : les femmes et les hommes doivent-ils payer la même assurance ?
En fait de manière général est-ce qu'on établie les règles selon un principe "moral" (égalité, parité...) ou selon un état des lieux statistiques qui vaut ce qu'il vaut ? J'avoue ne pas trop connaître la réponse mais ça me paraissait pas si con comme question, enfin si les gourous de la secte ont déjà tranché en me déclarant illetré, machiste et compagnie c'est que ça devait être une mauvaise question...
"Question : les femmes et les hommes doivent-ils payer la même assurance ?"
Bah bien sur, le sexe n'a pas à avantagé l'un des 2 même si les statistiques disent le contraire. 'fin ça ça fonctionne uniquement quand les femmes n'ont pas l'avantage. Parcontre dans le cas contraire, d'après elle il est tout à fait normal qu'elle soit avec un régime qui leur est favorable.
Egalité à 2 vitesses quand tu nous tiens. :)
zut il y a une faille dans mon précédant exemple, il faudrait aussi connaître la proportion conducteurs/conductrices sinon il y a plus d'inconnus que d'équations 😅
Pages