Algoritmen er jævla kjønnsdiskriminerende

Mange raser mot Apple Card.

Da den danske programmereren David Heinemeier Hansson (skaperen av Ruby on Rails, journ. anm) og kona Jamie Hansson skulle registrere seg som Apple Card-kunder, fikk de seg en overraskelse.

Kona fikk avslag på søknaden om å øke kredittgrensen, til tross for at hun hadde en bedre betalingsevne enn ham på papiret.

– Apple Card er et kjønnsdiskriminerende program. Individuelle Apple-representanters hensikter betyr ingenting, det som betyr noe er algoritmen som de har valgt å sette sin lit til. Og det den gjør, er å diskriminere, skriver Hansson i én av de mange Twitter-innleggene hans om saken.

Steve Wozniak (grunnlegger av Apple) og flere andre har også klaget. Nå skal Goldman Sachs (banken) som styrer algoritmen granskes. De sier:

– Vit at Goldman Sachs aldri gjør kredittavgjørelser basert på kjønn eller andre forbudte faktorer. Våre avgjørelser baserer seg på kundenes kredittverdighet og ikke på faktorer som kjønn, rase, alder, seksuelle preferanser eller andre forbudte grunnlag.