Rite Aid gebruikte gezichtsherkenningssystemen om klanten te identificeren waarvan eerder werd gedacht dat ze “waarschijnlijk betrokken zouden zijn” bij winkeldiefstal zonder de toestemming van de klant, en om mensen – met name vrouwen en zwarte, Latijns-Amerikaanse of Aziatische mensen – bij “talrijke” gelegenheden verkeerd te identificeren, volgens de nieuwe schikking. met de Federale Handelscommissie. Als onderdeel van de schikking mag Rite Aid vijf jaar lang geen gezichtsherkenningstechnologie in zijn winkels gebruiken.
De FTC beweerde in de klacht van de federale rechtbank dat Rite Aid van oktober 2012 tot juli 2020 gezichtsherkenningstechnologie in honderden winkels gebruikte om klanten te identificeren “waarvan voorheen werd aangenomen dat ze winkeldiefstal of ander crimineel gedrag zouden plegen”. De technologie stuurde waarschuwingen naar medewerkers van Rite Aid, hetzij per e-mail of telefoon, wanneer mensen op de volglijst werden geïdentificeerd die de winkel binnenkwamen.
In haar klacht beweerde de FTC dat winkelmedewerkers deze mensen vervolgens onder verscherpt toezicht zouden plaatsen, hen zouden verbieden om te winkelen, of hen in het bijzijn van vrienden, familie en andere klanten zouden beschuldigen van het plegen van strafbare feiten in het verleden. Het gezichtsherkenningssysteem werd vooral in New York gebruikt; Los Angeles; San Francisco; Philadelphia; Baltimore; Detroit; Atlantic city; Seattle; Portland, Oregon; Wilmington, Delaware en Sacramento, Californië, volgens schikking.
De schikking gaat in op beschuldigingen dat de drogisterijketen niet genoeg heeft gedaan om schade aan haar klanten te voorkomen en ‘redelijke procedures’ te implementeren, aldus de overheidsinstantie. Rite Aid zei dinsdag laat dat het het niet eens was met de beschuldigingen, maar blij was een akkoord te bereiken om de zaak op te lossen.
Als onderdeel van het contract met twee particuliere, niet bij naam genoemde leveranciers, heeft Rite Aid de bedrijven een database voor “personen van belang” gecreëerd of opdracht gegeven deze te creëren, waarin foto’s van mensen en andere persoonlijke informatie zijn opgenomen. Deze beelden waren vaak van slechte kwaliteit en werden vastgelegd door CCTV-camera’s van Rite Aid, gezichtsherkenningscamera’s of mobiele telefoons van werknemers, aldus de schikking.
Beveiligingspersoneel werd getraind om ‘zoveel mogelijk inschrijvingen af te dwingen’ en het bedrijf ‘schreef minstens tienduizenden personen in zijn database’, aldus de FTC-documenten.
De federale klacht zei ook dat er “talrijke gevallen” waren waarin de technologie ten onrechte iemand identificeerde die een winkel binnenkwam en Rite Aid er niet in slaagde de nauwkeurigheid ervan te testen voordat deze werd gebruikt. Rite Aid vroeg bijvoorbeeld niet aan een van de twee particuliere leveranciers waarmee het samenwerkte of zijn technologie op nauwkeurigheid was getest, aldus de nederzetting. In feite stelt de verkoper specifiek in zijn contract dat hij “geen verklaringen of garanties geeft over de nauwkeurigheid of betrouwbaarheid” van zijn gezichtsherkenningssysteem.
De FTC zei ook dat het bedrijf “er niet in is geslaagd redelijke stappen te ondernemen om werknemers die belast zijn met het bedienen van de technologie in Rite Aid-winkels op te leiden en te begeleiden.”
De groep voor burgerlijke vrijheden en digitale rechten, Electronic Privacy Information Center (Epic), zei dat gezichtsherkenning in elke context schadelijk kan zijn, maar dat Rite Aid zelfs de meest elementaire voorzorgsmaatregelen niet heeft genomen. “Het resultaat was helaas voorspelbaar: duizenden verkeerde identificaties die zwarte Aziatische en Latino-shoppers onevenredig zwaar troffen, waarvan sommige leidden tot vernederende huiszoekingen en verwijdering uit winkels”, zegt John Davison, hoofd procesvoering bij Epic.
Rite Aid zegt dat de beschuldigingen te maken hebben met een proefprogramma dat in een beperkt aantal winkels werd gebruikt en dat het bedrijf meer dan drie jaar geleden stopte met het gebruik van de technologie.
na het promoten van de nieuwsbrief
“We respecteren het onderzoek van de FTC en sluiten ons aan bij de missie van het agentschap om de privacy van consumenten te beschermen”, aldus het bedrijf in een verklaring op zijn website. “Wij zijn het echter fundamenteel oneens met de beschuldigingen over gezichtsherkenning in de klacht van het bureau.”
Studies hebben aangetoond dat gezichtsherkenningssystemen zwarte en bruine mensen routinematig verkeerd identificeren. De afgelopen jaren zijn er in de VS zes gevallen bekend waarbij zwarte mensen ten onrechte zijn gearresteerd vanwege gezichtsherkenning.
“Dit is een baanbrekende zaak, een grote stap voor privacy en burgerrechten, en hopelijk is dit nog maar het begin van een trend”, aldus Davison. “Maar het is belangrijk op te merken dat Rite Aid niet de enige is. Bedrijven gebruiken routinematig onbewezen algoritmen en tools voor het monitoren van slangenolie om consumenten te screenen, vaak in het geheim. De FTC heeft gelijk als zij deze praktijken hardhandig aanpakt, en bedrijven doen er verstandig aan hiervan kennis te nemen. Algoritmische wetteloosheid is niet langer een optie.”
Rite Aid zei in een voorbereide verklaring ook dat elke deal zou moeten worden goedgekeurd door een Amerikaanse faillissementsrechtbank. Het bedrijf kondigde afgelopen herfst aan dat het meer dan 150 winkels gaat sluiten omdat het een vrijwillig faillissementsproces doorloopt, volgens Chapter 11. Het bedrijf kampt al jaren met financiële problemen en loopt ook financiële risico’s als gevolg van rechtszaken over het voorschrijven van opioïden door zijn grotere rivalen, CVS en Walgreens.