Je bent aan het winkelen en bemoeit je met je eigen zaken, wanneer plotseling een bewaker verschijnt en aankondigt dat je… crimineel.
Dit is precies het scenario waarin een vrouw terechtkwam vanwege een fout die ze maakte Gezichtsherkenningssoftware In de Thuiswinkel.
Naarmate technologie steeds wijdverspreider wordt, loopt iedereen het risico deel uit te maken van de ‘digitale politielijn’ zonder het te weten, aldus het hoofd van de organisatie voor burgerlijke vrijheden. goed doel.
In het geval van Sarah, die anoniem wilde blijven, belde een van de winkelmedewerkers haar en zei tegen haar: “Je bent een dief, je moet de winkel verlaten.” Voordat ze de winkel uit werd gehaald, werd haar tas doorzocht.
In een gesprek met de BBC zei ze: “Ik huilde en huilde de hele weg naar huis… en ik dacht: ‘Oh, zal mijn leven ooit nog hetzelfde zijn?’” “Ik zal gezien worden als een winkeldief, terwijl ik nog nooit heb gestolen.”
Sarah werd ten onrechte geïdentificeerd via gezichtsherkenningssoftware genaamd Facewatch, die naast Home Bargains in een aantal winkels in het Verenigd Koninkrijk wordt gebruikt, waaronder Sports Direct, Budgens en Costcutter.
Hoewel Facewatch contact opnam met Sarah en de fout toegaf, weigerde ze commentaar te geven aan de BBC. Ook Home Bargains weigerde commentaar te geven.
Deze zaak is slechts één van een groeiend aantal gevallen waarin onschuldige mensen worden beschuldigd van misdaden die ze niet hebben begaan.
Sinds Notting Hill Carnival in 2016 is het uitgegroeid tot… De Metropolitan Police gebruikte live gezichtsherkenningstechnologie LFR-technologie wordt zowel bij grote evenementen als als onderdeel van algemeen straattoezicht gebruikt.
In januari onthulde het korps dat het meer dan een dozijn mensen had gearresteerd na een tweedaagse LFR-inzet in Croydon, waaronder degenen die niet voor de rechtbank waren verschenen en een man die werd gezocht op basis van een dagvaarding uit de gevangenis.
De BBC bundelde ook de krachten met de Metropolitan Police tijdens de LFR-inzet, waarbij zes mensen werden gearresteerd, waaronder twee die de voorwaarden van de Prevention Orders voor seksuele schade hadden overtreden.
Eerder deze maand waarschuwde de politie van Tower Hamlets op X de bewoners voor het gebruik van het programma in de wijk.
Het bedrijf zei: “We zullen vandaag (15 mei) live gezichtsherkenningstechnologie gebruiken op belangrijke locaties in Tower Hamlets.”
“Deze technologie helpt de Londenaren veilig te houden en zal worden gebruikt om mensen te vinden die bedreigen of schade veroorzaken, die gezocht worden of die door de rechtbank zijn uitgevaardigd door arrestatiebevelen.”
In totaal heeft de Metropolitan Police dit jaar 192 arrestaties verricht als gevolg van de technologie.
Maar net als bij de Facewatch is ook de Met-software van NEC niet onfeilbaar.
Sean Thompson, die voor jongerenbelangenorganisatie Streetfathers werkt, werd in februari ten onrechte geïdentificeerd toen hij een LFR-vrachtwagen passeerde nabij London Bridge.
“Ik kreeg een duwtje op mijn schouder en zei dat ik op dat moment gezocht werd”, vertelde Sean aan de BBC.
Hij werd twintig minuten vastgehouden en gevraagd om zijn vingerafdrukken te laten nemen, en hij werd pas vrijgelaten nadat een kopie van zijn paspoort was overhandigd.
“Ik voelde me binnengedrongen… Ik werd schuldig behandeld totdat mijn onschuld bewezen was”, zei hij.
De BBC zei dat het begreep dat de zaak mogelijk te wijten was aan een familiegelijkenis.
Hoe werkt live gezichtsherkenning?
Gezichtsherkenning begint met het identificeren van een gezicht in een stilstaand beeld of video, en het kiezen uit welke pixels het gezicht bestaat en welke het object, de achtergrond of iets anders zijn.
Vervolgens wordt het gezicht in kaart gebracht, bijvoorbeeld door de afstand tussen bepaalde kenmerken te meten, om een ‘digitale expressie’ van het individu te creëren.
Dit kan vervolgens snel worden vergeleken met grote databases om te proberen een match te vinden tussen gezichten die al in kaart zijn gebracht.
Gevallen van identiteitsverwisseling dienen echter als een grimmige herinnering dat het gezicht van iedereen die langs een door de LFR bestuurd voertuig passeert, waarschijnlijk zonder hun medeweten, zal worden gescand.
Silke Carlo, directeur van Big Brother Watch, houdt de implementatie van gezichtsherkenningstechnologie al jaren in de gaten.
'Mijn ervaring [is that] “De meeste mensen weten niet echt wat live gezichtsherkenning is”, vertelde ze aan de BBC, eraan toevoegend dat ze, wanneer ze worden gescand, feitelijk onderdeel worden van de digitale politieopstelling.
“Als ze een wedstrijdalarm slaan, zal de politie komen, hen misschien arresteren, ondervragen en vragen hun onschuld te bewijzen.”
Hoewel de Metropolitan Police zegt dat slechts één op de 33.000 mensen die door haar camera's worden gecontroleerd, ten onrechte wordt geïdentificeerd, stijgt het aantal zodra iemand daadwerkelijk wordt gemeld, waarbij dit jaar één op de veertig waarschuwingen betrekking heeft op gevallen van identiteitsverwisseling.
Gezichtsherkenningssoftware is, net als alle andere technologieën, voortdurend in ontwikkeling, en het heeft decennia geduurd voordat de Britse autoriteiten voldoende vertrouwen hebben gekregen in de capaciteiten ervan om deze bij wetshandhaving te gebruiken.
Velen zouden echter beweren dat het nog steeds niet nauwkeurig genoeg is om in het openbaar te worden vrijgegeven, waarbij ze het privacyargument terzijde schuiven.
Historisch gezien heeft gezichtsherkenning aanzienlijke raciale vooroordelen laten zien, terwijl studies ook problemen hebben aangetoond bij het identificeren van vrouwen, hoewel uit een onderzoek van het National Physical Laboratory (NPL) vorig jaar bleek dat algoritmen die door Britse strijdkrachten worden gebruikt, niet discrimineren op basis van geslacht, leeftijd of geslacht. etniciteit.
Naast het Met Museum maakt de politie van Zuid-Wales gebruik van gezichtsherkenningstechnologie, ook bij grote evenementen – en zal volgende maand worden ingezet tijdens een Take That-concert.
De strijdmacht heeft een duidelijke lijst met aanstaande inzet, zodat het publiek weet wanneer en waar hun gezichten kunnen worden gescand. De Met lijkt geen gemakkelijk toegankelijke observatiekalender te bieden.
Tot op heden zijn er geen regels die bepalen of degenen die LFR gebruiken mensen ervan bewust moeten maken dat hun gezichten worden gescand.
Michael Birtwistle, hoofd onderzoek bij de onderzoeksgroep van het Ada Lovelace Institute, vertelde de BBC dat de wetten de technologie nog moeten inhalen.
“Ik denk dat het op dit moment absoluut het Wilde Westen is”, zei hij. “Dit creëert rechtsonzekerheid over de vraag of het huidige gebruik illegaal is of niet.”
Momenteel zijn de Metropolitan Police en de South Wales Police nog steeds de enige korpsen die deze technologie regelmatig gebruiken. Maar met regelmatige positieve berichten over het aantal arrestaties is het niet moeilijk voor te stellen dat het gebruik ervan zal toenemen.
In China heeft gezichtsherkenningssoftware bijna elke burger in het land geregistreerd en wordt een uitgebreid netwerk van camera's gebruikt om inwoners te betrappen op het begaan van zelfs de kleinste overtredingen, van op straat lopen tot het gebruik van te veel toiletpapier in openbare badkamers.
Hoewel het onwaarschijnlijk lijkt dat deze voorbeelden zich in Groot-Brittannië zullen voordoen, waarschuwt mevrouw Carlo van Big Brother Watch dat het land er niet tevreden mee moet zijn dat LFR zich ongecontroleerd kan verspreiden.
“Als de politie eenmaal zegt dat dit in orde is, kunnen we dit routinematig doen, dus waarom zouden we het niet in vaste cameranetwerken plaatsen?” Ze zei.
Maar het debat is niet eenzijdig. Het gebruik van gezichtsherkenning krijgt steun van sommige burgers die bereid zijn een deel van hun privacy op te geven in ruil voor veiligere straten.
Het balanceren van privacy en openbare veiligheid is geen nieuw vraagstuk voor de politie, maar wel een kwestie die de technologie van de 21e eeuw aanzienlijk complexer maakt.
meer : Ik ben opgevoed met de overtuiging dat politieagenten ons beschermen, en toen ben ik met ze getrouwd
meer : Alexa, kun je mij helpen met het huiswerk van mijn kind?
meer : Het AI-overzicht van Google begint al een beetje warrig te worden
Ontvang het laatste nieuws dat u moet weten, feelgoodverhalen en analyses, en meer
Deze site wordt beschermd door reCAPTCHA en Google privacybeleid En Servicevoorwaarden Vooruitgang.