Dit artikel wordt u aangeboden door Candriam.

Candriam: Gezichtsherkenning en Mensenrechten

Interview met Benjamin Chekroun en Sophie Deleuze: welke aspecten zijn belangrijk voor beleggers?

Over de hele wereld worden naar schatting meer dan een miljard bewakingscamera’s gebruikt. Enkele van de grootste bedrijven ter wereld – Alibaba, Amazon, Apple, Facebook, Google, Huawei, IBM, Microsoft – zijn betrokken bij de ontwikkeling van gezichtsherkenningstechnologie. Houden we voldoende rekening met de risico’s en verantwoordelijkheden?

 

Benjamin, is gezichtsherkenningstechnologie iets goeds?

Dat kan het zeker zijn! Gezichtsherkenningstechnologie ontgrendelt onze meest geavanceerde smartphones en laat ons toe om sneller door internationale luchthavens te gaan. Gezichtsherkenning wordt als de meest natuurlijke van alle biometrische metingen beschouwd, omdat de eindgebruiker in feite niets hoeft te doen. Het gebruik van vingerafdrukken, irisscans en andere biometrische gegevens is veel moeilijker toe te passen.

Vanwaar komt dan de bezorgdheid?

Sommigen zijn laaiend enthousiast over gezichtsherkenning, terwijl anderen de technologie verfoeien. Onjuiste identificaties komen frequent voor. In de VS leiden ze soms zelfs tot onrechtmatige arrestaties. Die foutieve identificaties vertonen duidelijke raciale en etnische vertekeningen. Behalve die individuele gevallen kan gezichtsherkenning systematisch tegen bevolkingsgroepen worden gebruikt op een orwelliaanse manier. Vandaag is er bitter weinig transparantie rond gezichtsherkenningstechnologie. De snelle uitrol van de technologie roept veel vragen op over de impact ervan op onze privacy, gegevensbescherming en burgerlijke vrijheden. Gezichtsherkenningstechnologie heeft een duidelijk kader nodig. Zonder transparantie kunnen we de controverses immers moeilijk beoordelen. We moeten openstaan voor analyse en communicatie.

Sophie, waarom is dit belangrijk voor beleggers?

Als verantwoordelijke beleggers is het onze taak om ecologische, sociale en governance-factoren (ESG) in onze beleggingsbeslissingen op te nemen, en om een betrokken aandeelhouder te zijn. We trachten waarde op lange termijn te creëren voor onze cliënten, en erkennen dat het onze verantwoordelijkheid is om de kracht van financiën aan te wenden ten bate van het milieu en de samenleving als geheel. Wanneer we in onze beleggingen en dialoog met bedrijven rekening houden met alle aspecten van gezichtsherkenningstechnologie, zal dat, naar onze mening, beide elementen ten goede komen.

Bij een gebrek aan transparantie vormt gezichtsherkenningstechnologie een risico voor bedrijven die ze ontwikkelen, verkopen of gebruiken. Ze kan zowel het imago, de werking als de financiën van een bedrijf in gevaar brengen. De nationale en lokale overheden beginnen in te grijpen. Bedrijven beginnen in te grijpen. Het momentum en de debatten krijgen meer aandacht van het publiek, en ngo’s lanceren campagnes. Het aantal gevallen van boetes, vermeldingen op zwarte lijsten en verboden neemt toe, en illustreert de mogelijk grote risico’s voor beleggingen.

Benjamin, welke aspecten spelen hier?

Als beleggers begrijpen we dat regeringen en overheden de verantwoordelijkheid hebben om de voordelen van gezichtsherkenningstechnologie te benutten, waarbij ze tegelijk de fundamentele mensenrechten respecteren. We begrijpen ook dat beleggers een cruciale rol spelen bij de toewijzing van kapitaal. Technologie heeft ons al geweldige voordelen opgeleverd, net als geweldige beleggingen. Denk bijvoorbeeld aan de afstandsmaatregelen tijdens de pandemie: technologie stelt veel gezinnen en bedrijven in staat om met elkaar te communiceren. Maar vergeet niet dat gezichtsherkenningstechnologie in haar huidige vorm géén toestemming van de gefotografeerden en géén officieel toezicht heeft. We worden vaak in de gaten gehouden via gezichtsherkenningstechnologie zonder dat we het weten. Foutieve identificaties komen veel vaker voor dan men zou denken, nemen toe en gebeuren veel systematischer bij vrouwen en bepaalde etnische groepen.

Foutieve identificaties hebben al rechtstreeks tot onrechtmatige arrestaties geleid. In 2019 verbood de Amerikaanse stad San Francisco, de geboorteplaats van gezichtsherkenning, het gebruik ervan bij de ordehandhaving. Kort daarna schortten verschillende grote technologiebedrijven de verkoop van hun producten met gezichtsherkenningstechnologie op. Voordat de verkoop herneemt, zouden beleggers moeten eisen om mee te beslissen over het toekomstige kader.

Momenteel vormt de manier waarop gezichtsherkenningstechnologie wordt ontworpen en gebruikt, een ernstige bedreiging voor de mensenrechten, die ook verreikende maatschappelijke gevolgen heeft. Ze hebben een impact op de individuele rechten van burgers en op de rechten van hele etnische groepen. Sommige overheidsinstellingen zouden bijvoorbeeld specifieke bevolkingsgroepen identificeren en opsporen met behulp van bewakingscamera’s die met gezichtsherkenningstechnologie zijn uitgerust.