Witte Huis gaat AI verantwoordelijk houden onder AI Rights Act

Verantwoordelijke AI, ethische AI, betrouwbare AI.

Noem het wat je wilt – het is een concept dat je niet kunt negeren als je om de technische industrie geeft. Naarmate kunstmatige intelligentie (AI) snel vordert en evolueert, voegen steeds meer stemmen zich bij het geschreeuw om ervoor te zorgen dat het veilig blijft. De bijna unanieme consensus is dat AI gemakkelijk bevooroordeeld, onethisch en gevaarlijk kan worden.

Om dit steeds groter wordende probleem aan te pakken, heeft het Witte Huis vandaag een bestand vrijgegeven: Blauwdruk voor een AI Bill of Rights. Dit schetst vijf principes die het ontwerp, het gebruik en de implementatie van geautomatiseerde systemen moeten leiden om Amerikanen te beschermen in dit tijdperk van kunstmatige intelligentie.

De problemen met AI zijn goed gedocumenteerd, blijkt uit de grafiek – van onveilige systemen in de patiëntenzorg tot de discriminerende algoritmen die worden gebruikt bij werving en kredietbeslissingen.

“De AI Bill of Rights Scheme is een gids voor een samenleving die alle mensen beschermt tegen deze bedreigingen – en technologieën gebruikt op manieren die onze hoogste waarden bevorderen”, stelt het boek.

Blauwdruk voor een AI Bill of Rights – niet ver genoeg

De Europese Unie heeft het voortouw genomen op weg naar een ethische toekomst voor kunstmatige intelligentie met de voorgestelde wet op kunstmatige intelligentie van de Europese Unie. Veel organisaties hebben ook het concept van het ontwikkelen van een alomvattend kader aangeroerd.

Maar de Verenigde Staten zijn aanzienlijk achtergebleven in het debat – vóór vandaag had de federale regering geen concrete richtlijnen gegeven om burgers te beschermen tegen de gevaren van AI, zelfs niet toen president Joe Biden opriep tot privacybescherming en gegevensverzameling.

En velen zeggen nog steeds dat het Blueprint-schema, hoewel een goed begin, niet werkt en niet heeft wat nodig is om echte grip te krijgen.

James Hendler, voorzitter van de raad van Vereniging van Computermachines (ACM) Raad voor technologiebeleid.

Hendler, een professor aan het Rensselaer Polytechnic Institute en een van de makers van het Semantic Web, wees op recente verklaringen, waaronder Rome’s oproep voor de ethiek van kunstmatige intelligentieVoorgestelde verordeningen van de Europese Unie over kunstmatige intelligentie en gegevens van de Commissie van de Verenigde Naties.

Ze roepen allemaal op tot meer begrip van de effecten van steeds onafhankelijkere regimes op mensenrechten en waarden’, zei hij. ACM’s Global Technology Council werkt samen met onze ledencommissies om gegevens uit het verleden bij te werken over: Wiskundige verantwoordingOmdat we geloven dat het reguleren van deze technologie een wereldwijde inspanning moet zijn, niet alleen een nationale inspanning.”

Evenzo plaatste de Algorithmic Justice League op haar Twitter-pagina dat het plan een “stap in de goede richting is in de strijd voor algoritmische gerechtigheid”. De vereniging combineert kunst en onderzoek om het publiek bewust te maken van racisme, genderdiscriminatie, capaciteiten en andere schadelijke vormen van discriminatie die AI kan bestendigen.

Anderen wijzen erop dat de regeling geen aanbevelingen bevat over beperkingen op het gebruik van controversiële vormen van AI, zoals die waarmee mensen in realtime kunnen worden geïdentificeerd door middel van biometrische gegevens of gezichtsopnamen. Sommigen wijzen er ook op dat het de kritieke kwestie van dodelijke autonome wapens of slimme steden niet aanpakt.

Vijf basisprincipes

Het White House Office of Science and Technology Policy (OSTP), dat de president adviseert over wetenschap en technologie, sprak vorig jaar voor het eerst over zijn visie op de regeling.

De vijf specifieke principes:

Veilige en effectieve systemen: Mensen moeten worden beschermd tegen onveilige of ineffectieve systemen.

Bescherming tegen algoritmische discriminatie: mensen mogen niet worden gediscrimineerd door middel van algoritmen en systemen moeten op een billijke manier worden gebruikt en ontworpen.

Gegevensprivacy: mensen moeten worden beschermd tegen onrechtmatige gegevenspraktijken met ingebouwde waarborgen en zeggenschap hebben over hoe gegevens over hen worden gebruikt.

Kennisgeving en uitleg: Mensen moeten weten dat een geautomatiseerd systeem wordt gebruikt en begrijpen hoe en waarom het bijdraagt ​​aan de resultaten die op hen van invloed zijn.

Menselijke alternatieven, overwegingen en voorzorgsmaatregelen: Mensen moeten zich, waar nodig, kunnen terugtrekken en toegang hebben tot iemand die de problemen waarmee ze worden geconfronteerd snel kan overwegen en aanpakken.

De schets gaat vergezeld van een boekje, ‘Van principes naar praktijk’, met ‘gedetailleerde stappen om deze principes in het technologische ontwerpproces te bereiken’.

Het is gebaseerd op inzichten van onderzoekers, technologen, advocaten, journalisten en beleidsmakers, en merkt op dat hoewel geautomatiseerde systemen “buitengewone voordelen hebben opgeleverd”, ze ook aanzienlijke schade hebben veroorzaakt.

Het concludeert: “Deze principes helpen bij het bieden van begeleiding wanneer geautomatiseerde systemen een zinvolle invloed kunnen uitoefenen op openbare rechten, kansen of toegang tot noodzakelijke behoeften.”