Betrouwbare AI is nu binnen handbereik

De AI-boom begon in 2012 toen Alex Krijevsky, in samenwerking met Ilya Sotskever en Jeffrey Hinton (die Krezhevsky’s PhD-adviseur was), AlexNet oprichtte, dat vervolgens een prijs won Grootschalige visuele herkenningsuitdaging van ImageNet. Het doel van die jaarlijkse wedstrijd, die in 1996 begon, was om 1,3 miljoen afbeeldingen met een hoge resolutie te classificeren In ImageNet training in 1.000 verschillende klassen. Met andere woorden, om een ​​hond en een kat correct te identificeren.

AlexNet bestaat uit een deep learning neuraal netwerk en was de eerste deelnemer die de 75% nauwkeurigheid in de competitie doorbrak. Misschien wel het meest indrukwekkend, het halveerde het huidige ImageNet visuele herkenningsfoutpercentage tot 15,3%. Het toonde ook aan, en waarschijnlijk voor de eerste keer, dat deep learning echt potentieel heeft in de echte wereld. Dit maakte onder andere de weg vrij voor visuele herkenningssystemen die in verschillende industrieën worden gebruikt, van landbouw tot productie.

Deze doorbraak in deep learning heeft het gebruik van kunstmatige intelligentie versneld. Maar ongeacht het onbetwistbare genie van deze en andere vroege beoefenaars van deep learning, was het de samenvloeiing van verschillende belangrijke technologische trends die AI een boost gaven. Het internet, mobiele telefoons en sociale media hebben geleid tot een explosie van data, de brandstof voor kunstmatige intelligentie. Computing is de metronoomachtige wet van Moore blijven bevorderen om de prestaties elke 18 maanden te verdubbelen, waardoor enorme hoeveelheden gegevens kunnen worden verwerkt. De cloud bood overal gemakkelijke toegang tot gegevens en verlaagde de kosten van grootschalige computing. Software-ontwikkelingen, grotendeels open source, hebben geleid tot een hausse in AI-codebibliotheken die voor iedereen beschikbaar zijn.

Goudkoorts AI

Dit alles heeft geleid tot een enorme toename van de adoptie van kunstmatige intelligentie en de goudkoorts-mentaliteit. Onderzoek toont aan van managementadviesbureau PwC wereld BBP Het zou in 2030 tot 14% hoger kunnen zijn als gevolg van AI, een extra $ 15,7 biljoen – waardoor het de grootste zakelijke kans is in de huidige economie. Volgens Statista, AI Global startfinanciering Het is exponentieel gegroeid van $670 miljoen in 2011 tot $36 miljard in 2020. Tortoise Intelligence genoemd Dat dit meer dan verdubbelde tot $ 77 miljard in 2021. Alleen al het afgelopen jaar zijn er meer dan 50 miljoen online vermeldingen van kunstmatige intelligentie in het nieuws en sociale media geweest.

Dit alles wijst op de golf van ontwikkeling en implementatie van kunstmatige intelligentie. AI is al aanwezig in veel consumententoepassingen en wordt nu wijdverbreid gebruikt in de onderneming. net zo Volgens Gartner zal naar verwachting 75% van de bedrijven tegen 2024 overstappen van bèta naar AI.

Het is niet diepgaand leren dat dit drijft. Deep learning is een subset van machine learning (ML), waarvan sommige al tientallen jaren bestaan. Er is een grote verscheidenheid aan ML-algoritmen in gebruik, van spamfilters tot voorspellend onderhoud van industriële en militaire uitrusting. Machine learning heeft geprofiteerd van dezelfde technologische trends die de ontwikkeling en acceptatie van kunstmatige intelligentie stimuleren.

Met de haast naar adoptie zijn er enkele opmerkelijke valkuilen geweest. Kunstmatige-intelligentiesystemen zijn in feite patroonherkenningstechnieken die bestaande gegevens doorzoeken, waarvan de meeste gedurende vele jaren zijn verzameld. Als de datasets waar de AI aan werkt vooringenomen data bevatten, kan de output van de algoritmen die vooringenomenheid weerspiegelen. Als gevolg hiervan zijn er chatbots die vreselijk scheeftrekken, wervingssystemen die genderstereotypen versterken, onnauwkeurige en mogelijk bevooroordeelde gezichtsherkenningssystemen die leiden tot valse arrestaties en historische vooroordelen die leiden tot weigeringen van leningen.

Een duidelijke behoefte aan betrouwbare en verantwoordelijke AI

Deze en andere problemen hebben aanleiding gegeven tot legitieme zorgen en hebben geleid tot het gebied van AI-ethiek. Er is een duidelijke behoefte aan AI verantwoordelijk, wat in feite een poging is om de AI-algoritmen niet te schaden. Om dit te doen, moet vooringenomenheid uit datasets worden verwijderd of op een andere manier worden verminderd. Het is ook mogelijk dat onbewust bias in de algoritmen zelf wordt geïntroduceerd door degenen die ze ontwikkelen en deze moeten identificeren en aanpakken. Het vereist dat de werking van AI-systemen interpreteerbaar is, zodat er transparantie is in hoe inzichten en beslissingen tot stand komen.

Het doel van deze inspanningen is ervoor te zorgen dat AI-systemen niet alleen specifieke schade aanrichten, maar ook betrouwbaar zijn. Zoals Forrester Research onlangs opmerkt: LidwoordDit is van cruciaal belang voor het bedrijfsleven, omdat ze de morele schuld die AI-technologie heeft opgebouwd, niet kunnen negeren.

Verantwoorde AI is niet eenvoudig, maar wel enorm belangrijk voor de toekomst van de AI-industrie. Er zijn voortdurend nieuwe applicaties die kunstmatige intelligentie gebruiken online beschikbaar waar dit een probleem kan zijn, zoals het identificeren van kandidaten voor het Amerikaanse leger De upgrade waard. De erkenning van het bestaan ​​van het probleem heeft de afgelopen jaren aanzienlijke inspanningen geleverd om corrigerende maatregelen te ontwikkelen.

De geboorte van een nieuw veld

Er is goed nieuws op dit front, aangezien er technieken en tools zijn ontwikkeld om vooringenomenheid van algoritmen en andere problemen op verschillende punten in de ontwikkeling en implementatie van AI te verminderen, zowel in het oorspronkelijke ontwerp, tijdens de implementatie als nadat het in productie is genomen. Deze vaardigheden leiden tot het opkomende veld van Accountcontrole en bevestiging Wat het vertrouwen in kunstmatige-intelligentiesystemen zal opbouwen.

Naast vooringenomenheid zijn er nog andere problemen met het bouwen van een betrouwbare AI, waaronder het vermogen om uit te leggen hoe een algoritme tot zijn aanbevelingen komt en of de resultaten correct zijn. Herhaalbaar en nauwkeurig, het waarborgen van privacy en gegevensbescherming en beveiligen tegen vijandige aanvallen. Het gebied van audit en assurance zal al deze kwesties behandelen, zoals te vinden in: Onderzoek Gedaan door Infosys en University College London. Het doel is om praktische normen, codes en voorschriften te bieden om de veiligheid en legaliteit van algoritmische systemen voor gebruikers te waarborgen.

Er zijn vier basisactiviteiten inbegrepen.

ontwikkeling: Het auditproces moet rekening houden met het proces van het ontwikkelen en documenteren van een algoritmisch systeem.

evaluatie: De audit zal het gedrag en de mogelijkheden van het algoritmische systeem moeten beoordelen.

verzachting: De audit moet service- en verbeteringsprocessen aanbevelen om de risicovolle kenmerken van algoritmische systemen aan te pakken.

nadruk: Het doel van de audit is om formeel te bevestigen dat het boekhoudsysteem voldoet aan een gespecificeerde reeks normen, praktijkcodes of voorschriften.

Idealiter zou een bedrijf deze concepten vanaf het begin van een AI-project kunnen gebruiken om zichzelf en zijn klanten te beschermen. Als het op grote schaal wordt geïmplementeerd, zal het resultaat een ecosysteem van betrouwbare AI en verantwoorde AI opleveren. Daarbij zullen de algoritmische systemen naar behoren worden geëvalueerd, zullen alle redelijke maatregelen worden genomen om risico’s te verminderen of te elimineren, en zal de integriteit van de systemen worden gewaarborgd voor gebruikers, dienstverleners en derden.

Nog maar tien jaar geleden werd AI vooral beoefend door een kleine groep academici. Sindsdien is de ontwikkeling en toepassing van deze technologieën aanzienlijk uitgebreid. Ondanks alle grote prestaties waren er tekortkomingen. Veel van deze problemen kunnen worden aangepakt en opgelost door middel van een audit en bevestiging. Met de ongebreidelde rit van kunstmatige intelligentie in de afgelopen 10 jaar is dit geen geringe prestatie.

Bali (Balakrishna) DR is Senior Vice President, Head of Service Delivery – ECS, Kunstmatige Intelligentie en Automatisering bij Infosys.