De vreemde nieuwe wereld van AI-kracht, politiek en “downtime” | Kunstmatige intelligentie wint

Luide debatten over de gevaren van AI en regulering brachten afgelopen week vele decibels op, terwijl ze tegelijkertijd moeilijker te ontcijferen waren.

Hij was daar Rebound van tweeten Door senator Chris Murphy (D-CT) op ChatGPT, inclusief “Er komt iets aan. We zijn er niet klaar voor.” Toen was het daar klacht naar de FTC over OpenAI, ook in Italië ChatGPT-verbod. Het belangrijkste is de open brief ondertekend door Elon Musk, Steve Wozniak, waarin een “pauze” van zes maanden wordt voorgesteld voor grootschalige AI-ontwikkeling. Het werd naar voren gebracht door een organisatie gericht op “x-risk” genaamd Future of Life InstituutVolgens Eliezer Yudkowski Je ging niet ver genoeg.

Het is niet verrassend dat het felle debat over de ethiek en risico’s van AI, zowel op korte als op lange termijn, heeft bijgedragen aan de enorme populariteit die OpenAI’s ChatGPT vanaf het begin heeft gehad. uitgegeven Op 30 november. En het groeiende aantal door de industrie geleide AI-tools die zijn gebouwd op Large Language Models (LLM’s) – van Microsoft Bing en Google’s Bard tot een overvloed aan startups – heeft geleid tot een veel grotere reikwijdte van de discussie over AI in de reguliere media, branchecafés en platformen. Sociaal.

>> Follow-up van lopende VentureBeat Generatieve kunstmatige intelligentie dekking <

Discussies over kunstmatige intelligentie zijn in de richting van de politiek gegaan

Maar het lijkt erop dat AI het onderzoekslaboratorium verlaat en tot volle bloei komt in de culturele tijdsgeest, verleidelijke kansen belooft en reële maatschappelijke gevaren met zich meebrengt, we betreden ook een vreemd nieuw rijk van AI-macht en politiek. AI-discussies draaien niet langer om technologie, wetenschap of zelfs de realiteit. Ze gaan ook over meningen, angsten, waarden, attitudes, overtuigingen, perspectieven, middelen, prikkels en regelrechte gekheid.

Dit is niet inherent slecht, maar het leidt wel tot de door DALL-E geschilderde olifant in de kamer: al maanden probeer ik erachter te komen hoe ik de verwarrende, enge, semi-enge invalshoeken van AI-ontwikkeling kan bedekken. Deze richten zich op de hypothetische mogelijkheid dat een kunstmatige algemene intelligentie (AGI) de mensheid vernietigt, met draden van wat onlangs bekend is geworden als “schrilIdeologieën, waaronder ‘effectief altruïsme’, ‘de lange termijn’ en ‘transhumanisme’ zijn erin verweven. Je zult wat sci-fi in dit AI-teamjack vinden, met de woorden ‘AI Security’ en ‘AI Alignment’ erin geborduurd kleur rood.

Elk van deze delen van het AI-landschap heeft zijn eigen konijnenhol om naar beneden te gaan, sommige lijken relatief vlak, terwijl andere leiden naar artikelen over Probleem met maximalisatie van paperclips; A Posthumans de toekomst gecreëerd door bovenmenselijke kunstmatige intelligentie; en San Francisco Pop-up museum Opgedragen aan het benadrukken van het algemene AI-debat met een bord met de tekst “Sorry voor het doden van de meeste mensen”.

De ontkoppeling tussen AI-voorspelling en toegepaste AI

Veel van mijn VentureBeat-dekking richt zich op de effecten van AI op de onderneming. Eerlijk gezegd zie je niet dat C Suite-managers zich zorgen maken of AI het zal doen halen hun atomen eruit Om er paperclips van te maken, vragen ze zich af of AI en machine learning de klantenservice kunnen verbeteren of werknemers productiever kunnen maken.

De ontkoppeling is dat er genoeg stemmen zijn in de grote bedrijven, van OpenAI en Anthropic tot DeepMind en overal in Silicon Valley, die een agenda hebben die ten minste gedeeltelijk is gebaseerd op enkele van de TESCREA-kwesties en geloofssystemen. Het maakte misschien niet veel uit 7, 10 of 15 jaar geleden, toen deep learning-onderzoek nog in de kinderschoenen stond, maar het krijgt nu zeker veel aandacht. Het wordt steeds moeilijker om de agenda achter enkele van de grootste krantenkoppen te onderscheiden.

Dit heeft geleid tot verdenkingen en beschuldigingen: zo heeft A.S Los Angeles Times Het artikel benadrukte de ambivalentie van OpenAI-CEO Sam Altman kondig het aan Hij was “een beetje bang” voor de technologie van het bedrijf die hij “momenteel helpt bouwen en wil deze zo breed mogelijk uitrollen, met winstoogmerk”.

“Laten we even nadenken over de logica achter deze uitspraken”, zei het artikel: “Waarom zou je, als CEO of leidinggevende bij een spraakmakend technologiebedrijf, keer op keer terugkeren naar het publieke podium om te verklaren hoe bezorgd je bent? over het product dat je aan het bouwen en verkopen bent?’

De verschuiving van technologie en wetenschap naar politiek

In het weekend plaatste ik een Twitter-thread. Zoals ik schreef, wist ik niet hoe ik de problemen moest aanpakken die op de loer lagen onder de “pauze”-boodschap van AI, de informatie die leidde tot de tweets van senator Murphy, de gepolariseerde debatten die plaatsvinden rond open en closed source AI, en de bijbelse profetie van Sam Altman – Een andere stijl over kunstmatige algemene intelligentie. Al deze discussies worden gedeeltelijk ingegeven door degenen die overtuigingen hebben waarvan het grootste deel van het publiek geen idee heeft – of ze die overtuigingen hebben of wat ze bedoelen.

Wat moet een nederige journalist doen om redelijk nuchter en objectief te zijn? En wat kan iedereen in de AI-gemeenschap doen – van onderzoek tot industrie tot politiek – om te controleren wat er aan de hand is?

Voormalig beleidsadviseur van het Witte Huis, Suresh Venkatasubramanian beantwoord Het probleem is dat “er een enorme politieke agenda zit achter veel van wat zich voordoet als een technisch debat”. Anderen waren het erover eens dat het discours rond kunstmatige intelligentie is verschoven van het domein van technologie en wetenschap naar politiek – en macht.

Technologie is natuurlijk altijd politiek geweest. Maar misschien is het de moeite waard om te erkennen dat de huidige discussies over AI de stratosfeer zijn binnengedrongen (of in de modder zijn gezakt, afhankelijk van uw standpunt) van het politieke discours.

Besteed tijd aan het onder ogen zien van gevaren in de echte wereld

Er waren andere nuttige aanbevelingen om enig perspectief te krijgen: Rich Harang, hoofdbeveiligingsingenieur bij Nvidia, tweette dat het belangrijk is om te praten met de mensen die deze LLM-modellen daadwerkelijk bouwen en implementeren. “Vraag de mensen die niet goed op de hoogte zijn van AI ‘x-Risk’ naar hun praktische ervaring met toegepast werk in het gebied,” adviseerde hij, eraan toevoegend dat het belangrijk was om “wat tijd te besteden aan worstelen met de echte wereld risico’s die momenteel bestaan ​​die voortkomen uit ML R&D.” Er zijn er veel, van veiligheidskwesties tot milieukwesties tot arbeidsuitbuiting.”

“Prognoses zijn vaak twistpunten”, merkte P. Cavello op, directeur van opkomende technologieën bij het Aspen Institute. Ze voegden eraan toe dat ze eraan werkten om zich minder te concentreren op onenigheid en meer op het op één lijn brengen van mensen. Veel van degenen die het bijvoorbeeld oneens zijn over AI in het algemeen, zijn het erover eens dat regulering nodig is en dat AI-ontwikkelaars meer verantwoordelijkheid moeten nemen.

Ik ben iedereen die op mij gereageerd heeft dankbaar Twitter-onderwerp, hetzij in de opmerkingen of in directe berichten. Heb een leuke week.