Meneer ChatGPT gaat naar Washington: Sam Altman, CEO van OpenAI, zal voor het Congres getuigen over de gevaren van AI

(CNN) Sam Altman, CEO van OpenAI, drong er bij wetgevers op aan om AI te reguleren tijdens een hoorzitting van de Senaat op dinsdag, en beschreef de huidige bloei van de technologie als een potentieel “printmoment”, maar dan wel een die waarborgen vereist.

“Wij zijn van mening dat regelgevende interventie door regeringen van cruciaal belang zal zijn om de risico’s van steeds krachtigere modellen te beperken”, zei Altman in zijn openingstoespraak voor een subcommissie voor de rechterlijke macht van de Senaat.

De opkomst van Altman volgt op het enorme succes van de chatbot-tool ChatGPT van zijn bedrijf, die de wapenwedloop om kunstmatige intelligentie heeft hernieuwd en bij sommige wetgevers zorgen heeft geuit over de risico’s van de technologie.

Senator Richard Blumenthal begon de hoorzitting dinsdag met een nepopname van zijn stem, die de potentiële gevaren van de technologie illustreert. De opname, die notities bevatte die waren geschreven door ChatGPT en een audio van Blumenthal’s stem geproduceerd met behulp van opnames van zijn daadwerkelijke toespraken, betoogde dat AI niet mocht opduiken in een niet-gereguleerde omgeving.

Blumenthal legde uit dat hoewel ChatGPT een nauwkeurige weerspiegeling was van de opvattingen van een echte wetgever, het gemakkelijk had kunnen leiden tot “een goedkeuring van de overgave van Oekraïne of het leiderschap van Vladimir Poetin”. Dit zei hij: “Het zou echt eng zijn geweest.”

Een groeiende lijst van technologiebedrijven heeft de afgelopen maanden nieuwe AI-tools ingezet, met het potentieel om de manier waarop we werken, winkelen en met elkaar omgaan te veranderen. Maar deze zelfde tools hebben ook kritiek gekregen van enkele van de grootste namen in de technologie vanwege het potentieel om miljoenen banen te verstoren, verkeerde informatie te verspreiden en vooringenomenheid in stand te houden.

In zijn opmerkingen dinsdag zei Altman dat het potentieel voor AI om kiezers te manipuleren en desinformatie aan te pakken een van de “gebieden van mijn grootste zorg” is, vooral omdat we de verkiezingen van volgend jaar ingaan en deze modellen verbeteren. “

Altman zei dinsdag dat een manier waarop de Amerikaanse regering de industrie kan reguleren, is door een licentieregime te creëren voor bedrijven die aan de krachtigste AI-systemen werken. Altman zei dat deze “combinatie van licentie- en testvereisten” kan worden toegepast op “de ontwikkeling en vrijgave van AI-modellen boven de capaciteitsdrempel.”

Dinsdag zullen ook Christina Montgomery, vice-president en chief privacy and trust officer van IBM, getuigen, evenals Gary Marcus, een voormalige professor aan de New York University die zichzelf omschreef als een criticus van AI-ruis.

Montgomery waarschuwde voor het creëren van een nieuw tijdperk van “snel handelen en dingen breken”, de oude mantra van Silicon Valley-reuzen zoals Facebook. “Het tijdperk van AI kan niet weer een tijdperk zijn van ‘snel gaan en dingen breken'”, zei Montgomery tegen wetgevers. Ze zei echter: “We hoeven innovatie ook niet tegen te houden.”

Altman en Montgomery zeiden ook dat AI sommige banen kan schrappen, maar het creëert nieuwe.

“Er zal een impact zijn op de werkgelegenheid”, zei Altmann tegen Blumenthal. “We proberen daar heel duidelijk over te zijn, en ik denk dat er een partnerschap nodig is tussen de industrie en de overheid, maar vaak wordt dit door de overheid gedaan, om erachter te komen hoe we dat willen verminderen. Maar ik ben erg optimistisch over hoe geweldig de banen van de toekomst zullen zijn.”

Als CEO van OpenAI is Altman, misschien meer dan enig ander figuur, het gezicht geworden van een nieuwe reeks AI-producten die afbeeldingen en tekst kunnen genereren als reactie op gebruikersaanwijzingen.

Altman’s opmerkingen komen een dag nadat hij meer dan 60 Huis van Afgevaardigden had ontmoet voor een diner. De tweeledige caucus, die een gelijke verdeling heeft van Republikeinen en Democraten, zag Altman verschillende toepassingen van ChatGPT demonstreren “tot zijn grote vreugde”, volgens een persoon in de zaal die wetgevers beschreef als “geactiveerd” door het evenement.

De persoon voegde eraan toe dat de meeste aanwezigen algemeen erkenden dat regulering van AI noodzakelijk zou zijn.

Ro Khanna, de Democratische vertegenwoordiger van Californië, wiens district Silicon Valley omvat, zei dat Altman tijdens het diner benadrukte dat AI een hulpmiddel is, geen “wezen” en dat AI “kan helpen met taken, niet met banen”.

“De nuttigste bijdrage van Altman was het verminderen van het lawaai”, vertelde Khanna aan CNN.

In een weerspiegeling van hoe kunstmatige intelligentie het Congres is binnengedrongen, hield de Senate Homeland Security and Governmental Affairs Committee, zelfs toen de Subcommissie voor Justitie OpenAI en IBM in twijfel trok, een afzonderlijke, gelijktijdige hoorzitting over het gebruik van AI in de overheid.

Eerder deze maand was Altman een van de vele tech-CEO’s die een ontmoeting hadden met vice-president Kamala Harris en, kort gezegd, president Joe Biden als onderdeel van een poging van het Witte Huis om het belang van ethische en verantwoorde AI-ontwikkeling te benadrukken.

In interviews dit jaar heeft Altman zichzelf gepresenteerd als iemand die de gevaren van kunstmatige intelligentie begrijpt en zelfs “een beetje bang” is voor de technologie. Hij en zijn bedrijf hebben gezworen om op verantwoorde wijze verder te gaan.

Anderen willen dat Altman en OpenAI voorzichtiger te werk gaan. Elon Musk, die OpenAI hielp oprichten voordat hij uit de groep stapte, heeft zich bij tientallen technologieleiders, professoren en onderzoekers aangesloten bij het ondertekenen van een brief waarin wordt opgeroepen tot AI-labs zoals OpenAI om te stoppen met het trainen van de krachtigste AI-systemen gedurende ten minste zes maanden, daarbij verwijzend naar ” grote risico’s voor de samenleving.” en de mensheid.”

Altman zei dat hij het eens was met delen van de brief. “Ik denk dat voorzichtigheid en de verhoogde strengheid van veiligheidskwesties erg belangrijk zijn”, zei Altman tijdens het evenement van vorige maand. “De boodschap was volgens mij niet de beste manier om het tegen te gaan.”

– Jennifer Korn van CNN heeft bijgedragen aan dit rapport.