Exclusief: achter de uitdaging van EU-wetgevers om ChatGPT en generatieve AI in toom te houden

LONDEN/STOCKHOLM, 28 april (Reuters) – (Dit verhaal is op 28 april herschreven om het woord duplicaat in paragraaf 1 te verwijderen)

Nog in februari kwam generatieve AI niet prominent voor in de plannen van EU-wetgevers om AI-technologieën zoals ChatGPT te reguleren.

de Het blokvoorstel van 108 pagina’s Voor de AI-wet, die twee jaar geleden werd gepubliceerd, stond slechts één vermelding van het woord “chatbot”. Verwijzingen naar door AI gegenereerde inhoud verwijzen grotendeels naar deepfakes: afbeeldingen of audio die zijn ontworpen om zich voor te doen als mensen.

Half april waren de EP-leden echter aan het racen om die regels bij te werken om gelijke tred te houden met de explosie van interesse in generatieve AI, die angst en bezorgdheid heeft aangewakkerd sinds OpenAI ChatGPT zes maanden geleden onthulde.

Die strijd culmineerde donderdag in een nieuw wetsontwerp waarin auteursrechtbescherming wordt aangemerkt als een belangrijk onderdeel van de inspanning om kunstmatige intelligentie onder controle te houden.

Interviews met vier wetgevers en andere bronnen die dicht bij de debatten staan, laten voor het eerst zien hoe deze kleine groep politici in de loop van slechts 11 dagen op de proppen kwam met wat een baanbrekende wetgeving zou worden, die het regelgevingslandschap voor OpenAI en zijn concurrenten zou hervormen.

Het wetsvoorstel is nog niet definitief en advocaten zeggen dat het waarschijnlijk jaren zal duren voordat het van kracht wordt.

De snelheid van hun werk is echter ook een zeldzaam voorbeeld van consensus in Brussel, dat vaak wordt bekritiseerd vanwege het trage tempo van de besluitvorming.

Wijzigingen op het laatste moment

Sinds de lancering in november is ChatGPT de snelst groeiende app in de geschiedenis geworden, wat leidde tot een golf van activiteit van Big Tech-concurrenten en investeringen in AI-startups zoals Anthropic en Midjourney.

De enorme populariteit van dergelijke applicaties heeft ertoe geleid dat EU-industriechef Thierry Breton en anderen pleiten voor regulering van ChatGPT-achtige diensten.

Een organisatie die wordt gesteund door Elon Musk, de miljardair-CEO van Tesla Inc (TSLA.O) en Twitter, heeft het opgevoerd door een brief te sturen waarin wordt gewaarschuwd voor existentiële risico’s van AI en waarin wordt opgeroepen tot strengere regelgeving.

Op 17 april ondertekenden tientallen EP-leden die betrokken waren bij het opstellen van de wetgeving een open brief waarin ze enkele delen van de brief van Musk onderschreven en er bij wereldleiders op aandrongen een top bijeen te roepen om manieren te vinden om de ontwikkeling van geavanceerde kunstmatige intelligentie te beheersen.

Op dezelfde dag stelden twee van hen – Dragos Todorac en Brando Benevi – echter wijzigingen voor die bedrijven die AI-systemen genereren, zouden dwingen om auteursrechtelijk beschermd materiaal dat wordt gebruikt om hun modellen te trainen, openbaar te maken, volgens vier bronnen die aanwezig waren op de vergaderingen en die vroegen om niet a. Anonimiteit vanwege de gevoeligheid van de discussies.

De bronnen zeiden dat dit strikte nieuwe voorstel de steun kreeg van verschillende partijen.

Een voorstel van conservatief EP-lid Axel Voss – bedrijven dwingen om toestemming te vragen aan rechthebbenden voordat ze gegevens gebruiken – is afgedaan als te beperkend en zou de ontluikende industrie kunnen doen ontsporen.

Na het vrijgeven van details in de loop van de volgende week, schetste de Europese Unie wetsvoorstellen die een ongemakkelijk niveau van transparantie zouden kunnen opleggen aan een notoir geheimzinnige industrie.

“Ik moet toegeven dat ik positief verrast was door hoe gemakkelijk we het redelijk eens werden over wat er in de tekst op deze modellen zou moeten staan”, vertelde Todorac vrijdag aan Reuters.

“Het laat zien dat er een sterke consensus is, een gemeenschappelijk begrip over hoe te reguleren op dit moment.”

De commissie stemt op 11 mei over de deal en gaat, indien succesvol, door naar de volgende fase van de onderhandelingen, de trilaterale, waarin EU-lidstaten de inhoud bespreken met de Europese Commissie en het Parlement.

“We wachten tot die tijd af of de deal rond is”, zegt een bron die bekend is met de zaak.

GROTE BROER VS. positie of terminator

Tot voor kort waren de leden van het Europees Parlement er nog niet van overtuigd dat generatieve AI speciale aandacht verdiende.

In februari vertelde Todorach aan Reuters dat generatieve AI “niet diepgaand behandeld” zou worden. “Dit is weer een discussie die we volgens mij niet in deze tekst zullen behandelen”, zei hij.

Onder verwijzing naar gegevensbeveiligingsrisico’s boven waarschuwingen van humanoïde intelligentie, zei hij: “Ik ben banger voor Big Brother dan voor de Terminator.”

Maar Teodorach en zijn collega’s zijn het er nu over eens dat er wetten nodig zijn die specifiek gericht zijn op het gebruik van generatieve AI.

Onder nieuwe voorstellen die gericht zijn op ‘basismodellen’, zouden bedrijven als OpenAI, dat wordt ondersteund door Microsoft Corp (MSFT.O), al het auteursrechtelijk beschermde materiaal – boeken, foto’s, video’s en meer – moeten onthullen dat wordt gebruikt om hun systemen te trainen.

Beschuldigingen van inbreuk op auteursrechten hebben de afgelopen maanden woedend gemaakt op AI-bedrijven toen Getty Images Stable Diffusion aanklaagde wegens het gebruik van auteursrechtelijk beschermde afbeeldingen om hun systemen te trainen. OpenAI heeft ook kritiek gekregen op Weigeren om details te delen van de dataset die wordt gebruikt om de software te trainen.

“Er zijn oproepen van buitenaf en binnen het parlement geweest om ChatGPT te verbieden of te classificeren als een hoog risico”, zei parlementslid Svenja Hahn. “Het uiteindelijke compromis is gunstig voor innovatie omdat het deze modellen niet classificeert als ‘hoog risico’, maar juist eisen stelt aan transparantie en kwaliteit.”

Aanvullende rapportage door Martin Coulter in Londen en Subanta Mukherjee in Stockholm; Bewerking door Josephine Mason, Kenneth Lee en Matthew Lewis

Onze normen: Vertrouwensprincipes van Thomson Reuters.