Anthropic lanceert publiekelijk een AI-tool die de muiscursor van een gebruiker kan besturen

Een wapenwedloop en een sloopkogel

Concurrerende bedrijven zoals OpenAI werken aan soortgelijke tools, maar hebben deze nog niet beschikbaar gesteld aan het publiek. Het is een wapenwedloop, omdat deze instrumenten naar verwachting binnen een paar jaar veel inkomsten zullen genereren als ze zich ontwikkelen zoals verwacht.

Er bestaat een overtuiging dat deze tools uiteindelijk veel van de ondergeschikte taken in kantoorbanen kunnen automatiseren. Het kan ook een handig hulpmiddel zijn voor ontwikkelaars, omdat het “repetitieve taken kan automatiseren” en vervelende QA- en optimalisatiewerkzaamheden kan vereenvoudigen.

Dit maakt al lange tijd deel uit van de boodschap van Anthropic aan investeerders: de AI-tools kunnen grote delen van sommige kantoorbanen efficiënter en betaalbaarder afhandelen dan mensen. Het openbaar testen van de pc-functie is een stap in de richting van het bereiken van dit doel.

We zijn ons uiteraard bewust van het voortdurende debat rond dit soort instrumenten tussen “het is gewoon een instrument dat het werk van mensen gemakkelijker zal maken” en “het zal mensen in verschillende sectoren werkloos maken als een sloopkogel” – die beide kan tot op zekere hoogte gebeuren. Het is gewoon een kwestie van wat de verhouding zal zijn, en dat kan variëren afhankelijk van de situatie of de sector.

Er zijn echter veel terechte zorgen over de wijdverbreide adoptie van deze technologie. Het strekt tot eer dat Anthropic heeft geprobeerd op sommige van deze zaken te anticiperen door vanaf het begin voorzorgsmaatregelen te treffen. Het bedrijf gaf enkele voorbeelden in zijn blogpost:

Onze teams hebben classificatietools en andere methoden ontwikkeld om dit soort overtredingen te melden en te beperken. Gezien de komende Amerikaanse verkiezingen zijn we extra alert op pogingen tot misbruik die kunnen worden opgevat als een ondermijning van het vertrouwen van het publiek in verkiezingsprocessen. Hoewel het computergebruik niet voldoende geavanceerd is of niet in staat is om op een schaal te werken die grotere risico’s met zich meebrengt vergeleken met de huidige capaciteiten, hebben we maatregelen ingevoerd om toezicht te houden wanneer Claude wordt gevraagd deel te nemen aan verkiezingsgerelateerde activiteiten, evenals systemen om toezicht te houden Claude’s verwijdering uit verkiezingsgerelateerde activiteiten, zoals het maken van inhoud en het plaatsen ervan op sociale media, het registreren van webdomeinen of interactie met overheidswebsites.

Deze waarborgen zijn mogelijk niet perfect, omdat er creatieve manieren kunnen zijn om ze te omzeilen of andere onbedoelde gevolgen of misbruik die nog niet zijn ontdekt.

Op dit moment stelt Anthropic Computer Usability op de proef om te zien welke problemen zich voordoen en werkt het samen met ontwikkelaars om de mogelijkheden ervan te verbeteren en positieve toepassingen te vinden.