Silicon Valley staat voor de singulariteit

Al tientallen jaren anticipeert Silicon Valley op het moment waarop een nieuwe technologie zal verschijnen en alles zal veranderen. Het zal mens en machine verenigen, misschien ten goede maar misschien ten kwade, en de geschiedenis verdelen in voor En na.

De naam van dit herkenningspunt: Singularity.

Het kan op verschillende manieren gebeuren. Een mogelijkheid is dat mensen computerverwerkingskracht toevoegen aan hun aangeboren intelligentie, waardoor ze supercharged versies van zichzelf worden. Of misschien worden computers zo complex dat ze echt kunnen denken, waardoor een wereldwijd brein ontstaat.

In beide gevallen zullen de resulterende veranderingen drastisch, exponentieel en onomkeerbaar zijn. Een zelfbewuste supermachine kan sneller zijn eigen verbeteringen ontwerpen dan welke groep wetenschappers dan ook, wat resulteert in een explosie van intelligentie. Eeuwen van vooruitgang kunnen in jaren of zelfs maanden gebeuren. Singulariteit is een katapult naar de toekomst.

Kunstmatige intelligentie verplettert technologie, zaken en politiek als geen ander in de recente geschiedenis. Hoor de extravagante beweringen en wilde beweringen die uit Silicon Valley komen, en het lijkt erop dat het lang beloofde virtuele paradijs eindelijk binnen handbereik is.

Sundar Pichai, de meestal rustige CEO van Google, noemt kunstmatige intelligentie Dieper dan vuur of elektriciteit Of alles wat we in het verleden hebben gedaan.’ ‘Het vermogen om een ​​positief verschil te maken in de wereld staat op het punt de grootste boost te krijgen die het ooit heeft gehad’, zegt Reid Hoffman, miljardair-investeerder en mede-oprichter van Microsoft Bill Gates. verklaart Amnesty International “Het zal de manier veranderen waarop mensen werken, leren, reizen, toegang krijgen tot gezondheidszorg en met elkaar communiceren.”

Kunstmatige intelligentie is het ultieme nieuwe productaanbod van Silicon Valley: on-demand transcendentie.

Maar er is een donkere wending. Het is alsof technologiebedrijven zelfrijdende auto’s hebben geïntroduceerd met de waarschuwing dat ze zouden kunnen ontploffen voordat ze Walmart bereiken.

“De opkomst van kunstmatige algemene intelligentie wordt de singulariteit genoemd omdat het erg moeilijk is om te voorspellen wat er daarna zal gebeuren”, zei Elon Musk, die Twitter en Tesla leidt. naar CNBC vorige maand. Hij zei dat hij gelooft dat er een “tijdperk van overvloed” zal ontstaan, maar er is een “kans” dat het “de mensheid zal vernietigen”.

De grootste fan van AI in de technische gemeenschap is Sam Altman, CEO van OpenAI, de start-up die leidde tot de huidige razernij met zijn ChatGPT-chatbot. Hij zegt dat AI “de grootste kracht zal zijn voor economische empowerment en Veel mensen worden rijk We hebben het eerder gezien.”

Maar hij zegt ook dat de heer Musk, een AI-criticus die ook een bedrijf heeft opgericht om hersen-computerinterfaces te ontwikkelen, misschien gelijk heeft.

Het einde van de wereld is bekend en geliefd terrein van Silicon Valley. Een paar jaar geleden leek het alsof elke technische beheerder een bunker vol apocalyps had, versterkt op een afgelegen maar toegankelijke locatie. In 2016 zei de heer Altman dat hij “wapens, goud, kaliumjodide, antibiotica, batterijen, water, IDF-gasmaskers en een groot stuk land in Big Sur waar ik naartoe kon vliegen” verzamelde. Door de pandemie van het coronavirus voelt tech klaar zich een tijdje gerechtvaardigd.

Nu bereiden ze zich voor om uit te kiezen.

zei Baldur Bjarnason, auteur van het boekDe illusie van intelligentie“Een kritisch onderzoek naar kunstmatige intelligentie. Het is een beetje eng”, zei hij.

De wortels van transcendentie

De intellectuele wortels van Singularity gaan terug naar John von Neumann, een baanbrekende computerwetenschapper die in de jaren vijftig sprak over hoe “de exponentiële vooruitgang van technologie” zou leiden tot “enkele fundamentele eigenaardigheden in de geschiedenis van het ras”.

Irving John Goode, de Britse wiskundige die tijdens de Tweede Wereldoorlog hielp bij het ontcijferen van de Duitse Enigma-machine in Bletchley Park, was ook een invloedrijke voorstander. “Het overleven van de mens hangt af van de vroege constructie van een superintelligente machine,” Geschreven in 1964. Regisseur Stanley Kubrick raadpleegde dhr. Judd over HAL, de goedaardige computer die schurk werd in “2001: A Space Odyssey” – een vroeg voorbeeld van de poreuze grens tussen computerwetenschap en sciencefiction.

Hans Moravec, assistent-professor aan het Robotics Institute aan de Carnegie Mellon University, gelooft dat kunstmatige intelligentie niet alleen een zegen zal zijn voor de levenden: ook de doden zullen in een singulariteit worden hersteld. “We krijgen de kans om het verleden te recreëren en er op een echte en directe manier mee om te gaan”, schreef hij in zijn boek Children of the Mind: The Future of Robot and Human Intelligence.

De afgelopen jaren was ondernemer en uitvinder Ray Kurzweil de grootste voorvechter van de singulariteit. De heer Kurzweil schreef “The Age of Intelligent Machines” in 1990 en “The Singularity Is Nearer” in 2005, en schrijft nu “The Singularity Is Nearer”.

Tegen het einde van het decennium zullen computers naar verwachting de Turing-test doorstaan ​​en niet meer van mensen te onderscheiden zijn. Vijftien jaar later, zo rekent hij uit, zal de ware transcendentie komen: het moment waarop ‘computeren een deel van onszelf zal zijn en we onze intelligentie een miljoenvoudig zullen vergroten’.

Tegen die tijd zal de heer Kurzweil 97 jaar oud zijn. En met behulp van vitamines en supplementen is hij van plan om het te leven om het te zien.

Voor sommige critici van de Singularity is het een dubieuze intellectuele poging om het geloofssysteem van de georganiseerde religie in het softwarekoninkrijk te repliceren.

“Ze willen allemaal het eeuwige leven zonder het ongemak van het moeten geloven in God”, zegt Rodney Brooks, voormalig directeur van het Laboratory for Computer Science and Artificial Intelligence aan het MIT.

De innovatie die vandaag het Singularity-debat aanwakkert, is het grote taalmodel, het soort kunstmatige-intelligentiesysteem dat chatbots aandrijft. Begin een gesprek met een van deze LLM’s en ze kunnen snel, coherent en vaak met een redelijke mate van verlichting antwoord geven.

“Als je een vraag stelt, interpreteren deze modellen wat je bedoelt, definiëren ze wat hun antwoord zou moeten betekenen en vertalen dat vervolgens weer in woorden – als dat geen definitie is van algemene intelligentie, wat dan wel?” zei Jerry Kaplan, een ervaren AI-ondernemer en auteur van Artificial Intelligence: What Everyone Needs to Know.

De heer Kaplan zei dat hij sceptisch was over zulke veel gepubliceerde wonderen als zelfrijdende auto’s en cryptocurrency. Hij benaderde de recente AI-boom met dezelfde scepsis, maar zei dat hij gewonnen was.

Hij zei: “Als dit niet de ‘singulariteit’ is, is het zeker een singulariteit: een transformerende technologische stap die het hele lichaam van kunst, wetenschap en menselijke kennis enorm zal versnellen – en een aantal problemen zal creëren.”

Critici werpen tegen dat zelfs de indrukwekkende resultaten van LLM ver verwijderd zijn van de enorme wereldwijde intelligentie die Singularity al lang heeft beloofd. Een deel van het probleem met de nauwe scheiding tussen hype en realiteit is dat de motoren die deze technologie aandrijven, verborgen zijn geraakt. OpenAI, dat begon als een non-profitorganisatie die open source-code gebruikte, is nu een project met winstoogmerk dat volgens critici een virtuele zwarte doos is. Google en Microsoft bieden ook beperkte zichtbaarheid.

Veel AI-onderzoek wordt gedaan door bedrijven met grote winsten uit de resultaten. Onderzoekers bij Microsoft, dat 13 miljard dollar heeft geïnvesteerd in OpenAI, Artikel verschenen in april Hij concludeerde dat de eerste versie van het nieuwste OpenAI-model “veel attributen van intelligentie vertoont”, waaronder “abstractie, begrip, zien, coderen” en “het begrijpen van menselijke motivaties en emoties”.

Sommige AI-onderzoekers hebben een onnauwkeurig beeld geschetst van hoe deze grote taalmodellen “opkomende capaciteiten” vertonen, zei Rylan Schaeffer, een doctoraatsstudent informatica aan de Stanford University – onverklaarbare capaciteiten die niet zichtbaar waren in kleinere versies.

Samen met twee van zijn Stanford-klasgenoten, Brando Miranda en Sanmi Koejo, onderzocht dhr. Shafer de vraag in Onderzoeksdocument Het werd vorige maand gepubliceerd en concludeerde dat de opkomende eigendommen een “luchtspiegeling” waren vanwege meetfouten. In feite zien onderzoekers wat ze willen zien.

Eeuwig leven, eeuwige winst

In Washington, Londen en Brussel drijven wetgevers de kansen en problemen van AI aan en beginnen ze te praten over regulering. De heer Altman is op een roadshow om vroege kritiek af te weren en OpenAI te promoten als sponsor van exclusiviteit.

Dit omvat een openheid voor regelgeving, maar hoe dat er precies uit zou zien, is een mysterie. Silicon Valley heeft algemeen de opvatting omarmd dat de overheid te traag en te dom is om snelle technologische ontwikkelingen te overzien.

“Er is niemand in de regering die het goed kan doen”, zegt Eric Schmidt, voormalig CEO van Google. Hij zei In een interview met Meet the Press vorige maand besprak hij de kwestie van AI-zelfregulering. “Maar de industrie kan het bijna goed krijgen.”

Kunstmatige intelligentie wordt, net als de singulariteit, al beschreven als onomkeerbaar. “Om het te stoppen zou zoiets als een wereldwijd bewakingssysteem nodig zijn, en zelfs dat werkt niet gegarandeerd”, aldus de heer Altman en enkele collega’s. boeken Vorige maand. Ze voegden eraan toe dat als Silicon Valley niet slaagt, anderen dat wel zullen doen.

Minder besproken zijn de enorme winsten die kunnen worden gemaakt met het downloaden van de wereld. Ondanks al het gepraat over AI als een machine voor het onbeperkt genereren van rijkdom, zijn de mensen die rijker worden grotendeels degenen die al rijk zijn.

Microsoft heeft zijn marktwaarde dit jaar met een half biljoen dollar zien stijgen. Nvidia, de maker van de chips die kunstmatige-intelligentiesystemen aandrijven, werd onlangs een van de meest waardevolle beursgenoteerde bedrijven in de VS toen het zei dat de vraag naar deze chips enorm was gestegen.

“Kunstmatige intelligentie is de technologie die de wereld altijd al heeft gewild”, twitterde de heer Altman.

Het is absoluut de technologie die de technische wereld altijd al heeft gewild, die op het best mogelijke moment arriveert. Het afgelopen jaar werd Silicon Valley geplaagd door ontslagen en stijgende rentetarieven. Cryptocurrency, de vorige boom, was verwikkeld in fraude en teleurstelling.

Het is een serieuzere poging om te beschrijven hoe het leven er binnenkort uit zou kunnen zien, zei Charles Stross, co-auteur van The Rapture of the Nerds, een komedie over de singulariteit, en ook de auteur van ‘Accelerando’.

“De echte belofte hier is dat bedrijven in staat zullen zijn om veel van de gebrekkige, dure en trage subeenheden van menselijke informatieverwerking te vervangen door stukjes software, waardoor de zaken sneller gaan en de overhead wordt verminderd”, zei hij.

De singulariteit is lang opgevat als een kosmische gebeurtenis, letterlijk adembenemend. En dat zou nog kunnen.

Maar het kan zich in de eerste plaats manifesteren – mede dankzij de obsessie van Silicon Valley van vandaag – als een instrument om het Amerikaanse bedrijfsleven te snijden. Als je racet om biljoenen toe te voegen aan je marktkapitalisatie, kan de hemel wachten.