LinkedIn voerde in vijf jaar tijd sociale experimenten uit op 20 miljoen gebruikers

LinkedIn heeft gedurende vijf jaar met meer dan 20 miljoen gebruikers geëxperimenteerd, wat, hoewel bedoeld om de manier waarop het platform voor leden werkt te verbeteren, volgens een nieuwe studie een impact zou kunnen hebben gehad op het levensonderhoud van sommige mensen.

In experimenten die van 2015 tot 2019 over de hele wereld werden uitgevoerd, veranderde Linkedin willekeurig het aandeel zwakke en sterke contacten dat wordt gesuggereerd door het People You May Know-algoritme – het geautomatiseerde systeem van het bedrijf voor het aanbevelen van nieuwe contacten aan zijn gebruikers. Onderzoekers van LinkedIn, MIT, Stanford en Harvard Business School analyseerden later de gegevens die uit de tests waren verzameld in een onderzoek Het verscheen deze maand in het tijdschrift Science.

De algoritme-experimenten van LinkedIn kunnen voor miljoenen mensen als een verrassing komen, omdat het bedrijf gebruikers niet heeft verteld dat er tests worden uitgevoerd.

Techreuzen zoals LinkedIn, ’s werelds grootste professionele netwerk, voeren routinematig grootschalige experimenten uit waarbij ze verschillende versies van app-functies, webontwerpen en algoritmen op verschillende mensen uitproberen. De langetermijnpraktijk, A/B-testen genoemd, heeft tot doel de consumentenervaringen te verbeteren en hen betrokken te houden, zodat bedrijven geld kunnen verdienen door middel van premium lidmaatschapsgelden of advertenties. Gebruikers hebben vaak geen idee dat bedrijven er tests op uitvoeren. (New York tijden) Gebruikt dergelijke tests Om het opstellen van headlines te evalueren en beslissingen te nemen over de producten en functies die het bedrijf vrijgeeft.)

Maar veranderingen die door LinkedIn zijn aangebracht, suggereren dat dergelijke aanpassingen aan veelgebruikte algoritmen social engineering-experimenten kunnen worden met mogelijk levensveranderende gevolgen voor veel mensen. Experts die de maatschappelijke effecten van computers bestuderen, hebben gezegd dat langdurige, grootschalige experimenten met mensen hun baanvooruitzichten kunnen beïnvloeden, op manieren die voor hen onzichtbaar zijn, wat vragen oproept over de transparantie van de sector en het toezicht op onderzoek.

“De resultaten geven aan dat sommige gebruikers betere toegang hebben tot vacatures of een significant verschil in toegang tot vacatures”, zei hij. Michael ZimmerD., universitair hoofddocent computerwetenschappen en directeur van het Center for Data, Ethics and Society aan de Marquette University. “Dat zijn de langetermijngevolgen om over na te denken als we nadenken over de ethiek van het deelnemen aan dit soort big data-onderzoek.”

Studeren in de wetenschap testte een invloedrijke sociologietheorie genaamd De kracht van zwakke relaties‘, die stelt dat mensen meer kans hebben om werk en andere kansen te krijgen via kennissen met wapens dan via goede vrienden.

De onderzoekers analyseerden hoe algoritmische veranderingen in LinkedIn de arbeidsmobiliteit van gebruikers beïnvloedden. dat ze Ik ontdekte dat sociale banden relatief zwak zijn LinkedIn heeft bewezen twee keer zo effectief te zijn in het veiligstellen van vacatures als sterkere sociale relaties.

In een verklaring zei LinkedIn dat het tijdens het onderzoek “consistent handelde” met de gebruikersovereenkomst, het privacybeleid en de ledeninstellingen van het bedrijf. De privacybeleid Geeft aan dat LinkedIn persoonsgegevens van leden gebruikt voor onderzoeksdoeleinden. De verklaring voegde eraan toe dat het bedrijf de nieuwste “niet-invasieve” sociaalwetenschappelijke technologie gebruikte om belangrijke onderzoeksvragen te beantwoorden “zonder enige experimenten op organen”.

LinkedIn, dat eigendom is van Microsoft, heeft niet direct gereageerd op een vraag over hoe het bedrijf de mogelijke langetermijngevolgen van zijn experimenten op de werkgelegenheid en de economische situatie van gebruikers beschouwde. Maar het bedrijf zei dat het onderzoek sommige gebruikers niet onevenredig ten goede kwam.

Hij zei dat het doel van het onderzoek is om “mensen op grote schaal te helpen”. Karthik Rajkumar, een toegepast onderzoeker bij LinkedIn en was een van de co-auteurs van de studie. “Niemand is benadeeld om een ​​baan te vinden.”

Sinan Aral, een professor in management en datawetenschap aan het MIT en de hoofdauteur van het onderzoek, zei dat de LinkedIn-experimenten een poging waren om ervoor te zorgen dat gebruikers gelijke kansen op werk hadden.

“Een experiment uitvoeren op 20 miljoen mensen en dan met een beter algoritme voor baanvooruitzichten voor iedereen komen als resultaat van de kennis die je hiervan leert, is wat ze proberen te doen,” meneer Aral Hij zei: “In plaats van sommige mensen met sociale mobiliteit te scannen en andere niet.” (Professor Aral voerde data-analyse uit voor The New York Times en ontving een prijs Onderzoeksbeurs van Microsoft in 2010.)

Ervaringen bij gebruikers van grote internetbedrijven kennen een bewogen geschiedenis. acht jaar geleden, Facebook-studie Er is een beschrijving gepubliceerd van hoe het sociale netwerk stilletjes omging met berichten die in de nieuwsfeeds van gebruikers verschenen om de verspreiding van negatief en positief sentiment op zijn platform te analyseren. De proefperiode van een week met 689.003 gebruikers zorgde al snel voor een terugslag.

De Facebook-studie, waarvan de auteurs een bedrijfsonderzoeker en professor aan de Cornell University omvatten, bevestigde dat mensen er stilzwijgend mee instemden emotionele manipulatie te ervaren wanneer ze zich aanmeldden voor Facebook. “Alle gebruikers stemmen ermee in voordat ze een Facebook-account maken en vormen geïnformeerde toestemming voor dit onderzoek”, aldus de studie.

Critici waren het met sommigen niet eens, sommigen vielen Facebook aan omdat het inbreuk maakte op de privacy van mensen, hun humeur uitbuitte en hen emotioneel leed bezorgde. Anderen benadrukten dat het project een academische co-auteur gebruikte om de onderzoekspraktijken van problematische bedrijven geloofwaardig te maken.

Cornell zei later dat zijn interne ethische commissie niet was gevraagd om het project te beoordelen omdat Facebook het onderzoek onafhankelijk had uitgevoerd en dat de professor, die hielp bij het opzetten van het onderzoek, had Niet rechtstreeks delen Bij experimenten op mensen.

De professionele netwerkervaringen van LinkedIn waren verschillend in opzet, reikwijdte en schaal. Het is ontworpen door Linkedin als onderdeel van de voortdurende inspanningen van het bedrijf om de relevantie van zijn “People You May Know”-algoritme, dat nieuwe ledenverbindingen suggereert, te verbeteren.

Het algoritme analyseert gegevens zoals het arbeidsverleden van leden, functietitels en relaties met andere gebruikers. Vervolgens wordt geprobeerd de waarschijnlijkheid te meten dat een LinkedIn-lid een vrienduitnodiging stuurt voor een voorgestelde nieuwe connectie, evenals de waarschijnlijkheid dat deze nieuwe connectie de uitnodiging zal accepteren.

Voor de experimenten heeft LinkedIn een algoritme aangepast om willekeurig de verspreiding van sterke en zwakke links te wijzigen die door het systeem worden aanbevolen. De studie stelde dat bij de eerste reeks tests, uitgevoerd in 2015, “meer dan vier miljoen proefpersonen betrokken waren”. Bij de tweede reeks tests, uitgevoerd in 2019, waren meer dan 16 miljoen mensen betrokken.

Tijdens de tests kregen mensen die op de tool People You May Know klikten en naar aanbevelingen keken, verschillende algoritmepaden toegewezen. Sommige van deze ’therapeutische variabelen’, zoals de studie ze noemde, zorgden ervoor dat LinkedIn-gebruikers meer relaties aangingen met mensen met wie ze een slechte sociale band hadden. Andere wijzigingen zorgden ervoor dat er minder relaties ontstonden met zwakke.

Of de meeste LinkedIn-leden begrijpen dat ze ervaringen kunnen ondergaan die hun kansen op werk kunnen beïnvloeden, is onbekend.

LinkedIn privacybeleid Hij zegt dat het bedrijf “persoonlijke gegevens die ons ter beschikking zijn gesteld” kan gebruiken om “trends op de werkplek, zoals beschikbaarheid van banen en vaardigheden voor die banen” te onderzoeken. dat het Beleid voor externe onderzoekers Het willen analyseren van bedrijfsgegevens geeft duidelijk aan dat deze onderzoekers niet in staat zullen zijn om te “experimenteren of tests uit te voeren op onze leden”.

Geen van beide beleidsregels informeert consumenten echter expliciet dat LinkedIn zelf mag experimenteren of tests op zijn leden mag uitvoeren.

In een verklaring zei LinkedIn: “We zijn transparant met onze leden via ons zoekgedeelte van onze gebruikersovereenkomst.”

In een redactionele verklaring zei Science: “We begrijpen, en de recensenten begrijpen, dat de experimenten die door LinkedIn worden uitgevoerd, werken volgens de richtlijnen van hun gebruikersovereenkomsten.”

Na de eerste golf van computationele tests kwamen onderzoekers van LinkedIn en MIT op het idee om de resultaten van die experimenten te analyseren om de theorie van de sterkte van zwakke schakels te testen. Hoewel de decennia-oude theorie een hoeksteen van de sociale wetenschappen is geworden, is deze niet rigoureus bewezen in een grootschalig prospectief experiment waarbij mensen willekeurig werden toegewezen aan sociale banden van verschillende sterktes.

Externe onderzoekers analyseerden de gegevens die via LinkedIn werden verzameld. De studie meldde dat mensen die meer aanbevelingen kregen over relatief zwakke contacten, over het algemeen meer banen solliciteerden en accepteerden – resultaten die consistent zijn met de zwakke schakeltheorie.

In feite bleken relatief zwakke contacten – dat wil zeggen mensen met wie LinkedIn-leden slechts 10 wederzijdse connecties deelden – veel productiever te zijn bij het zoeken naar werk dan sterkere contacten met gebruikers die meer dan 20 wederzijdse connecties deelden, zo bleek uit het onderzoek.

Na een jaar contact op LinkedIn hadden mensen die meer aanbevelingen kregen voor vrij zwakke contacten twee keer zoveel kans om een ​​baan te krijgen bij de bedrijven waar die contacten werkten in vergelijking met andere gebruikers die meer aanbevelingen kregen voor sterke connecties.

“We ontdekten dat deze ietwat zwakke schakels een betere optie zijn om mensen te helpen nieuwe banen te vinden en veel meer dan sterkere relaties”, zegt dhr. Rajkumar, een onderzoeker bij LinkedIn.

De studie meldde dat 20 miljoen gebruikers die deelnamen aan LinkedIn-ervaringen meer dan 2 miljard nieuwe sociale connecties creëerden en meer dan 70 miljoen sollicitaties voltooiden, wat leidde tot 600.000 nieuwe banen. Uit het onderzoek bleek dat zwakke schakels het meest gunstig bleken voor werkzoekenden op digitale gebieden zoals kunstmatige intelligentie, terwijl sterke banden gunstiger bleken voor werkgelegenheid in sectoren die minder afhankelijk zijn van software.

LinkedIn zei dat het de bevindingen over slechte relaties heeft toegepast met verschillende functies, waaronder een nieuwe tool Leden op de hoogte stellen Wanneer een eerste of tweede orde verbinding wordt toegewezen. Maar het bedrijf heeft geen studiegerelateerde wijzigingen aangebracht in de functie People You May Know.

Professor Aral van het Massachusetts Institute of Technology zei dat de diepere betekenis van het onderzoek is dat het het belang aantoont van krachtige algoritmen voor sociale netwerken – niet alleen bij het versterken van problemen zoals verkeerde informatie, maar ook als belangrijke indicatoren van economische omstandigheden zoals werkgelegenheid en werkloosheid.

Catherine Flick, senior onderzoeker in informatica en sociale verantwoordelijkheid aan de De Montfort University in Leicester, Engeland, beschreef de studie als meer een institutionele marketingoefening.

“De studie heeft een inherente vooringenomenheid,” zei Dr. Flick. “Het laat zien dat als je meer banen wilt krijgen, je meer op LinkedIn moet zitten.”