Hoe zoekmachines verkeerde informatie verspreiden

meisje kijkt door een spiraal van kleuren

Afbeelding via Crispin the Brave / Moment via Getty Images

Zoekmachines zijn een van de belangrijkste toegangspoorten van de samenleving tot informatie en mensen, maar ze zijn ook kanalen voor verkeerde informatie.




Dit artikel over verkeerde informatie is hier opnieuw gepubliceerd met toestemming van Het gesprek ​Deze inhoud wordt hier gedeeld omdat het onderwerp de lezers van Snopes kan interesseren, maar het vertegenwoordigt niet het werk van de factcheckers of editors van Snopes.




Zoekmachines zijn een van de belangrijkste toegangspoorten van de samenleving tot informatie en mensen, maar ze zijn ook kanalen voor verkeerde informatie. Gelijkwaardig aan problematische algoritmen voor sociale media , zoekmachines leren om u te dienen waar u en anderen eerder op hebben geklikt. Omdat mensen zich aangetrokken voelen tot het sensationele, kan deze dans tussen algoritmen en de menselijke natuur de verspreiding van verkeerde informatie bevorderen.

Zoekmachinebedrijven verdienen, zoals de meeste online services, niet alleen geld door advertenties te verkopen, maar ook door gebruikers te volgen en hun gegevens te verkopen via realtime bieden ben ermee bezig. Mensen worden vaak tot verkeerde informatie geleid door hun verlangen naar sensationeel en onderhoudend nieuws en informatie die ofwel controversieel is of hun mening bevestigt. Een studie wees uit dat meer populaire YouTube-video's over diabetes zijn minder kans op medisch geldige informatie dan bijvoorbeeld minder populaire video's over het onderwerp.



george floyd 5 jaar in de gevangenis

Advertentiegestuurde zoekmachines, zoals sociale mediaplatforms, zijn ontworpen om het klikken op verleidelijke links te belonen, omdat het zoekbedrijven helpt om hun bedrijfsstatistieken te verbeteren. Als onderzoeker wie bestudeert de zoek- en aanbevelingssystemen Laten ik en mijn collega's zien dat deze gevaarlijke combinatie van winstoogmerk van bedrijven en individuele vatbaarheid maakt het probleem moeilijk op te lossen

Hoe zoekresultaten fout gaan

Wanneer u op een zoekresultaat klikt, leert het zoekalgoritme dat de link waarop u heeft geklikt relevant is voor uw zoekopdracht. Dit heet relevantie feedback ​Deze feedback helpt de zoekmachine om in de toekomst meer gewicht te geven aan die link voor die zoekopdracht. Als genoeg mensen vaak genoeg op die link klikken en zo een sterke relevantie-feedback geven, komt die website hoger in de zoekresultaten voor die en gerelateerde zoekopdrachten.

Mensen zijn waarschijnlijker klikken op links die hoger worden weergegeven op de lijst met zoekresultaten. Dit zorgt voor een positieve feedbacklus - hoe hoger een website wordt weergegeven, hoe meer klikken, en dat zorgt er weer voor dat die website hoger of hoger blijft. Zoekmachineoptimalisatietechnieken gebruiken deze kennis om de zichtbaarheid van websites te vergroten.



Dit probleem met verkeerde informatie heeft twee aspecten: hoe een zoekalgoritme wordt geëvalueerd en hoe mensen reageren op koppen, titels en fragmenten. Zoekmachines worden, net als de meeste online services, beoordeeld aan de hand van een reeks statistieken, waaronder de betrokkenheid van gebruikers. Het is in het belang van de zoekmachinebedrijven om u dingen te geven die u wilt lezen, bekijken of gewoon wilt klikken. Aangezien een zoekmachine of een ander aanbevelingssysteem een ​​lijst met items maakt die moeten worden gepresenteerd, berekent het daarom de waarschijnlijkheid dat u op de items klikt.

fauci wist in 2017 van het coronavirus

Traditioneel was dit bedoeld om de informatie naar voren te brengen die het meest relevant zou zijn. Het begrip relevantie is echter vaag geworden omdat mensen zoeken hebben gebruikt om te vinden vermakelijke zoekresultaten en echt relevante informatie

Stel je voor dat je op zoek bent naar een pianostemmer. Als iemand je een video laat zien van een kat die op een piano speelt, zou je er dan op klikken? Velen zouden, zelfs als dat niets met pianostemmen te maken heeft. De zoekservice voelt zich gevalideerd met feedback over positieve relevantie en leert dat het oké is om een ​​kat te laten zien die een piano speelt wanneer mensen zoeken naar pianostemmers.

Sterker nog, het is in veel gevallen zelfs beter dan het tonen van de relevante resultaten. Mensen kijken graag naar grappige kattenvideo's en het zoeksysteem krijgt meer klikken en gebruikersbetrokkenheid.

wie deed de stem van Woody in speelgoedverhaal

Dit lijkt misschien onschuldig. Dus wat als mensen af ​​en toe afgeleid worden en op resultaten klikken die niet relevant zijn voor de zoekopdracht? Het probleem is dat mensen worden aangetrokken door opwindende beelden en sensationele krantenkoppen. Ze hebben de neiging om op complottheorieën en sensationeel nieuws te klikken , niet alleen katten die piano spelen, en dat ook doen meer dan klikken op echt nieuws of relevante informatie.

Beroemde maar nepspinnen

In 2018 zoekt naar 'nieuwe dodelijke spin' verrijkt op Google na een Facebook-bericht waarin werd beweerd dat een nieuwe dodelijke spin verschillende mensen in meerdere staten heeft gedood. Mijn collega's en ik analyseerden de top 100 resultaten van Google Zoeken naar 'nieuwe dodelijke spin' tijdens de eerste week van deze populaire zoekopdracht.

Verdeling van zoekresultaten voor

De eerste twee pagina's met zoekresultaten van Google voor ‘nieuwe dodelijke spin’ in augustus 2018 (gearceerd gebied) waren gerelateerd aan het oorspronkelijke nepnieuwsbericht over dat onderwerp, en waren niet ontkracht of anderszins feitelijke informatie.
Chirag ShahCC BY-ND

Het bleek dit verhaal was nep , maar mensen die ernaar zochten, werden grotendeels blootgesteld aan verkeerde informatie met betrekking tot de originele neppost. Terwijl mensen bleven klikken en die verkeerde informatie deelden, bleef Google die pagina's boven aan de zoekresultaten weergeven.

hoeveel is alex trebek waard

Dit patroon van opwindende en niet-geverifieerde verhalen komt naar voren en mensen klikken erop, waarbij mensen kennelijk ofwel niet bezorgd zijn over de waarheid of geloven dat als een vertrouwde dienst zoals Google Zoeken deze verhalen aan hen laat zien, de verhalen waar moeten zijn. Meer recentelijk heeft een weerlegd rapport beweren dat China het coronavirus uit een laboratorium heeft laten lekken dat door deze vicieuze cirkel grip heeft gekregen op zoekmachines.

Zoek de verkeerde informatie

Om te testen hoe goed mensen onderscheid maken tussen nauwkeurige informatie en verkeerde informatie, hebben we een eenvoudig spel ontworpen met de naam ' Google of niet ​Deze online game toont twee sets resultaten voor dezelfde zoekopdracht. Het doel is simpel: kies de set die betrouwbaar, betrouwbaar of het meest relevant is.

Een schermafbeelding met twee sets Google-zoekresultaten naast elkaar

Bij tests kunnen ongeveer de helft van de keren dat mensen het verschil niet zien tussen Google-zoekresultaten die verkeerde informatie bevatten en die met alleen betrouwbare resultaten.
Chirag ShahCC BY-ND

Een van deze twee sets heeft een of twee resultaten die ofwel worden geverifieerd en bestempeld als verkeerde informatie of een ontkracht verhaal. We hebben het spel openbaar gemaakt en geadverteerd via verschillende sociale mediakanalen. In totaal hebben we 2.100 reacties verzameld uit meer dan 30 landen.

Toen we de resultaten analyseerden, ontdekten we dat ongeveer de helft van de keren dat mensen de set ten onrechte als betrouwbaar kozen, met een of twee resultaten van verkeerde informatie ​Onze experimenten met honderden andere gebruikers gedurende vele iteraties hebben geleid tot vergelijkbare bevindingen. Met andere woorden, ongeveer de helft van de tijd dat mensen resultaten kiezen die complottheorieën en nepnieuws bevatten. Naarmate meer mensen deze onnauwkeurige en misleidende resultaten kiezen, leren de zoekmachines dat dat is wat mensen willen.

bevallen in vergelijking met in de ballen getrapt worden

Afgezien van vragen over Big Tech-regelgeving en zelfregulering, is het belangrijk dat mensen begrijpen hoe deze systemen werken en hoe ze geld verdienen. Anders zullen markteconomieën en de natuurlijke neiging van mensen om zich aangetrokken te voelen tot in het oog springende schakels, de vicieuze cirkel gaande houden.

Het gesprek


Chirag Shah , Universitair hoofddocent informatica, universiteit van Washington

Dit artikel is opnieuw gepubliceerd vanaf Het gesprek onder een Creative Commons-licentie. Lees de origineel artikel