fbpx

 

I motori di ricerca sono una delle principali porte d’accesso della società, alle informazioni e alle persone, ma sono anche canali di disinformazione. Simile ai problematici algoritmi dei social media, i motori di ricerca imparano a servirti ciò che tu e altri hanno cliccato in precedenza. Poiché le persone sono attratte dal sensazionale, questa danza tra algoritmi e natura umana può favorire la diffusione della disinformazione.

Le aziende dei motori di ricerca, come la maggior parte dei servizi online, fanno soldi non solo vendendo pubblicità, ma anche tracciando gli utenti e vendendo i loro dati attraverso offerte in tempo reale. Le persone sono spesso portate alla disinformazione dal loro desiderio di notizie sensazionali e divertenti, nonché di informazioni che sono controverse o che confermano le loro opinioni. Uno studio ha scoperto che i video di YouTube più popolari sul diabete, hanno meno probabilità di avere informazioni medicamente valide rispetto ai video meno popolari sull’argomento, per esempio.

I motori di ricerca ad-driven, come le piattaforme di social media, sono progettati per premiare il fatto di cliccare su link allettanti, perché questo aiuta le società di ricerca ad aumentare le loro metriche di business. Come riferiscono i ricercatori che studiano i sistemi di ricerca e di raccomandazione, essi dimostrano che questa pericolosa combinazione di motivo di profitto aziendale e suscettibilità individuale rende il problema difficile da risolvere.

Quando clicchi su un risultato di ricerca, l’algoritmo di ricerca impara che il link che hai cliccato è rilevante per la tua query di ricerca. Questo è chiamato feedback di rilevanza. Questo feedback aiuta il motore di ricerca a dare un peso maggiore a quel link per quella query in futuro. Se un numero sufficiente di persone clicca su quel link abbastanza volte, dando così un forte feedback di rilevanza, quel sito web inizia a comparire più in alto nei risultati di ricerca per quella e per le query correlate. Le persone sono più propense a cliccare sui link che appaiono più in alto nella lista dei risultati di ricerca. Questo crea un ciclo di feedback positivo ; più un sito web appare in alto, più i clic, e questo a sua volta fa sì che il sito web si sposti più in alto o lo mantenga in alto. Le tecniche di ottimizzazione dei motori di ricerca utilizzano questa conoscenza per aumentare la visibilità dei siti web.

Ci sono due aspetti di questo problema di disinformazione: come viene valutato un algoritmo di ricerca e come gli umani reagiscono ai titoli, ai titoli e agli snippet. I motori di ricerca, come la maggior parte dei servizi online, sono giudicati utilizzando una serie di metriche, una delle quali è il coinvolgimento degli utenti. È nell’interesse delle società di motori di ricerca darti cose che vuoi leggere, guardare o semplicemente cliccare. Pertanto, quando un motore di ricerca o qualsiasi sistema di raccomandazione crea una lista di articoli da presentare, calcola la probabilità che tu clicchi sugli articoli. Tradizionalmente, questo aveva lo scopo di far emergere le informazioni che sarebbero state più rilevanti. Tuttavia, la nozione di rilevanza è diventata confusa, perché le persone hanno usato la ricerca per trovare risultati di ricerca divertenti, oltre che informazioni veramente rilevanti.

Immaginate di cercare un accordatore di pianoforte. Se qualcuno vi mostra un video di un gatto che suona il piano, ci clicchereste sopra? Molti lo farebbero, anche se non ha niente a che fare con l’accordatura del pianoforte. Il servizio di ricerca si sente convalidato dal feedback di rilevanza positiva e impara che va bene mostrare un gatto che suona un pianoforte, quando la gente cerca un accordatore di pianoforti. In effetti, in molti casi è anche meglio che mostrare i risultati pertinenti.

Alla gente piace guardare video divertenti di gatti, e il sistema di ricerca ottiene più clic e coinvolgimento degli utenti. Questo potrebbe sembrare innocuo. Quindi cosa succede se le persone si distraggono di tanto in tanto e cliccano su risultati che non sono pertinenti alla query di ricerca? Il problema è che le persone sono attratte da immagini eccitanti e titoli sensazionali. Tendono a cliccare su teorie di cospirazione e notizie sensazionalizzate, non solo sui gatti che suonano il piano, e lo fanno più che cliccare su notizie vere o informazioni rilevanti.

Un esempio di una ricerca che ha disinformato molte persone : Ragni famosi ma falsi…. Nel 2018, le ricerche di “nuovo ragno mortale” hanno avuto un picco su Google a seguito di un post di Facebook che sosteneva che un nuovo ragno mortale avesse ucciso diverse persone in più stati. I ricercatori hanno analizzato i primi 100 risultati della ricerca su Google per “nuovo ragno mortale” durante la prima settimana di questa query di tendenza. Su Google le prime due pagine dei risultati di ricerca nell’agosto 2018, erano legate al post originale di fake news su quell’argomento, non al debunking o a informazioni altrimenti fattuali. Si è scoperto che questa storia era falsa, ma le persone che la cercavano erano in gran parte esposte alla disinformazione relativa al post originale falso.

Mentre la gente continuava a cliccare e condividere quelle informazioni errate, Google ha continuato a servire quelle pagine in cima ai risultati di ricerca. Questo modello di storie entusiasmanti e non verificate che emergono e la gente che ci clicca sopra, continua, con le persone che apparentemente non sono interessate alla verità o credono che se un servizio affidabile come Google Search sta mostrando loro queste storie, allora le storie devono essere vere.

Più recentemente, un rapporto smentito che sostiene che la Cina ha lasciato trapelare il coronavirus da un laboratorio ha guadagnato trazione sui motori di ricerca a causa di questo circolo vizioso. Infine I ricercatori hanno progettato un semplice gioco chiamato “Google Or Not”. Questo gioco online mostra due serie di risultati per la stessa query. L’obiettivo è semplice: scegliere il set che è affidabile, degno di fiducia o più rilevante. Una schermata che mostra due serie di risultati di ricerca di Google fianco a fianco.

Nei test, circa la metà delle volte, le persone non riescono a capire la differenza tra i risultati di ricerca di Google che contengono disinformazione e quelli con solo risultati affidabili. Uno di questi due set ha uno o due risultati che sono o verificati ed etichettati come disinformazione o una storia sfatata. Abbiamo reso il gioco disponibile pubblicamente e pubblicizzato attraverso vari canali di social media. Nel complesso, abbiamo raccolto 2.100 risposte da oltre 30 paesi. Quando abbiamo analizzato i risultati, abbiamo scoperto che circa la metà delle volte le persone sceglievano erroneamente come affidabile il set con uno o due risultati di disinformazione. I nostri esperimenti con centinaia di altri utenti su molte iterazioni hanno portato a risultati simili.

In altre parole, circa la metà delle volte le persone scelgono risultati che contengono teorie della cospirazione e fake news. Man mano che più persone scelgono questi risultati imprecisi e fuorvianti, i motori di ricerca imparano che è quello che la gente vuole. Questioni di regolamentazione e autoregolamentazione di Big Tech a parte, è importante che la gente capisca come funzionano questi sistemi e come fanno soldi. Altrimenti le economie di mercato e la naturale inclinazione delle persone ad essere attratte da link accattivanti continueranno il circolo vizioso.

Click to rate this post!
[Total: 0 Average: 0]
Open chat
%d blogger hanno fatto clic su Mi Piace per questo: