Una ricerca sulla la libreria più grande del mondo e su come i suoi algoritmi influenzano la nostra società mostra che Amazon non favorisce la pluralità di opinioni. Anzi, produce bolle, creando «comunità di libri estremamente ristrette» basate sulle ricerche precedenti
«Da un grande potere derivano grandi responsabilità», la frase fu scritta per la prima volta in un fumetto della Marvel. L’adagio, creato per l’Uomo Ragno, descrive efficacemente la situazione delle grandi piattaforme digitali, o almeno è quello pensavano i legislatori dell’Ue quando hanno introdotto il Digital Services Act (Dsa).
La normativa impone a quelle definisce “Very Large Online Platforms” (Vlop) – piattaforme online grandi abbastanza da rappresentare rischi sistemici per l’Unione – specifici requisiti su alcuni aspetti problematici legati al loro utilizzo. In particolare quelli relativi a come i loro servizi vengono usati per diffondere o amplificare contenuti ingannevoli, illegali e disinformazione.
Tra queste piattaforme c’è Amazon, il più popolare marketplace al mondo che conta 181 milioni di user in Europa e 38 milioni in Italia (Reuters). Ovviamente quella di Bezos non è l’unica azienda, ce ne sono infatti altre 18 tra motori di ricerca e piattaforme con almeno 45 milioni di utenti. Tuttavia si tratta di un colosso che tramite la vendita di prodotti, a cominciare dai libri, ha un’influenza enorme sulle informazioni che arrivano ai suoi utenti.
Lo studio
In novembre la Commissione ha inviato una richiesta di informazioni ad Amazon chiedendo chiarimenti sugli obblighi relativi alla valutazione dei rischi e alle misure di mitigazione volte a proteggere i consumatori. Il Dsa impone infatti di considerare come gli algoritmi di raccomandazione, la moderazione dei contenuti e l’applicazione di termini e condizioni, contribuiscano a quelli che l’Europa definisce come rischi sistemici. E se la definizione di “rischio sistemico” si presta a interpretazioni, un recente report fornisce degli esempi concreti.
Secondo un’analisi del mercato francese e di quello belga, l’Amazon Store potrebbe facilitare la vendita di prodotti contraffatti e violazioni delle leggi sulla protezione dei consumatori. Lo studio condotto da Check First, compagnia che si occupa di fact checking e lotta alla disinformazione, ed Ai Forensics, una no-profit che indaga l’impatto degli algoritmi sulla società, valuta l’influenza di Amazon sui diritti fondamentali, l’opinione pubblica, la protezione della salute pubblica e dei minori.
Basandosi sul Framework di Gestione dei Rischi della Commissione Europea, e su oltre 60 mila libri e 12 diverse query di ricerca, l’analisi rivela diversi aspetti problematici. Una grande percentuale dei risultati per query legate a salute pubblica, immigrazione, questioni di genere e cambiamento climatico sono fuorvianti o non forniscono un pluralismo di opinioni.
I sistemi di raccomandazione di Amazon creano «comunità di libri estremamente ristrette» basate sulle ricerche precedenti. Dopo aver cliccato su un titolo ottenuto attraverso un risultato di ricerca, gli utenti entrano in “comunità narrative” determinate dagli algoritmi e sono necessari decine di clic per uscirne. E anche quando i consumatori bucano la “bolla”, possono atterrare su prodotti che violano le regole della piattaforma stessa.
Comunità di libri fortemente raccomandati promuovono il negazionismo climatico, diffondono teorie del complotto sulla Covid-19 e sostengono visioni conservative sulle questioni di genere.
Inoltre Amazon non sembra riuscire a far rispettare le proprie policy, rendendo disponibili contenuti pornografici e sessualmente espliciti senza restrizione d’età. Le raccomandazioni non sarebbero infatti basate sull’età, rendendo inefficaci i suoi stessi meccanismi di sicurezza. Nel report si legge che «a causa della sua dimensione e della conseguente influenza nel mercato dei prodotti culturali, l’attenzione dovrebbe estendersi al suo approccio nell’affrontare la disinformazione online e altri rischi sociali».
La risposta
In risposta alla ricerca, Amazon ha dichiarato di aver iniziato un’investigazione e che continuerà a prendere azioni appropriate contro i prodotti non conformi alle regole.
«Le nostre indagini sono in corso e continueremo a intervenire in modo appropriato contro i prodotti che non rispettano le nostre politiche e linee guida. Lavoriamo costantemente con le autorità di regolamentazione, gli esperti di terze parti, i fornitori e i partner di vendita per migliorare il modo in cui rileviamo e impediamo che prodotti illegali e non sicuri raggiungano il nostro sito, e le nostre Condizioni Generali di Uso e Vendita chiariscono che non vendiamo prodotti destinati all'acquisto da parte di bambini. Nei rari casi in cui veniamo a conoscenza del fatto che un account è stato aperto da un minore senza autorizzazione, chiudiamo l'account».
«Amazon condivide l'obiettivo della Commissione Europea di creare un ambiente online sicuro, prevedibile e affidabile e investe in modo significativo nella protezione del proprio negozio da malintenzionati e contenuti illegali e nella creazione di un'esperienza di acquisto affidabile. Abbiamo costruito su queste solide basi la conformità al DSA. Come richiesto dal Digital Services Act, quest'anno abbiamo pubblicato il nostro EU Store Transparency Report, che illustra il nostro impegno nel fornire un'esperienza di acquisto affidabile. Potete leggerlo qui».
Claudio Agosti, co-fondatore di Ai Forensics, ha commentato così la risposta di Amazon: «La tecnologia non è mai neutrale. Anche se fosse un filtro acritico affidato al caso, quando viene affiancata da una lasca politica di selezione dei prodotti, genera le storture che abbiamo raccontato nel report».
© Riproduzione riservata
