Nell’era della tecnologia, l’intelligenza artificiale è diventata un argomento scottante che merita di essere analizzato da una prospettiva critica. Il libro “The AI Con” scritto dalla linguista Emily Bender e dal sociologo Alex Hanna, offre uno sguardo penetrante su come le tecnologie vendute come IA possano rivelarsi più un inganno che una vera rivoluzione. La loro opera si presenta come una guida preziosa per chiunque abbia interagito con queste tecnologie e si sia chiesto quanto valgano realmente.
Indice dei contenuti
L’ascesa e il ciclo di hype dell’IA
La recente esplosione di ChatGPT, avvenuta alla fine del 2022, ha dato il via a un nuovo ciclo di entusiasmo attorno all’intelligenza artificiale. Secondo gli autori, questo fenomeno rappresenta un “aggrandizement” – cioè un’esagerazione – della tecnologia che le persone sono portate a comprare e in cui investire, temendo di rimanere indietro rispetto alle opportunità di divertimento, guadagno o influenza nel mercato.
Questo non è il primo né sarà l’ultimo ciclo di hype che ha visto studiosi, leader politici e cittadini comuni interessati e preoccupati dall’idea di machine learning e IA. Bender e Hanna riportano le origini di questa tecnologia fino agli anni ’50, quando il matematico John McCarthy coniò il termine “intelligenza artificiale” in un periodo in cui gli Stati Uniti cercavano di ottenere un vantaggio sui sovietici in vari ambiti, tra cui quello tecnologico. Non si tratta di un’idea che è emersa dal nulla; ha radici profonde e una storia lunga alle spalle.
Seguici su Google News
Ricevi i nostri aggiornamenti direttamente nel tuo feed di
notizie personalizzato
Seguici ora
Oggi, il ciclo di hype è alimentato dai miliardi di dollari investiti da capitali di rischio in startup come OpenAI, oltre ai grandi nomi della tecnologia come Meta, Google e Microsoft, che dedicano risorse enormi alla ricerca e sviluppo dell’IA. Sono i risultati a parlare chiaro, con i nuovi smartphone e i software impregnati di “AI-washing”, una pratica di marketing che traveste prodotti comuni come straordinari.
Linguaggio e umanizzazione dell’IA
Uno dei metodi più diffusi per promuovere l’IA è l’uso di un linguaggio che umanizza queste tecnologie. Questo fenomeno è noto come antropomorfizzazione, che implica l’attribuzione di caratteristiche umane a oggetti inanimati. Ad esempio, quando le aziende affermano che i loro chatbot possono “vedere” e “pensare”.
Sebbene queste espressioni possano sembrare utili per descrivere le capacità di programmi di identificazione e ragionamento basati sull’IA, possono anche risultare fuorvianti. I chatbot non possiedono né gli organi né la coscienza necessari per “vedere” e “pensare”, dissimulando la verità sul funzionamento di questi strumenti. Secondo Hanna, l’idea di reti neurali si basa su una comprensione antiquata delle neuroscienze, risalente agli anni ’50, non su come funzionano realmente i neuroni.
Questo tipo di retorica ci porta a credere che sia presente una mente dietro il testo generato da un’IA. Bender sottolinea come, quando ci imbattiamo in testi sintetici prodotti da strumenti come ChatGPT, tendiamo a costruire un modello mentale della persona che parla, creando significato non solo attraverso il contenuto verbale. Questo porta a considerare l’IA come una potenziale sostituzione degli esseri umani, un’idea che coinvolge la nostra voglia di trovare soluzioni rapide a problemi complessi in settori critici come la salute e i servizi pubblici.
Tuttavia, gli autori insistono su un aspetto fondamentale: l’IA non serve a risolvere realmente i problemi. Viene venduta come strumento di efficienza, ma spesso porta alla sostituzione di lavoratori qualificati con macchine opache che richiedono assistenza costante da parte di lavoratori a basso stipendio. In sintesi, la vera sfida rimane: l’IA non toglierà il tuo lavoro, ma potrà rendere la tua posizione lavorativa più difficile.
Il mito della super intelligenza
Un altro concetto che suscita scetticismo è quello di “super intelligenza”. Se una tecnologia afferma di poter compiere qualcosa che un umano non riesce a fare, è fondamentale mantenere una certa cautela. Hanna avverte che il termine implica un’idea fuorviante secondo cui la tecnologia può rendere gli esseri umani superflui, un tema che genera preoccupazione. Anche se nei contesti di pattern matching i computer possono mostrare abilità superiori, non esiste evidenza concreta che suggerisca che possiamo raggiungere un’intelligenza artificiale generale.
Questa idea di “super intelligenza” si intreccia spesso nei discorsi riguardanti la cosiddetta intelligenza artificiale generale , che è considerata la forma più avanzata di IA. Tuttavia, non ci sono prove che stiamo per raggiungere tale stadio e i dibattiti su questo argomento rivelano più l’immaginario collettivo che solidi sviluppi tecnologici. I canti dell’innovazione ripetono tropi di fantascienza, dove adattatori e avversari si confrontano su futuri radicali: visioni utopiche o distopiche alimentano il dibattito pubblico.
Questa convinzione di inevitabilità e superiorità dell’IA tende a sfuggire alla logica e avvalora posizioni di marketing più che scoperte scientifiche. Bender commenta che spesso si crede che il futuro di queste tecnologie sia ineluttabile, ma ciò è semplicemente una strategia di marketing.
Valutazione dei dati e trasparenza delle IA
Per screditare le affermazioni spesso fantasmagoriche legate all’IA, è utile esaminare con attenzione come vengono formati i modelli. Molte aziende di IA non rivelano quali dati utilizzano per l’addestramento, preferendo piuttosto condividere come gestiscono le informazioni personali. Tuttavia, le politiche sulla privacy possono offrire qualche indizio su come operano.
Un punto cruciale di preoccupazione per i creatori riguarda il modo in cui i modelli sono addestrati, con l’emergere di cause legali per presunto violazione del copyright e questioni legate ai pregiudizi delle IA. Bender suggerisce che per generare sistemi che possano realmente fare la differenza, è essenziale una curatela dei dati. Tuttavia, molte aziende raccolgono tutto ciò che trovano online senza filtraggio, il che genera un appiattimento delle informazioni.
Quando si sente parlare di nuovi prodotti IA, è fondamentale prestare attenzione a dati che evidenzino la loro efficacia. Spesso, affermazioni prive di citazione sono motivo di allarme. Bender mette in guardia: ogni volta che qualcuno ti propone un prodotto senza mostrarti come è stato verificato, potresti essere davanti a un inganno.
Le mancanze di trasparenza in questo settore possono essere frustranti, ma riconoscere i punti deboli delle affermazioni di vendita contribuisce a smascherare il vero valore della tecnologia. Nonostante le reticenze, la chiarezza e l’accuratezza potrebbero elevare il dibattito, portando a una comprensione più profonda e a un uso più responsabile delle innovazioni offerte.
