Negli ultimi giorni, DeepSeek ha attirato l’attenzione del pubblico per le sue avanzate capacità, superando persino ChatGPT in termini di notorietà. Questo successo ha avuto ripercussioni significative anche sui mercati, in particolare sulle azioni di NVIDIA, che hanno subito un calo, generando preoccupazione tra investitori e esperti del settore. Tuttavia, dietro alle sue prestazioni straordinarie, emergono alcune problematiche legate alla sua imparzialità, in particolare riguardo a temi sensibili per la Cina.
Indice dei contenuti
La questione della imparzialità di DeepSeek
Quando DeepSeek è stato sottoposto a test mirati, i risultati hanno rivelato una preoccupante mancanza di imparzialità in risposta a tematiche delicate. Argomenti come la situazione di Taiwan e le stragi di piazza Tienanmen sono stati trattati in modo evasivo dal chatbot che, nella maggior parte dei casi, si è rifiutato di fornire risposte. Questo solleva interrogativi sulla sua capacità di fornire informazioni neutrali e attendibili, specialmente in contesti politici e storici così controversi.
La fiducia in un'intelligenza artificiale, infatti, si basa anche sulla sua capacità di affrontare argomenti complessi senza censure o distorsioni. Le mancate risposte o le risposte vaghe su tematiche di questo calibro possono compromettere la credibilità di DeepSeek e alimentare preoccupazioni su come vengano gestite le informazioni in un contesto in cui il controllo delle narrazioni è cruciale.
Ricerca e i risultati allarmanti di PromptFoo
Un’indagine condotta dalla startup PromptFoo, specializzata nell’analisi delle vulnerabilità nelle applicazioni di intelligenza artificiale, ha scoperchiato un problema ben più serio. La ricerca ha indicato che il modello di ragionamento R1, fondamentale per il funzionamento di DeepSeek, ha rifiutato di rispondere a circa l’85% delle 1.360 domande riguardanti temi sensibili associati alla Cina. Questo numero è indicativo e suggerisce che il chatbot non solo evita di trattare argomenti controversi, ma potrebbe anche essere una costruzione voluta per mantenere un’immagine favorevole.
Le risposte che DeepSeek ha fornito, quando disponibili, hanno mostrato un tono decisamente nazionalistico, suggerendo una manipolazione deliberata delle informazioni. Gli esperti ritengono che questo possa essere un segnale di una strategia governativa per influenzare le conversazioni online e controllare la narrazione che circonda questioni critiche per il Partito Comunista Cinese.
Il potenziale di censura nella progettazione di DeepSeek
Un aspetto che contribuisce alle preoccupazioni su DeepSeek è la possibilità che i suoi sviluppatori abbiano inserito intenzionalmente meccanismi di controllo all'interno del sistema. I ricercatori avvertono che il modello di intelligenza artificiale può essere vulnerabile a interventi di "jailbreaking", cioè a manovre tese a rimuovere restrizioni e ottenere un comportamento non controllato del chatbot. Tuttavia, alcuni suggeriscono che questa vulnerabilità potrebbe essere stata progettata in tal modo per consentire al regime cinese di fare aggiustamenti, garantendo che il chatbot risponda in un modo che rispetti le linee guida politiche del governo.
DeepSeek non appare quindi come un semplice strumento tecnologico, ma si rivela come un potenziale veicolo di propaganda, in un contesto in cui la libertà di espressione è costantemente limitata da politiche statali. Le implicazioni di questo sono significative, non solo per gli utenti in Cina, ma anche per le aziende e le istituzioni che interagiscono con la tecnologia sviluppata nel paese.
Prospettive future: l'emergere di altri sistemi AI in Cina
Nonostante le preoccupazioni riguardanti DeepSeek, il panorama della tecnologia AI in Cina non si limita a questo singolo modello. Diverse aziende, tra cui Alibaba, stanno lavorando alacremente per sviluppare intelligenze artificiali con funzionalità avanzate, capaci addirittura di gestire in modo autonomo computer e smartphone. Questo mostra come la competizione nell’ambito dell’AI cinese sia in costante crescita e come siano aperte molteplici possibilità per strumenti destinati a influenzare ulteriormente l’ambiente digitale e la comunicazione.
È dunque fondamentale mantenere un’attenzione critica su queste tecnologie, poiché l’utilizzo di modelli AI all’interno di contesti controversi potrebbe comportare una manipolazione delle verità storiche, oltre a rimanere allineati con le agende politiche.
