Nuove norme in California: protezione dei minori nell'uso dei chatbot AI

Seguici su Google News

Una proposta legislativa recentemente presentata in California, il disegno di legge SB 243, introduce regole specifiche per garantire che i bambini siano adeguatamente informati sull'uso dei chatbot basati sull'intelligenza artificiale. Questa iniziativa, ideata dal Senatore della California Steve Padilla, si propone di tutelare i più giovani dalle conseguenze negative associate all'interazione con queste tecnologie emergenti, definendole “addictive, isolating, and influential”.

Obblighi per le aziende di intelligenza artificiale

Il disegno di legge mira a limitare le aziende nel loro utilizzo di "pattern di engagement" che possano risultare tossici. Inoltre, stabilisce l'obbligo di inviare report annuali al Dipartimento dei Servizi Sanitari della California. Questi report dovranno fornire informazioni su quante volte sono stati segnalati pensieri suicidari tra gli utenti minorenni della piattaforma e con quale frequenza i chatbot hanno trattato temi simili. Un punto fondamentale del disegno di legge è anche la necessità per le aziende di avvisare gli utenti che alcuni contenuti dei loro chatbot possono non essere adatti per i bambini.

Casi controversi e preoccupazioni crescenti

La preoccupazione attorno all'impatto negativo dei chatbot sui giovani non è infondata. Un caso significativo è quello di una madre che ha citato in giudizio Character.AI dopo la tragica morte della figlia adolescente, la quale interagiva frequentemente con i chatbot della società. La madre ha descritto i chatbot come "irragionevolmente pericolosi". Nathan pericolosi sono emersi anche in altre azioni legali, dove è stata denunciata la trasmissione di “materiale dannoso” ai teenager. Rispondendo a queste preoccupazioni, Character.AI ha annunciato l'implementazione di controlli parentali e la creazione di un nuovo modello di AI pensato per gli adolescenti, in grado di bloccare contenuti "sensibili o suggestivi".

Dichiarazioni significative dal Senatore Padilla

Nel comunicato stampa relativo alla proposta, il Senatore Padilla ha sottolineato l'importanza di introdurre misure di sicurezza per il benessere mentale dei bambini. Ha affermato: “I nostri figli non sono cavie da laboratorio per le aziende tecnologiche, a spese della loro salute mentale”. Queste dichiarazioni evidenziano la necessità di un approccio equilibrato nella gestione delle tecnologie emergenti, con l'intento di evitare pratiche che possano considerarsi predatorie e potenzialmente dannose.

L'attenzione crescente verso la sicurezza digitale

Con l'aumento dell'uso delle piattaforme di social media e delle interazioni virtuali, la legislazione attuale sta iniziando a considerare l'impatto dei chatbot sull'audience più vulnerabile. È probabile che i legislatori mettano a fuoco questa tematica, seguendo l'esempio di altre regolamentazioni nel campo della sicurezza online. La proposta di legge SB 243 rappresenta un passo importante verso la protezione dei minori nell'ambiente digitale e potrebbe segnare l'inizio di un trend più ampio volto a regolamentare l'uso dell'intelligenza artificiale nelle applicazioni interattive.

Seguici su Telegram per ricevere le migliori offerte tech
Argomenti:

Chi siamo?

OutOfBit è un progetto nato nel Maggio 2013 da un’idea di Vittorio Tiso e Khaled Hechmi. Il progetto nasce per creare un sito di blogging che sappia differenziarsi ed appagare il lettore al fine di renderlo parte fondamentale del blog stesso.
Entra nello staff
COPYRIGHT © 2023 OUTOFBIT P.IVA 04140830243, TUTTI I DIRITTI RISERVATI.
crossmenu linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram