Elon Musk di Tesla ha chiesto durante il mese di Marzo, insieme ad un gruppo di esperti di IA e dirigenti del settore, una pausa di sei mesi nello sviluppo di sistemi più potenti dell’appena lanciato GPT-4 di OpenAI, in una lettera aperta che cita potenziali rischi per la società.
Ad inizio mese, OpenAI, ha presentato il quarto ciclo del suo programma di intelligenza artificiale GPT, che è piaciuto molto agli utenti. Con GPT-4, gli utenti potevano fare conversazioni molto simili a quelle umane, componendo canzoni e facendo riassunti di lunghi documenti.
Future of Life Institute ha pubblicato una lettera, nella quale si può leggere:
I potenti sistemi di IA dovrebbero essere sviluppati solo quando siamo sicuri che i loro effetti saranno positivi e i loro rischi gestibili.
Secondo il registro della trasparenza dell’Unione Europea, OpenAI è finanziata principalmente dalla Musk Foundation, dal gruppo londinese Founders Pledge e dalla Silicon Valley Community Foundation.
Musk, all’inizio del mese, pubblica un post nel quale si dichiara stressato a causa dell’IA. Egli è uno dei co-fondatori dell’azienda leader del settore OpenAI e la sua casa automobilistica Tesla (TSLA.O) utilizza l’IA per il sistema di pilota automatico. Musk, che ha espresso frustrazione per le critiche dei regolatori agli sforzi di regolamentare il sistema di pilota automatico, ha chiesto un’autorità di regolamentazione per garantire che lo sviluppo dell’IA serva l’interesse pubblico.
James Grimmelmann, professore di diritto digitale e dell’informazione alla Cornell University, ha dichiarato:
È ipocrita che Elon Musk firmi, visto quanto duramente Tesla ha combattuto contro la responsabilità per l’IA difettosa delle sue auto a guida autonoma. Una pausa è una buona idea, ma la lettera è vaga e non prende sul serio i problemi normativi.
Lo scorso mese l’azienda del miliardario ha richiamato più di 300.000 veicoli statunitensi per aggiornare il software. Questo dopo che le autorità di regolamentazione americane hanno reso noto che il sistema di assistenza alla guida potrebbe causare incidenti. Inoltre sono stati riscontrate altre vulnerabilità, per quanto riguarda i sistemi di Tesla, durante il Pwn2Own 2023 (competizione tra hacker che ha lo scopo di riuscire a trovare delle falle in specifici software).
La lettera inviata da Elon Musk di Tesla insieme ai co-firmatari
OpenAI non ha dato risposta immediatamente a una richiesta di commento sulla lettera aperta, che esorta a sospendere lo sviluppo di IA avanzate fino a quando non saranno sviluppati protocolli di sicurezza riportati da esperti indipendenti e esorta gli sviluppatori a lavorare con i responsabili politici sulla governance.
Nella lettera si dichiara:
Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? Dovremmo sviluppare menti non umane che potrebbero alla fine superarci di numero, essere più intelligenti, obsolete e sostituirci?
Inoltre viene puntualizzato che tali decisioni non dovrebbero essere delegate a leader tecnologici non eletti.
Più di 1.000 persone hanno firmato la lettera, tra cui Elon Musk, ceo di Tesla. Altman, amministratore delegato di OpenAI, non era tra i firmatari della lettera; si astengono insieme a lui, i CEO di Alphabet e Microsoft. Tra i firmatari sono presenti: l’amministratore delegato di Stability AI, i ricercatori di DeepMind e i pesi massimi dell’IA Yoshua Bengio, definito uno dei “padrini dell’IA“, e Stuart Russell, un pilastro della ricerca in questo campo.
I timori arrivano mentre ChatGPT attira l’attenzione dei legislatori statunitensi con domande sul suo impatto sulla sicurezza nazionale e sull’istruzione. Lunedì la polizia dell’Europol ha messo in allerta sull’uso potenzialmente improprio del sistema nei tentativi di criminalità informatica.
Corsa alla migliore IA
Gary Marcus, professore della New York University che ha firmato la lettera, ha dichiarato:
La lettera non è perfetta, ma lo spirito è giusto: dobbiamo rallentare fino a quando non avremo compreso meglio le ramificazioni.I grandi operatori stanno diventando sempre più riservati su ciò che stanno facendo, il che rende difficile per la società difendersi da qualsiasi danno possa materializzarsi.
ChatGPT di OpenAI, dal suo rilascio, ha spinto i rivali a velocizzare lo sviluppo di modelli linguistici simili al suo e le aziende, tra cui Alphabet Inc, stanno correndo per arricchire i loro prodotti con l’IA. Gli investitori, diffidenti nell’affidarsi a un’unica azienda, stanno abbracciando i concorrenti di OpenAI. Microsoft ha rifiutato di commentare la lettera e Alphabet non ha risposto alle chiamate e alle e-mail per un commento.
Suresh Venkatasubramanian, insegnante alla Brown University ed ex assistente del direttore dell’Ufficio della politica scientifica e tecnologica della Casa Bianca ha dichiarato:
Gran parte del potere di sviluppare questi sistemi è stato costantemente nelle mani di poche aziende che hanno le risorse per farlo. Questi modelli sono così, difficili da costruire e da democratizzare.
Per ulteriori aggiornamenti riguardo all’argomento, vi consigliamo di continuare a seguire i nostri articoli. Inoltre se non volete perdervi nulla, seguite la pagina ufficiale di OpenAI e i profili social del ceo di Tesla Elon Musk.
