GPT-4: Steve Wozniak ed Elon Musk chiedono una pausa nello sviluppo dell’IA

Il co-fondatore di Apple Steve Wozniak ha firmato una lettera aperta chiedendo una pausa nello sviluppo di IA generative come GPT-4. Il suo nome appare accanto ad altre nomi eccellenti come Elon Musk e diversi ricercatori di IA. I firmatari chiedono una migliore regolamentazione della tecnologia e una maggiore supervisione in questo settore.

“I sistemi di intelligenza artificiale con intelligenza che può competere con quella degli umani possono presentare rischi profondi per la società e l’umanità”, si legge nella lettera. I firmatari lamentano la mancanza di preparazione nello sviluppo delle diverse IA e una corsa fuori controllo per distribuire modelli sempre più potenti. Temono che i rischi siano difficili da anticipare e controllare.

“Dovremmo lasciare che le macchine inondino i nostri canali di informazione di propaganda e false verità? Dobbiamo automatizzare tutti i lavori, compresi quelli che sono gratificanti? Dobbiamo sviluppare menti non umane che potrebbero un giorno essere più numerose, più intelligenti, renderci obsoleti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civiltà? Queste decisioni non dovrebbero essere delegate a leader tecnologici non eletti.”

Mentre queste domande possono sembrare deliranti, la paura che l’IA possa deragliare e rivoltarsi contro i suoi creatori è molto reale. OpenAI ha anche testato il suo modello GPT-4 per verificare che non rischiasse di ribellarsi e diventare dannoso. Mentre i test effettuati non hanno trovato nulla di pericoloso, il modello è comunque riuscito a mentire e ad assumere un umano per risolvere i Captcha al suo posto. Il CEO di OpenAI ha detto di essere “un po’ spaventato” dalla tecnologia e da come potrebbe influenzare il mondo del lavoro, le elezioni e la diffusione della disinformazione.

“I potenti sistemi AI dovrebbero essere sviluppati solo quando saremo convinti che i loro effetti saranno positivi e che i rischi siano gestibili”, si legge nella lettera. I firmatari invitano i laboratori di IA a fare una pausa di almeno 6 mesi dei loro progetti più potenti di GPT-4. Questo momento di riflessione dovrebbe essere usato per sviluppare e implementare protocolli di sicurezza controllati e supervisionati da esperti esterni indipendenti.

I firmatari non chiedevo un arresto completo dello sviluppo dell’IA, ma piuttosto un rallentamento in una “corsa pericolosa verso modelli di scatola nera sempre più grandi e imprevedibili”, un riferimento alla recente decisione di OpenAI di non rivelare più i segreti di fabbricazione dei suoi modelli. Questa scelta preoccupa alcuni esperti, che credono che la trasparenza delle informazioni permetta ai ricercatori indipendenti di rilevare alcune falle.

La lettera è stata firmata da diversi specialisti del settore, tra cui membri del laboratorio AI di Google, il principale concorrente di OpenAI, ma anche da ricercatori e accademici. È stato pubblicato online sul sito del Future of Life Institute, un’organizzazione fondata nel 2014 interessata ai rischi esistenziali moderni (riscaldamento globale, armi nucleari e così via).