Gli esperti continuano a lavorare per evitare il peggio. OpenAi formerà un team di esperti che dovrà fare in modo che l’IA non inneschi una guerra nucleare. Ecco le dichiarazioni della società e le motivazioni.
Indice dei contenuti
OpenAi, l’IA potrebbe anche causare una guerra nucleare: arriva il team per evitarlo
Tra dubbi e perplessità l’intelligenza artificiale continua a evolversi sempre di più, e ormai è al centro dell’attenzione pubblica da diversi mesi. Aiuterà i lavoratori o sarà causa di licenziamenti? Sarà in grado di migliorare il mondo o sarà un ennesimo fattore negativo?
Se lo chiedono tutti, compresa OpenAi, nota società che ha sviluppato anche ChatGPT e che ora vuole intervenire nell’immediato per evitare che l’intelligenza artificiale diventi un pericolo. Data la costante e veloce crescita dell’IA, tra non molto tempo potrebbe essere in grado d’innescare una guerra nucleare.
E così OpenAI ha deciso di fondare un team con il preciso scopo di prevenire questo futuro distopico. La squadra sarà capitanata da Aleksander Madry e prenderà il nome di Preparedness. Ecco il testo del post pubblicato nel blog:
“Crediamo che i prossimi modelli di intelligenza artificiale, che supereranno le capacità attualmente presenti nei modelli esistenti più avanzati, abbiano il potenziale per apportare benefici a tutta l’umanità. Ma comportano anche rischi sempre più gravi.”
Il gruppo sarà poi anche responsabile delle politiche di sviluppo, e “descriverà in dettaglio il nostro approccio allo sviluppo di rigorose valutazioni e monitoraggio delle capacità dei modelli, creando una gamma di azioni di sicurezza e stabilendo una struttura di governance per la responsabilità e la supervisione di tale processo di sviluppo”, si legge nella nota.
OpenAi indaga i rischi dell’IA
Il team Preparedness avrà dunque il compito di monitorare, valutare e prevedere rischi catastrofici derivanti dall’intelligenza artificiale. Sembra strano che una società che propone prodotti che si basano sull’IA poi la tema così tanto.
Invece Sam Altman, AD di OpenAI, non ha mai nascosto il suo timore asserendo addirittura che l’intelligenza artificiale possa “portare all’estinzione umana”. Non sorprende dunque che sia proprio la società creatrice di ChatGPT a proporre questo team.
Quello che si teme è che l’evoluzione dell’IA prosegua al punto da diventare quasi incontrollabile, e come riferisce la stessa OpenAi, tenga sotto scacco il mondo con “minacce chimiche, biologiche, radiologiche e nucleari”. A queste si deve poi aggiungere che potrebbe generare codice malevolo sfruttando gli utenti.
L’importanza della prevenzione
Non siamo all’interno di un film, eppure lo scenario che propone OpenAI sembra somigliarci molto. C’è veramente il rischio che l’intelligenza artificiale arrivi a minacciare l’umanità? Secondo gli esperti, e a giudicare dalla velocità di evoluzione, probabilmente sì.
A questo punto appare chiaro che la fondazione di un team sia una cosa più che sensata, anzi, doverosa. Sam Altman già lo scorso maggio richiedeva una maggior regolamentazione del settore, proprio per evitare che l’intelligenza artificiale possa diventare un rischio. OpenAI ha dato il via, ora staremo a vedere se le altre società si accoderanno.
L’IA può essere una risorsa incredibile per l’umanità, ma nelle mani sbagliate potrebbe trasformarsi in uno strumento pericolosissimo. Per questo è importante prevenirne un uso scorretto e continuare a monitorare la sua crescita costante.
Leggi anche: Meta accusata da 33 Stati: avrebbe sviluppato dipendenze sui giovani
