Un manager di OpenAI si è dimesso e ha affermato che la sicurezza dell’IA è a rischio

Uno dei principali direttori di OpenAI, responsabile dell’area “Superalignment” che controllerebbe lo sviluppo di un’intelligenza artificiale superiore in termini di sicurezza, si è rassegnato e ha lasciato messaggi preoccupanti.

Jan Leike, che ha lavorato al fianco di Ilya Sutskever, uno dei cofondatori dell’azienda e che si è dimesso la scorsa settimana, ha pubblicato un thread controverso su X (ex Twitter).

Guarda ancheOpenAI e l’intelligenza artificiale che corre al fianco dell’uomo tramite comando vocale

L’euforia per il lancio dell’imponente GPT-4o, lo strumento capace di abbinare il dialogo umano e interagire in diversi formati quasi immediatamente, fu di breve durata e l’azienda guidata da Sam Altman tornò a vivere momenti drammatici.

Leike ha scritto sul suo account ufficiale: “Mi sono iscritto perché pensavo che OpenAI sarebbe stato il posto migliore al mondo per fare questa ricerca. Tuttavia, sono stato in disaccordo con la leadership di OpenAI sulle priorità fondamentali dell’azienda per un bel po’ di tempo, fino a quando non abbiamo finalmente raggiunto un punto di rottura.”

“Credo che gran parte della nostra larghezza di banda dovrebbe essere spesa nella preparazione per le prossime generazioni di modelli, in sicurezza, monitoraggio, preparazione, protezione, robustezza antagonista, (super) allineamento, riservatezza, impatto sociale e argomenti correlati”, ha spiegato l’investigatore .

Il tedesco ha aggiunto: “Costruire macchine più intelligenti degli esseri umani è un compito intrinsecamente pericoloso” e ha fatto pressione sulla sua ex azienda: “OpenAI si assume un’enorme responsabilità a nome di tutta l’umanità”.

Prima delle affermazioni, Leike ha ringraziato il protocollo corrispondente e ha evidenziato parte del suo lavoro presso OpenAI: “È stata una corsa molto sfrenata negli ultimi tre anni. Il mio team ha lanciato il primo RLHF LLM con InstructGPT, ha pubblicato la prima supervisione LLM scalabile, ha aperto la strada all’interpretabilità automatizzata e alla generalizzazione da debole a forte. Presto verranno fuori cose più interessanti”.

Jan Leike, ex leader del team “Superalignment” di OpenAI.

La verità è che il rapporto tra il senior management, attraversato dal personale, si era già rotto dal novembre 2023, quando il consiglio di amministrazione, alla presenza dello stesso Sutskever, votò per espellere Altman dalla carica di amministratore delegato.

A quel tempo, il russo fu accusato di aver “segato il pavimento” dell’americano. Dopo il ritorno di Altman, Sutskever lasciò la sua posizione dirigenziale e si sospettava che fosse rimasto lontano dai compiti centrali.

FOTO DEL FILE: Sam Altman, CEO di OpenAI e creatore di ChatGPT, sostenuto da Microsoft, parla durante un discorso all'Università di Tel Aviv, Israele, 5 giugno 2023. REUTERS/Amir Cohen/file PhotoSam Altman, amministratore delegato di OpenAI. Credito: Amir Cohen/Reuters

Dopo il thread su X pubblicato da Leike, Altman ha ammesso le domande: “Avete ragione, abbiamo ancora molto da fare; Ci siamo impegnati a farlo. Nei prossimi giorni avrò un post più lungo”.

Tutto questo trambusto complica uno dei giganti che ha puntato gli occhi e i soldi su OpenAI: Microsoft. L’instabilità dell’azienda più avanzata al mondo in termini di intelligenza artificiale e le accuse di alcuni concorrenti per i suoi metodi preoccupano la società fondata da Bill Gates.

Un piccolo accenno alla riduzione dei filtri nella presentazione di nuovi prodotti ha raggiunto il mainstream ed è stato interpretato da Scarlett Johannson. L’attrice si è rifiutata più volte di fornire la sua voce a GPT-4o, che alla fine si è rivelata abbastanza simile, quindi ha intenzione di denunciarli.

Ma anche la stessa Microsoft è stata interpellata nei giorni scorsi per la presentazione di un nuovo strumento per alcuni utenti di Windows 11, “Recall”, che funziona tramite l’intelligenza artificiale, ha rimesso sul tavolo il dibattito sulla sicurezza informatica presentando la possibilità di acquisire screenshot sistematici.

La presentazione di Richiamo. Credito: The VergeLa presentazione di Richiamo. Credito: The Verge

Secondo il vicepresidente esecutivo e direttore del Consumer Marketing di Microsoft, Yusuf Mehdi, questa funzionalità consentirà agli utenti di accedere a elementi o azioni che hanno eseguito in precedenza e che non ricordano. Un eventuale enorme database di attività informatiche.

Il 17 maggio si è appreso che l’Unione Europea potrebbe sanzionare l’azienda fino all’1% delle sue entrate se non risponde entro il 27 maggio a una richiesta di informazioni avanzata ai sensi della legge sui servizi digitali dell’UE in relazione alla ricerca Bing dell’azienda. motore e i relativi servizi di intelligenza artificiale generativa (AI) associati.

Altri video che potrebbero interessarti

 
For Latest Updates Follow us on Google News
 

-

NEXT Da Bogotá sono arrivati ​​individui che, con l’inganno, hanno sequestrato le carte di debito dei cittadini di Bucaramanga