Il nuovo CEO ad interim di OpenAI, Emmett Shearha anche espresso preoccupazione per un potenziale scenario catastrofico in cui il intelligenza artificiale (AI) Potrebbe migliorarsi in modo incontrollabile e senza l’intervento umano, arrivando al punto di rappresentare una vera minaccia per l’esistenza dell’umanità.
Shear, che si è autoproclamato “tecno-ottimista”avverte che, sebbene il progresso tecnologico porti soprattutto benefici, la possibilità che l’IA si muova verso un miglioramento autonomo rappresenta un vantaggio pericolo intrinseco.
In effetti, sarebbe una probabilità compresa tra 5% e il cinquanta% che ciò accada, pur riconoscendo che sussistono ancora incertezze su tali stime. La minaccia citata è talmente grave da poter essere paragonata ad a “bomba che distrugge l’universo”.
Queste dichiarazioni sono state rilasciate durante un colloquio con l’investitore nel mese di giugno Logan Bartlettin cui Shear avvertiva che “questo tipo di intelligenza è qualcosa di intrinsecamente molto pericoloso”, “perché l’intelligenza è potere” ha concluso.
La preoccupazione di Shear, frutto della sua visione ottimistica del progresso tecnologico, risiede nella paura di cosa possa comportare un’intelligenza artificiale competenze superiori in tutti gli ambiti della conoscenza e della creazione.
Ha paragonato questa eventualità alla facilità di creare “bombe a fusione” enormemente distruttivo con materiali semplici e comuni. Questo scenario è aggravato dalla velocità esponenziale con cui l’intelligenza artificiale potrebbe chiudere il mercato ciclo di auto-miglioramentorendendolo di fatto impossibile da controllare.
“Quel ciclo si chiuderà sempre di più, e sempre più velocemente, fino a quando non potrà migliorarsi completamente. A quel punto, sarà molto veloce”, ha detto Shear.
Il fondatore ed ex CEO di OpenAI, Sam Altmanncondivide le stesse preoccupazioni del suo successore, avendo precedentemente messo in guardia sulla capacità dell’intelligenza artificiale di sostituire un’ampia gamma di posti di lavoro.
-Altman ha anche assicurato che gli strumenti di intelligenza artificiale potrebbero esserlo “potenzialmente terrificante”. Questi allarmi hanno contribuito alla stesura di una lettera firmata collettivamente dall’imprenditore e dagli esperti, nella quale si chiede che la prevenzione del rischio di estinzione indotto da questa tecnologia sia considerata una priorità.
“Mitigare il rischio di estinzione dell’intelligenza artificiale dovrebbe essere una priorità globale, insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”, hanno affermato.
Emmett Shear, co-fondatore della piattaforma di streaming Contrazioneè stato nominato amministratore delegato ad interim dopo il licenziamento a sorpresa di Altman, che il consiglio di amministrazione di OpenAI ha accusato di non essere stato “costantemente sincero nelle sue comunicazioni”, senza fornire ulteriori dettagli.
Shear, quando gli viene chiesto dell’implementazione delle regole per questa tecnologia emergente, ritiene che sebbene lo sia È prematuro prendere in considerazione una regolamentazione Considerata la rapida evoluzione del settore, in futuro potrebbero rendersi necessarie disposizioni normative efficaci.
Ciò avviene in un contesto in cui l’azienda continua ad essere protagonista nel dibattito globale sul futuro dell’intelligenza artificiale e delle sue applicazioni, come il modello generativo. ChatGPT e la piattaforma Dall-Eentrambi sviluppati sotto la direzione di Altman.
Anche se i dettagli esatti che hanno portato al licenziamento di Altman rimangono incerti, tutto indica una tensione tra a visione accelerazionista Altman e un consiglio di amministrazione propendono per un approccio più cauto.
Infatti, l’annuncio di Emmett Shear (co-fondatore di Twitch) come CEO ad interim di OpenAI, è arrivato accompagnato da un impegno a indagare in modo indipendente le circostanze che hanno portato al licenziamento di Altman.
Shear ha già riconosciuto la gestione del licenziamento gravemente danneggiato reputazione dell’azienda e ha anticipato cambiamenti significativi all’orizzonte.
