Lunedì, durante la Worldwide Developers Conference, Apple ha svelato per la prima volta la sua visione di potenziare la sua gamma di prodotti con l’intelligenza artificiale. La caratteristica chiave, che si applicherà praticamente all’intera gamma di prodotti, è il L’intelligenza di Appleun insieme di funzionalità basate sull’intelligenza artificiale che promettono di fornire servizi di intelligenza artificiale personalizzati mantenendo al sicuro i dati sensibili.
Rappresenta il più grande balzo in avanti di Apple nell’utilizzare i nostri dati privati per aiutare l’intelligenza artificiale a svolgere compiti per noi. Per dimostrare di poterlo fare senza sacrificare la privacy, l’azienda afferma di aver creato un nuovo modo di gestire i dati sensibili nel cloud.
Apple afferma che il suo sistema incentrato sulla privacy tenterà innanzitutto di eseguire attività di intelligenza artificiale localmente sul dispositivo stesso. Se i dati vengono scambiati con servizi cloud, verranno crittografati e successivamente cancellati. L’azienda sostiene inoltre che il processo, che chiama Cloud computing privato (cloud computing privato), sarà soggetto a verifica da parte di ricercatori di sicurezza indipendenti.
La proposta suppone un contrasto implicito con aziende come Alphabet, Amazon o Meta, che raccolgono e archiviano enormi quantità di dati personali. Apple afferma che tutti i dati personali trasmessi al cloud verranno utilizzati esclusivamente per il compito di intelligenza artificiale in questione e non saranno conservati o accessibili all’azienda, incluso per il debug o il controllo di qualità, una volta completata l’applicazione del modello.
In poche parole, Apple sta dicendo che le persone possono fidarsi di lui per analizzare dati incredibilmente sensibili (foto, messaggi ed e-mail che contengono dettagli intimi della nostra vita) e per offrire servizi automatizzati in base a ciò che trova lì. senza effettivamente archiviare i dati online o renderli vulnerabili.
Ha mostrato alcuni esempi di come funzionerà nelle prossime versioni di iOS. Ad esempio, invece di cercare tra i tuoi messaggi il podcast che ti ha inviato un amico, potresti chiedere a Siri di trovarlo e riprodurlo per te. Craig Federighi, vicepresidente senior dell’ingegneria presso Software di Apple, ha spiegato un’altra situazione: ricevi un’e-mail che ritarda una riunione di lavoro, ma tua figlia quella sera si esibirà in uno spettacolo teatrale. Ora il tuo telefono può trovare il PDF con le informazioni sulle prestazioni, prevedere il traffico locale e dirti se arriverà in tempo. Queste funzionalità si estenderanno oltre le app create da Apple, consentendo agli sviluppatori di sfruttare anche l’intelligenza artificiale di Apple.
Dal momento che l’azienda ottiene maggiori benefici da hardware e servizi pubblicitari, ha meno incentivi rispetto ad altri a raccogliere dati personali online, il che le consente di posizionare l’iPhone come il dispositivo più privato. Comunque, Apple si è già trovata nel mirino dei difensori della privacy. Le falle di sicurezza hanno portato alla fuga di foto esplicite da iCloud nel 2014. Nel 2019, gli appaltatori sono stati sorpresi ad ascoltare registrazioni intime di Siri per il controllo di qualità. Sono in corso controversie su come Apple gestisce le richieste di dati da parte delle forze dell’ordine.
La prima linea di difesa contro le violazioni della privacy, secondo Apple, è evitare il cloud computing per le attività di intelligenza artificiale quando possibile. “La pietra angolare del sistema di intelligenza personale è l’elaborazione sul dispositivo”, afferma Federighi, il che significa che molti dei modelli di intelligenza artificiale funzioneranno su iPhone e Mac anziché nel cloud. “È a conoscenza dei tuoi dati personali senza raccogliere i tuoi dati personali.”
Ciò presenta alcuni ostacoli tecnici. Due anni dopo boom Con l’intelligenza artificiale, effettuare richieste ai modelli anche per compiti semplici richiede ancora enormi quantità di potenza di calcolo. Raggiungere questo obiettivo con i chip utilizzati nei telefoni e nei laptop è difficile, motivo per cui solo il più piccolo dei modelli di intelligenza artificiale di Google può funzionare sui telefoni dell’azienda e tutto il resto viene eseguito tramite il cloud. Apple afferma che la sua capacità di gestire i calcoli dell’intelligenza artificiale sul dispositivo deriva da anni di ricerca nella progettazione dei chip, che hanno portato alla creazione di… Chip M1 che ha iniziato a essere distribuito nel 2020.
Tuttavia, Nemmeno i chip più avanzati di Apple possono gestire l’intero spettro di compiti che l’azienda promette di svolgere con l’intelligenza artificiale.. Se chiedi a Siri di fare qualcosa di complicato, potrebbe dover passare quella richiesta, insieme ai tuoi dati, a modelli disponibili solo sui server Apple. Questo passaggio, dicono gli esperti di sicurezza, introduce un gran numero di vulnerabilità che può esporre le tue informazioni a cattivi attori esterni, o almeno alla stessa Apple.
“Avverto sempre le persone che non appena i dati lasciano il dispositivo, diventano molto più vulnerabili”, ha affermato Albert Fox Cahn, direttore esecutivo del Surveillance Technology Oversight Project e professore residente presso l’Institute of Information Law della New York University School di diritto (Stati Uniti).
Apple afferma di aver mitigato questo rischio con il suo nuovo sistema Private Cloud Compute. “Per la prima volta nella storia, Private Cloud Compute estende la sicurezza e la privacy leader del settore dei dispositivi Apple al cloud”, scrivono gli esperti di sicurezza Apple nel loro annuncio, affermando che i dati personali “non sono accessibili a nessuno se non all’utente, nemmeno Apple.” Come funziona?
Apple ha storicamente incoraggiato le persone a optare per la crittografia end-to-end (lo stesso tipo di tecnologia utilizzata nelle app di messaggistica come Signal) per proteggere i dati sensibili di iCloud. Ma questo non funziona con l’intelligenza artificiale. A differenza delle app di messaggistica, in cui un’azienda come WhatsApp non ha bisogno di vedere il contenuto dei tuoi messaggi per inviarli ai tuoi amici, I modelli di intelligenza artificiale di Apple necessitano di un accesso non crittografato ai dati sottostanti per generare risposte. È qui che entra in gioco il processo di privacy di Apple. Innanzitutto, Apple afferma che i dati verranno utilizzati solo per l’attività da svolgere. Al secondo posto, Questo processo sarà verificato da ricercatori indipendenti.
Inutile dire che l’architettura di questo sistema è complicata, ma puoi immaginarla così un protocollo di crittografia. Se il tuo telefono determina che ha bisogno dell’aiuto di un modello AI più grande, impacchetterà una richiesta contenente il prompt che sta utilizzando e il modello specifico, quindi bloccherà tale richiesta. Solo il modello AI specifico utilizzato avrà la chiave appropriata.
Alla domanda di Revisione della tecnologia del MIT Di Indica se gli utenti verranno avvisati quando una particolare richiesta viene inviata a modelli di intelligenza artificiale basati su cloud invece di essere gestita sul dispositivoun portavoce di Apple ha detto che ci sarà trasparenza per gli utenti, ma non sono disponibili ulteriori dettagli.
Dawn Song, co-direttrice del Center for Responsible Decentralized Intelligence dell’Università della California a Berkeley (USA) ed esperta di informatica privata, afferma che le notizie di Apple sono incoraggianti. “L’elenco degli obiettivi annunciati è ben ponderato”, afferma. “Naturalmente, ci saranno alcune sfide nel raggiungere questi obiettivi.”
Cahn afferma che, a giudicare da ciò che Apple ha rivelato finora, il sistema sembra molto più protettivo della privacy rispetto ad altri prodotti di intelligenza artificiale attualmente esistenti. Detto questo, il ritornello comune nel loro spazio è “Fidati ma verifica”. In altre parole, Non sapremo quanto questi sistemi manterranno sicuri i nostri dati finché ricercatori indipendenti non potranno verificare le loro affermazioni.come Apple promette che farà, e l’azienda risponde ai suoi risultati.
“L’apertura alla revisione indipendente da parte dei ricercatori è un grande passo”, afferma. “Ma questo non determina come risponderai quando i ricercatori ti diranno cose che non vuoi sentire.” Apple non ha risposto alle domande di Revisione della tecnologia del MIT su come l’azienda valuterà i commenti dei ricercatori.
Il patto tra privacy e AI
Apple non è l’unica azienda a scommettere su questo molti di noi concederanno ai modelli di intelligenza artificiale un accesso quasi illimitato ai nostri dati privati se ciò significa che possono automatizzare compiti noiosi. Sam Altman di OpenAI ha descritto lo strumento AI dei suoi sogni Revisione della tecnologia del MIT come qualcuno “che sa tutto della mia vita, ogni email, ogni conversazione che abbia mai avuto”. Alla conferenza degli sviluppatori di maggio, Google ha annunciato Project Astra, un ambizioso progetto per costruire un “agente AI universale utile nella vita di tutti i giorni”.
È una scommessa che costringerà molti di noi a considerare per la prima volta quale ruolo, se presente, vogliamo che i modelli di intelligenza artificiale svolgano nel modo in cui interagiamo con i nostri dati e dispositivi. Quando ChatGPT è apparso per la prima volta sulla scena, non era una domanda che dovevamo porci. Era semplicemente un generatore di testo che poteva scriverci un biglietto d’auguri o una poesia, e le domande che sollevava – come da dove provenissero i dati di addestramento o quali pregiudizi perpetuasse – non sembravano poi così personali.
Ora, meno di due anni dopoBig Tech sta scommettendo miliardi di dollari sul fatto che ci fidiamo abbastanza della sicurezza di questi sistemi da consegnare le nostre informazioni private.. Non è ancora chiaro se ne sappiamo abbastanza per prendere tale decisione, o fino a che punto possiamo astenerci anche se lo vogliamo. “Sono preoccupato che questa corsa agli armamenti legati all’intelligenza artificiale metterà sempre più i nostri dati nelle mani di altri”, afferma Cahn.
Apple lancerà presto le versioni beta delle sue funzionalità Apple Intelligence, a partire da questo autunno con l’iPhone 15 e il nuovo macOS Sequoia, che può essere eseguito su Mac e iPad con chip M1 o più recenti. Tim Cook, CEO di Apple, afferma: “Crediamo che l’intelligenza di Apple sarà indispensabile”.
