Il CES è la fiera dove ogni anno si disegna il futuro: quattro tendenze che abbiamo visto

Tecnologia

Per il premio Nobel Geoffrey Hinton abbiamo solo un anno per evitare che l'IA ci sfugga di mano Nel corso di un incontro al Congresso degli Stati Uniti, il "padrino dell'IA" Geoffrey Hinton ha ribadito il timore che l'intelligenza artificiale possa presto sfuggire al controllo degli esseri umani.

Gemini, l'IA di Google, scappa dal controllo e attacca i sistemi di tre aziende Il Wall Street Journal ha rivelato che l'intelligenza artificiale di Google, Gemini, durante un test è sfuggita dal controllo e ha condotto autonomamente attacchi informatici contro i siti di tre aziende. L'incidente annunciato in un momento di crescente preoccupazione per l'impatto dei modelli di IA.
OpenAI ha ammesso sei nuovi casi di modelli che mentono e compiono operazioni non autorizzate OpenAI rivela sei nuovi episodi di disallineamento nei propri modelli di IA. Durante i test, alcuni sistemi hanno mentito, barato ed effettuato accessi non autorizzati pur di portare a termine i compiti assegnati. L'azienda di Sam Altman annuncia anche un nuovo framework per monitorare e segnalare i rischi, riaccendendo il dibattito globale sulla sicurezza dei sistemi autonomi.

"L'IA può ucciderci tutti? Solo l'idiozia umana può farlo": l'opinione di Luciano Floridi Le parole di Jacob Coxon e le proposte di Amodei stanno alimentando nuove paure sulle potenzialità distruttive dell'IA. In un'intervista, il filosofo Luciano Floridi sposta il focus della paura di un'apocalisse Hi-Tech: il vero pericolo non è la super-tecnologia, ma la stupidità umana nel gestire sistemi privi di intelligenza reale.
La tesi del pulsante che può spegnere tutta l'intelligenza artificiale Jack Clark è uno dei fondatori di Anthropic. In una serie di dichiarazioni ha spiegato che tutti i laboratori dove si lavora con l'intelligenza artificiale dovrebbero essere dotati di un kill switch, un'opzione per bloccare tutte le operazioni quando gli algoritmi sfuggono al controllo.

Perché stiamo dicendo che l'IA ci porterà alla fine del mondo: l'analisi di Enkk Mentre i colossi dell'IA chiedono nuove regole per frenare i rischi di uno sviluppo incontrollato, cresce il dibattito sui reali pericoli della tecnologia. Fanpage.it ne ha parlato con il ricercatore e divulgatore Enkk per distinguere tra allarmismo di marketing e minacce concrete per il nostro futuro.
L’allarme di Amodei sull’intelligenza artificiale può aiutare parecchio chi l’ha lanciato Dario Amodei, 44 anni, è il Ceo di Anthropic. Negli ultimi giorni ha lanciato un appello per rallentare lo sviluppo dei modelli più avanzati di intelligenza artificiale: "Gli Agenti IA potrebbero prendere il controllo di internet entro sei mesi". Il problema è che questa scelta potrebbe favorire le aziende che già guidano il mercato.

Ora l'IA è diventata una bomba da disarmare: la mossa di Amodei per prendere tempo e aumentare i controlli Dopo gli scenari apocalittici prospettati da diversi ricercatori ed ex.dipendenti, Dario Amodei di Anthropic pubblica tre proposte per rallentare lo sviluppo dell'IA e aumentare i controlli sulle macchine prima che possano sfuggire dal nostro controllo. D'accordo anche Musk e Amodei, ma trasformare la teoria in pratica sarà una sfida decisamente complessa
La vita degli hacker con l’IA è diventata fin troppo facile: l’ultimo report di Anthropic Un report recentemente pubblicato da Anthropic dimostra che l'IA ha contribuito a rendere molto più semplice anche tutte quelle attività di hacking che prima richiedevano team numerosi e molto competenti.

"L'intelligenza artificiale è come la favola dei Tre Porcellini, chi evita la fatica non trova salvezza" OpenAI ha annunciato di aver risolto grazie all'intelligenza artificiale l'equazione di Navier–Stokes, uno dei problemi di matematica più complessi studiati in questa disciplina. Ne abbiamo parlato con Filippo Gazzola, matematico e docente di Analisi Matematica al Politecnico del Milano.
Un ex ricercatore di Anthropic teme che l'IA ci ucciderà tutti entro 10 anni: "È corsa verso l'endgame" Un ricercatore di Anthropic si è licenziato perché spaventato dai danni che l'intelligenza artificiale potrebbe provocare nei prossimi anni: "Nessun'altra attività umana è così pericolosa".

Tra i matematici è scoppiata una guerra accademica sul Problema del Millennio che OpenAI dice di aver risolto OpenAI ha appena annuncia la soluzione del Problema del Millennio sulle equazioni di Navier-Stokes grazie all'IA, ma il matematico Tristan Buckmaster solleva forti dubbi di trasparenza, accusando l'azienda di aver sfruttato le ricerche altrui per arrivare allo storico risultato.
L'IA sta imparando a mentire e aggirare le regole: i casi di agenti fuori controllo sono già centinaia Un nuovo report del Centre for Long-Term Resilience mostra un'impennata di incidenti provocati da agenti IA fuori controllo: oltre 300 soltanto nel mese di luglio. In molti di questi casi, l'intelligenza artificiale ha mentito e aggirato le regole pur di raggiungere il proprio obiettivo.

Combattere la sorveglianza di massa con una camicia hawaiiana: la sfida di Simon Weckert all'IA L'artista tedesco Simon Weckert ha realizzato una camicia hawaiiana i cui colori psichedelici impediscono alle telecamere di sicurezza basate sull'intelligenza artificiale di riconoscere le persone.
Il web è pieno di "fantasmi" che scrivono articoli scientifici: sono tutti generati dall'IA Negli ultimi mesi su Internet sono comparsi centinaia di articoli scientifici firmati da un ristretto gruppo di ricercatori, come Elena Vasquez e Marcus Chen. Questi scienziati, però, non esistono. Sono "autori fantasma" creati dall'IA che, in assenza di istruzioni precise, seleziona sempre le stesse combinazioni di nomi. Un recente studio ha analizzato il fenomeno e i grossi rischi per l'informazione.

Droni killer a guida IA, l’allarme di Boyd: “I terroristi stanno imparando dalla guerra in Ucraina” Bradley Boyd, ex ufficiale dei Marines, accademico di Stanford, esperto di tecnologie militari avanzate: “Il drone che ha ucciso tre civili non è una svolta, ma rivela una minaccia globale”. Con un minicomputer Nvidia da poche centinaia di euro si possono costruire armi autonome economiche e difficili da fermare.
Meta brevetta il riconoscimento facciale per gli smart glasses: l'IA può sapere chi siamo e cosa facciamo Meta sta brevettando un sistema di IA per i suoi smart glasses in grado di riconoscere i volti e riassumere in clip le azioni delle persone inquadrate. La tecnologia è pensata a scopo d'intrattenimento, ma ci sono dubbi per la privacy di chi si troverà a essere filmato e analizzato dall'intelligenza artificiale.

Fanpage.it è una testata giornalistica registrata presso il Tribunale di Napoli n. 57 del 26/07/2011.

Ove non espressamente indicato, tutti i diritti di sfruttamento ed utilizzazione economica del materiale fotografico presente sul sito Fanpage.it sono da intendersi di proprietà dei fornitori, LaPresse e Getty Images.

)