Benvenuti a Eye on Ai! In questa edizione ...Xai rilascia Grok 4 in mezzo a un contraccolpo su post antisemiti … Perplessità lancia il browser AI per affrontare Google, a partire da Power Users … Openai si sta preparando per lanciare il proprio browser web.
Un profondo audio che impersonava il segretario di Stato Marco Rubio ha contattato i ministri degli Esteri, un governatore degli Stati Uniti e un membro del Congresso con vocali generati dall’IA che imitava la sua voce, secondo a un alto funzionario degli Stati Uniti e un cavo del Dipartimento di Stato datato 3 luglio.
Non ci sono prove pubbliche che nessuno dei destinatari dei messaggi, secondo quanto riferito, progettato per estrarre informazioni sensibili o ottenere l’accesso all’account, sia stato ingannato dalla truffa. Ma l’incidente è l’ultimo esempio di alto profilo di come sono diventate facili e allarmanti le truffe vocali.
Con solo 15-30 secondi del discorso di qualcuno caricato su servizi come Eleven Labs, Speechify e Respeecher, ora è possibile digitare qualsiasi messaggio e farlo leggere ad alta voce nella loro voce. Tieni presente che questi sono strumenti usati perfettamente legittimamente per una serie di cose dall’accessibilità alla creazione di contenuti – ma come molte tecnologie di intelligenza artificiale, possono essere utilizzati in modo improprio dai cattivi attori.
La minaccia di DeepFakes si è intensificata
I deepfakes generati dall’IA non sono nuovi, in particolare dei leader e dei funzionari pubblici C-Suite, ma stanno diventando un problema più grande. Otto mesi fa, io riportato Che oltre la metà dei Chief Information Security Officer (CISO) ha intervistato il video e i profondi audio come una preoccupazione crescente. Quella minaccia si è solo intensificata. Un nuovo studio di Surfshark ha scoperto che nella prima metà del solo 2025, gli incidenti legati a DeepFake sono aumentati a 580-quasi quattro volte più quanto in tutto il 2024 (150 incidenti), e drammaticamente più alti rispetto ai 64 incidenti segnalati tra il 2017 e il 2023. Le perdite per la falda profonda hanno anche messo zoticket, raggiungendo $ 89 milioni, con i primi anni di $ 410 milioni di dollari tra il 2017 e il 2017. del 2025. Lo schema più comune: impersonare i dati pubblici per promuovere investimenti fraudolenti, che hanno già comportato perdite di $ 401 milioni.
“DeepFakes si è evoluto in minacce reali e attive di sicurezza informatica”, mi hanno detto via e-mail Aviad Mizrachi, CTO e co-fondatore della società di sicurezza del software Frontegg. “Stiamo già assistendo alle videochiamate generate dall’IA inducono con successo i dipendenti ad autorizzare i pagamenti multimilionari.
Parte del problema, ha aggiunto Mizrachi, è che i metodi di autenticazione tradizionali-usernames, password, codici una tantum e app di autenticatore-non sono progettati per un mondo in cui un truffatore può clonare la voce o il viso in pochi secondi. Questo perché queste truffe non implicano necessariamente l’uso in un account: fanno affidamento sul coinvolgimento di una persona reale nel consegnare le credenziali o l’autorizzazione delle azioni da sole.
“Quelle misure di sicurezza tradizionali per verificare l’identità di un individuo ovviamente non funzionano più”, ha aggiunto, aggiungendo che la maggior parte dei team di sicurezza informatica si affacciano ancora in profondità, e questo è gli aggressori di vulnerabilità che sfruttano. Una voce falsa convincente su un messaggio vocale o videochiamata può convincere qualcuno a bypassare le normali procedure o approvare un bonifico a filo, anche se tutti gli strumenti di autenticazione sono tecnicamente in atto.
Per proteggersi da quel tipo di inganno, ha affermato Mizrachi, le organizzazioni devono distribuire strumenti di sicurezza più forti che si basano su dispositivi fisici, come una chiave di sicurezza per smartphone o hardware – per dimostrare l’identità di qualcuno. Questi strumenti, noti come FIDO2 o WebAuthn Passkeys, sono molto più difficili per gli hacker falsi o phish. E oltre i controlli del dispositivo, i sistemi di verifica intelligente possono anche monitorare i segnali comportamentali, come la velocità di battitura, la posizione o le abitudini di accesso, per individuare anomalie che una voce clonata non può imitare. Quegli strati extra rendono molto più difficile per un attacco profondo.
Margaret Cunningham, direttrice della strategia di sicurezza e di intelligenza artificiale presso la società di sicurezza Darktrace, ha affermato che il tentativo di imitazione di Rubio dimostra quanto facilmente può essere utilizzata l’intelligenza artificiale per lanciare attacchi di ingegneria sociale convincenti e mirati.
“Questa minaccia non ha fallito perché era scarsamente realizzato, ha fallito perché ha perso il momento giusto della vulnerabilità umana”, ha detto. “Le persone spesso non prendono decisioni in condizioni calme e focalizzate. Rispondono durante il multitasking, sotto pressione e guidate da ciò che sembra familiare. In quei momenti, una voce di fiducia o un messaggio dall’aspetto ufficiale può facilmente aggirare la cautela.”
Deepfakes hanno influenzato le democrazie in tutto il mondo
L’intelligenza artificiale generativa ha anche drasticamente abbassato la barriera all’ingresso quando si tratta di manipolazione dei media, rendendola più veloce, più economica e più scalabile che mai. E sta influenzando le democrazie in tutto il mondo: un recente New York Times rapporto ha scoperto che DeepFakes alimentati dall’intelligenza artificiale ha trasformato le elezioni in almeno 50 paesi in tutto il mondo, usandole per sminuire o diffamare gli avversari.
“Questa è la nuova frontiera per le operazioni di influenza”, mi ha detto Leah Siskind, AI Research Fellow presso la Fondazione per la difesa delle democrazie. “Abbiamo visto altri casi di profondità di alti funzionari del governo utilizzati per accedere ai conti personali, ma sfruttare l’IA per influenzare le relazioni diplomatiche e il processo decisionale è una pericolosa escalation. Questa è una questione urgente di sicurezza nazionale con gravi ramificazioni diplomatiche.”
Per ora, Siskind raccomanda che i funzionari del governo si allontanino da piattaforme crittografate popolari come Signal, che, sebbene sicure in termini di contenuto, mancano meccanismi per la verifica dell’identità. “Data la facilità di creare Audio DeepFake e costruire account dall’aspetto realistico su qualsiasi app di messaggistica di livello consumer, i funzionari del governo senior dovrebbero attenersi a canali di comunicazione sicuri”, ha affermato.
Nota: controlla questo nuovo Fortuna video sul mio tour del laboratorio di test informatica quantistica di IBM. Mi sono divertito moltissimo al campus di Yorktown Heights di IBM (una Marvel moderna di metà del secolo progettata da Eero Saarinen, lo stesso ragazzo di St. Louis Arch e il Classic TWA Flight Center all’aeroporto JFK) a New York. Il video faceva parte della mia copertura per quest’anno Fortuna 500 numeri che includeva un articolo che ha scavato in profondità nel recente rimbalzo di IBM.
Come ho detto nel mio pezzo, “Camminare attraverso l’IBM Research Center è come entrare in due mondi contemporaneamente. Ci sono le curve di acciaio e vetro del design di Saarinen, punteggiate da enormi pareti fatte di pietre raccolte dai campi circostanti, con le sedie eamiche originali che si sono fatte in modo di Discussione. Nel mondo, che ancore l’area di collaborazione e il laboratorio di lavoro, dove si svuota con il ronzio costante del suo sistema di raffreddamento. “
Con ciò, ecco il resto delle notizie dell’IA.
Sharon Goldman
[email protected]
@sharongoldman
AI nelle notizie
Xai rilascia Grok 4 in mezzo a un contraccolpo su posti antisemiti. Xai di Elon Musk ha lanciato Grok 4, pochi mesi dopo la sua precedente versione, mettendo in evidenza il rapido ritmo dello sviluppo dell’IA. Presentato durante un live streaming a tarda notte, Musk ha affermato che il nuovo Chatbot ha superato la maggior parte degli studenti laureati in tutte le discipline e ora supporta interazioni vocali migliorate. Xai ha anche propagandato i risultati di riferimento che mostrano i rivali di Grok 4 come Openai. Mentre Musk ha ammesso che il bot a volte manca di buon senso e non ha ancora fatto scoperte scientifiche, ha aggiunto: “È solo una questione di tempo”. La versione di Grok 4 arriva appena un giorno dopo che Xai ha affrontato un contraccolpo per i contenuti antisemiti generati dal chatbot su X. La società ha rimosso i posti offensivi e ha detto che da allora ha preso provvedimenti per bloccare il discorso dell’odio prima che le risposte di Grok vengano pubblicate sulla piattaforma.
La perplessità lancia il browser AI per affrontare Google, avviando con i suoi utenti di potenza. La perplessità sta intensificando la sua sfida a Google con il lancio di Cometail suo primo browser Web basato sull’intelligenza artificiale. Disponibile inizialmente a $ 200/mese di abbonati MAX e una lista d’attesa limitata, la Cometa integra la firma della firma della perplessità AI Front and Center del motore di ricerca, offrendo risposte riassunte anziché risultati di ricerca tradizionali. Il browser debutta anche cometa Assistente, un agente AI in-browser in grado di sintetizzare le e-mail ed eventi di calendario, gestire le schede e interagire con le pagine Web in tempo reale. Il CEO Aravind Srinivas ha incorniciato la cometa come più di un semplice browser: è un trampolino di lancio per quello che chiama un “sistema operativo di intelligenza artificiale” progettato per incorporare profondamente la perplessità nei flussi di lavoro quotidiani degli utenti. La mossa mette perplessità in una concorrenza più diretta con gli esperimenti di ricerca AI di Chrome e Google, mentre la startup scommette sul suo browser diventando il nuovo gateway per come le persone trovano e interagiscono con le informazioni online.
Secondo quanto riferito, Openai si sta preparando per lanciare il proprio browser web. Secondo ReutersOpeni si unisce anche alle guerre del browser mentre si muove per competere più direttamente con Google e ora perplessità. Citando tre fonti che hanno familiarità con i piani, il rapporto afferma che il browser potrebbe debuttare nelle prossime settimane ed è progettato per mantenere alcune interazioni degli utenti all’interno di un’interfaccia in stile CHATGPT, piuttosto che indirizzare gli utenti a siti Web esterni. La mossa darebbe inoltre l’accesso a Openi al tipo di dati utente che hanno a lungo alimentato il dominio di Google nella ricerca.
Fortuna che abbiamo
Gli sforzi di intelligenza artificiale di Apple “hanno colpito mezzanotte” e l’unico modo in cui può smettere di andare indietro è l’acquisizione della perplessità, afferma l’analista Dan Ives “Di Marco Quiroz-Guitierrez.”
Sostituiresti il tuo CEO con un avatar AI? —La Alexandra Sternlicht
Perché il CIO della Coca-Cola dà la priorità ai progetti pilota di AI di grande impatto —La John Kell
Amazon’s Tariff, con il primo giorno più strano di Amate, con ricerca di AI, più strana, più strana di sempre —L Jason Del Rey
Hai un calendario
13-19 luglio: Conferenza internazionale SU Machine Learning (ICML), Vancouver
22-23 luglio: Fortune Brainstorm Ai Singapore. Fare domanda per partecipare Qui.
26-28 luglio: Mondo Artificiale Intelligenza Conferenza (WAIC), Shanghai.
8-10 settembre: Fortune Brainstorming Tech, Park City, Utah. Fare domanda per partecipare Qui.
6-10 ottobre: Mondo AI Settimana, Amsterdam
2-7 dicembre: Neurips, San Diego
8-9 dicembre: Brainstorming di fortuna AI San Francisco. Fare domanda per partecipare Qui.
Occhio sui numeri di AI
80%
Questo è quanto software aziendale sarà alimentato dall’IA che comprende più del semplice testo, inclusi immagini, video, audio e altri dati – nel 2030, secondo un nuovo rapporto di Gartner. Questo è un grande salto da meno del 10% oggi.
Questo spostamento, noto come “AI multimodale”, potrebbe cambiare il modo in cui le aziende operano in settori come l’assistenza sanitaria, la finanza e la produzione. Ad esempio, potrebbe aiutare il software a prendere decisioni più intelligenti analizzando un mix di informazioni (come le immagini mediche E Note del paziente) o addirittura adottare misure proattive, come contrassegnare frodi o ottimizzare le catene di approvvigionamento, senza input umani.
Gli analisti di Gartner affermano che le aziende che costruiscono software dovranno iniziare a investire ora in queste nuove tecnologie AI per rimanere competitivi e fornire valore reale ai propri clienti.
