Un’organizzazione no-profit composta da tre persone che ha lavorato alla legge sulla sicurezza dell’intelligenza artificiale della California sta accusando pubblicamente OpenAI di tattiche intimidatorie

Il thread di Calvin ha rapidamente attirato l’attenzione diffusa, anche all’interno della stessa OpenAI. Joshua Achiam, capo dell’allineamento della missione dell’azienda, ha pesato su X con il suo thread, scritto a titolo personale, iniziando dicendo: “Con quello che forse è un rischio per tutta la mia carriera, dirò: questo non mi sembra eccezionale”.

Alla conversazione si sono uniti anche ex dipendenti di OpenAI e importanti ricercatori sulla sicurezza dell’intelligenza artificiale, molti dei quali hanno espresso preoccupazione per le presunte tattiche dell’azienda. Helen Toner, l’ex membro del consiglio di OpenAI che si è dimesso dopo a tentativo fallito di estromettere nel 2023 L’amministratore delegato Sam Altman, ha scritto che alcune cose che fa l’azienda sono fantastiche, ma “le tattiche di disonestà e intimidazione nel loro lavoro politico in realtà non lo sono”.

E almeno un altro fondatore di un’organizzazione no-profit ha dato il suo contributo: Tyler Johnston, fondatore del gruppo di controllo dell’intelligenza artificiale Midas Project, ha risposto al thread di Calvin con il suodicendo: “(I) hanno bussato alla mia porta in Oklahoma con una richiesta per ogni testo/e-mail/documento che, nel ‘senso più ampio consentito’, si riferisce alla governance e agli investitori di OpenAI.” Come nel caso di Calvin, ha aggiunto, ha ricevuto il mandato di comparizione personale, ed è stato notificato anche il Progetto Midas.

“Se mi avessero semplicemente chiesto se fossi stato finanziato da Musk, sarei stato felice di dare loro un semplice ‘uomo che desidero’ e chiudere qui”, ha scritto. “Invece, hanno chiesto quello che era, in pratica, un elenco di tutti i giornalisti, uffici del Congresso, organizzazioni partner, ex dipendenti e membri del pubblico con cui avevamo parlato della loro ristrutturazione.”

OpenAI riferito Fortuna ad a post del direttore strategico Jason Kwon venerdì in cui Kwon ha affermato che la decisione di Encode di sostenere Musk nella causa e il finanziamento non “completamente divulgato” dell’organizzazione “solleva domande legittime su ciò che sta accadendo”.

“Volevamo sapere, e siamo ancora curiosi di sapere, se Encode sta lavorando in collaborazione con terze parti che hanno un interesse commerciale competitivo contrario a OpenAI”, ha scritto Kwon, sottolineando che le citazioni in giudizio sono un metodo standard per raccogliere informazioni in qualsiasi controversia. “La narrazione dichiarata fa sembrare qualcosa che non lo era.” Kwon ha incluso un estratto del mandato di comparizione che, a suo dire, mostrava tutte le richieste di documenti avanzate da OpenAI.

Come riportato dal Standard di San Francisco a settembre, Calvin ha ricevuto un mandato di comparizione da OpenAI in agosto, consegnato dal vice dello sceriffo mentre lui e sua moglie erano seduti a cena. È stata servita anche Encode, l’organizzazione per cui lavora. L’articolo riportava che OpenAI sembrava preoccupata per il fatto che alcuni dei suoi critici più accesi fossero finanziati da Elon Musk e altri concorrenti miliardari, e prendesse di mira quei gruppi no-profit nonostante offrissero poche prove a sostegno di tale affermazione.

Calvin ha scritto venerdì che Encode, che ha sottolineato non è finanziato da Musk, ha criticato la ristrutturazione di OpenAI e ha lavorato sui regolamenti sull’intelligenza artificiale, incluso SB 53. Nel mandato di comparizione, OpenAI ha chiesto tutte le comunicazioni private di Calvin su SB 53.

“Credo che OpenAI abbia utilizzato il pretesto della causa contro Elon Musk per intimidire i critici e far intendere che Elon è dietro a tutti loro”, ha detto, riferendosi alla battaglia legale in corso tra OpenAI e Musk sulla missione e sulla governance originali dell’azienda senza scopo di lucro. Encode aveva depositato una memoria amicus nel caso sostenendo alcune delle argomentazioni di Musk.

In una conversazione con Fortuna, Calvin ha sottolineato che ciò che non è stato sufficientemente trattato è quanto fossero inappropriate le azioni di OpenAI in relazione all’SB 53, che era firmato in legge dal governatore Gavin Newsom alla fine di settembre. La legge impone ad alcuni sviluppatori di modelli di IA “di frontiera” di pubblicare un quadro di IA di frontiera pubblica e un rapporto sulla trasparenza quando implementano o modificano sostanzialmente un modello, segnalano allo Stato incidenti critici per la sicurezza e condividono valutazioni dei rischi catastrofici sotto la supervisione dello Stato.

Calvin sostiene che OpenAI ha cercato di indebolire tali requisiti. Nell’a lettera al governatore Newsom ufficio mentre il disegno di legge era ancora in fase di negoziazione, il che era condiviso su X All’inizio di settembre da un ex ricercatore di politiche sull’intelligenza artificiale, la società ha esortato la California a considerare le aziende conformi alle norme statali se avevano già firmato un accordo sulla sicurezza con un’agenzia federale statunitense o aderito a quadri internazionali come il Codice di condotta sull’intelligenza artificiale dell’UE. Calvin sostiene che una tale disposizione avrebbe potuto restringere significativamente la portata della legge, esonerando potenzialmente OpenAI e altri importanti sviluppatori di intelligenza artificiale dai principali requisiti di sicurezza e trasparenza.

“Non volevo entrare troppo nei dettagli mentre i negoziati sull’SB 53 erano ancora in corso e stavamo cercando di portarlo a termine”, ha detto. “Non volevo che diventasse una storia sulla lotta tra Encode e OpenAI, piuttosto che sui meriti del disegno di legge, che ritengo siano davvero importanti. Quindi ho voluto aspettare fino alla firma del disegno di legge.”

Ha aggiunto che un altro motivo per cui ha deciso di parlare adesso è stato recente LinkedIn post di Chris Lehane, responsabile degli affari globali di OpenAI, che descrive l’azienda come se avesse “lavorato per migliorare” SB 53, una caratterizzazione che secondo Calvin si sentiva profondamente in contrasto con la sua esperienza negli ultimi mesi.

Encode è stata fondata da Sneha Revanur, che ha lanciato l’organizzazione nel 2020 quando aveva 15 anni. “Non è ancora un’impiegata a tempo pieno perché è ancora al college”, ha detto Sunny Gandhi, vicepresidente degli affari politici di Encode. “È terrificante avere una società da mezzo trilione di dollari che ti dà la caccia”, ha detto Gandhi.

Encode ha risposto formalmente alla citazione di OpenAI, ha detto Calvin, affermando che non consegnerà alcun documento perché l’organizzazione non è finanziata da Elon Musk. “Da allora non hanno più detto nulla”, ha aggiunto.

Scrivendo su X, Achiam di OpenAI pubblicamente ha esortato la sua compagnia impegnarsi in modo più costruttivo con i suoi critici. “Elon è certamente intenzionato a prenderci, e l’uomo ha una vasta portata”, ha scritto. “Ma c’è così tanto di pubblico su cui possiamo combatterlo. E per qualcosa come SB 53, ci sono così tanti modi per impegnarsi in modo produttivo.” Ha aggiunto: “Non possiamo fare cose che ci rendano una potenza spaventosa invece che virtuosa. Abbiamo un dovere e una missione verso tutta l’umanità, e il livello per perseguire tale dovere è notevolmente alto”.

Calvin ha descritto l’episodio come “il periodo più stressante della mia vita professionale”. Ha aggiunto che utilizza e trae valore dai prodotti OpenAI e che l’azienda conduce e pubblica ricerche sulla sicurezza dell’intelligenza artificiale che sono “degne di sinceri elogi”. Molti dipendenti di OpenAI, ha detto, tengono molto al fatto che OpenAI sia una forza positiva nel mondo.

“Voglio vedere quel lato dell’OAI, ma invece li vedo cercare di intimidire i critici riducendoli al silenzio”, ha scritto. “Qualcuno crede che queste azioni siano coerenti con la missione no-profit di OpenAI per garantire che l’AGI porti benefici all’umanità?”