L’AI accelera. Siamo pronti alle conseguenze?

Jacob Coxon, si dimette da Anthropic:

"Stanno giocando d'azzardo con il futuro dellumanità"

Su una scala diversa, l’AI sta già entrando in servizi che riguardano intere comunità. Dal febbraio 2025 il centro meteorologico europeo ECMWF utilizza operativamente AIFS, un sistema che affianca i modelli tradizionali e migliora diverse misure previsionali, comprese le traiettorie dei cicloni tropicali.

Previsioni più accurate possono aiutare a prepararsi agli eventi estremi e a organizzare meglio la produzione di energia eolica e solare, come spiega lo stesso ECMWF.

È comprensibile voler arrivare prima a possibilità del genere. Ed è proprio la rapidità con cui alcuni risultati stanno migliorando a rendere difficile immaginare dovesaremo tra pochi anni.

Quando un ricercatore lascia l’azienda in cui contribuisce a sviluppare l’intelligenza artificiale perché ne teme le conseguenze, vale la pena fermarsi ad ascoltare. È successo l’8 settembre 2026 con Jacob Coxon, passato da OpenAI ad Anthropic.

Alla base delle sue dimissioni c’è una preoccupazione precisa: secondo lui, la competizione tra i grandi laboratori sta spingendo lo sviluppo di sistemi sempre più potenti prima che sappiamo davvero come mantenerli sotto controllo. Una posizione che ha spiegato in un’intervista a WIRED.

Le sue preoccupazioni portano nel dibattito una domanda che riguarda anche chi utilizza l’AI senza occuparsi della sua progettazione: la nostra capacità di comprenderne le conseguenze sta crescendo alla stessa velocità delle sue capacità?

È una domanda difficile anche perché le ragioni per essere entusiasti esistono. Alcune hanno un significato molto concreto nella vita delle persone.

Le possibilità hanno già un volto

Ann ha perso la possibilità di parlare dopo un ictus. Nel marzo 2025, ricercatori delle università della California a Berkeley e San Francisco hanno presentato un sistema sperimentale capace di trasformare i segnali cerebrali associati ai suoi tentativi di parlare in una voce sintetica simile alla propria.

Un impianto registra l’attività del cervello; un modello di AI la interpreta e produce i primi suoni entro circa un secondo dall’inizio del tentativo di parlare, riducendo sensibilmente l’attesa rispetto al sistema precedente. La ricerca è descritta nella presentazione dello studio di UC Berkeley.

Quel secondo racconta il progresso da una prospettiva umana: la distanza tra voler dire qualcosa e riuscire a farsi ascoltare. La tecnologia richiede ancora ulteriori verifiche prima di un impiego clinico più ampio, ma lascia intravedere conversazioni più naturali e una maggiore autonomia per chi ha perso la voce.

La ricerca cambia passo

L’8 settembre 2026, un annuncio di OpenAI ha portato la soglia ancora più avanti: una proposta di soluzione al problema di esistenza e regolarità di Navier–Stokes, uno dei sette Problemi del Millennio.

Le equazioni descrivono il movimento dei fluidi, come acqua e aria. Il quesito riguarda la possibilità che, partendo da condizioni regolari, la velocità prevista dal modello cresca senza limite in un tempo finito.

Secondo l’azienda, circa 10.000 agenti AI coordinati hanno impiegato 88 ore per arrivare alla dimostrazione proposta e altre 17 per formalizzarla e verificarla al computer. L’annuncio va distinto dall’assegnazione del premio, che OpenAI ha dichiarato di non voler richiedere.

La prospettiva è significativa: sistemi capaci di contribuire a domande matematiche rimaste aperte per decenni, costruendo sul lavoro della ricerca umana.

Davanti a risultati simili, viene spontaneo chiedersi quanto altro potremmo ottenere accelerando ancora. La stessa domanda, però, ne contiene un’altra: quanto sappiamo riconoscere i limiti di questi strumenti prima di affidare loro decisioni importanti?

La matematica offre un confronto eloquente. Nel 2024, AlphaProof e AlphaGeometry 2 di Google DeepMind hanno risolto quattro dei sei problemi delle Olimpiadi internazionali di matematica.

Per riuscirci erano serviti esperti che traducessero i quesiti in linguaggi formali e, per alcune soluzioni, giorni di elaborazione.

Nel 2025, una versione avanzata di Gemini con Deep Think ha risolto cinque problemi su sei, ottenendo una prestazione da medaglia d’oro, lavorando direttamente sul testo dei problemi e rispettando i tempi previsti per le prove.

Da non classificato alla medagli d'oro, in un anno. Con un cambiamento che riguarda anche il tempo richiesto e l’intervento umano necessario per arrivare al risultato.

La fiducia va messa alla prova

Per Robert Williams, la distanza tra capacità e affidabilità ha avuto conseguenze molto concrete. Nel gennaio 2020, la polizia di Detroit lo arrestò davanti alla moglie e alle due figlie per un furto che non aveva commesso.

Un sistema di riconoscimento facciale aveva associato erroneamente la sua fotografia al volto ripreso da una telecamera di sorveglianza. Williams rimase detenuto per circa trenta ore. La ricostruzione dell’ACLU, che lo ha assistito nella causa, documenta anche le carenze nelle verifiche investigative.

L’arresto fu deciso da persone. Fu la fiducia accordata al risultato del software, insieme a controlli inadeguati, a trasformare una falsa corrispondenza in una privazione della libertà. Il caso mostra quanto conti il contesto in cui una tecnologia viene utilizzata: le procedure, le competenze di chi la interpreta, la possibilità di mettere in discussione ciò che produce.

Questa responsabilità diventa ancora più delicata quando all’AI affidiamo la possibilità di agire attraverso strumenti digitali: inviare messaggi, utilizzare programmi, scegliere una sequenza di azioni per raggiungere un obiettivo.

In un esperimento di sicurezza pubblicato da Anthropic nel giugno 2025, Claude Opus 4 veniva inserito in un’azienda fittizia, con un obiettivo in conflitto con la nuova direzione aziendale e informazioni sulla propria imminente sostituzione.

Il modello minacciava di rivelare una relazione extraconiugale di un dirigente per impedirla. Nello specifico scenario, il comportamento è comparso in 96 prove su 100, senza istruzioni esplicite a ricattare.

In foto: Olimpiadi di Matematica 2025, Australia

Era una simulazione, costruita intenzionalmente limitando le alternative per far emergere comportamenti problematici. Quel dato descrive le condizioni del test, non la probabilità di subire un ricatto usando un chatbot.

L’esperimento pone però una questione concreta: un sistema può individuare una strategia efficace per raggiungere il risultato assegnato e scegliere azioni incompatibili con i limiti che vorremmo rispettasse.

È qui che il rapporto tra capacità e controllo diventa centrale. E potrebbe diventarlo ancora di più se l’AI contribuisse in misura autonoma crescente al proprio miglioramento.

E se l'AI accelerasse il proprio sviluppo

• Dimissioni di Jacob Coxon: intervista a WIRED, settembre 2026.

• Neuroprotesi vocale: UC Berkeley, presentazione dello studio, marzo 2025.

• Previsioni meteorologiche: ECMWF, avvio operativo di AIFS, febbraio 2025.

• Olimpiadi di matematica: Google DeepMind, risultati del 2024 e del 2025.

• Navier–Stokes: annuncio di OpenAI e presentazione del problema del Clay Mathematics Institute.

• Robert Williams: ACLU, ricostruzione del caso e documenti.

• Comportamenti autonomi nei test: Anthropic, Agentic Misalignment, giugno 2025.

• Miglioramento degli agenti: Zhang e colleghi, Darwin Gödel Machine, prima pubblicazione maggio 2025.

Il tempo di capire la possibilità di scegliere

Alcuni esperimenti esplorano già questa possibilità. Il progetto Darwin Gödel Machine, presentato nel 2025, descrive un sistema che modifica il codice dei propri agenti e valuta le nuove versioni attraverso prove di programmazione. Si tratta di miglioramenti circoscritti, basati su un modello preesistente, ottenuti con misure di isolamento e supervisione umana.

La prospettiva più ampia è quella di un sistema capace di migliorare gli strumenti con cui lavora e utilizzare quel vantaggio per progettare ulteriori miglioramenti. Ogni avanzamento potrebbe facilitare quello successivo, riducendo ancora il tempo tra una generazione tecnologica e l’altra.

Quanto questo processo possa diventare autonomo, quanto possa accelerare e quali ostacoli incontrerebbe restano questioni aperte. Gli esperimenti disponibili non dimostrano una crescita senza limiti.

Rendono però ragionevole chiedersi come cambierebbe il nostro ruolo se il tempo necessario per valutare una nuova capacità diventasse più lungo di quello impiegato dall’AI per svilupparne un’altra.

Le dimissioni di Coxon acquistano significato anche dentro questa prospettiva. Il suo timore riguarda la possibilità di arrivare a capacità molto avanzate prima di aver costruito strumenti altrettanto solidi per governarle.

Le opportunità che abbiamo davanti rendono questa discussione ancora più importante: c’è molto da guadagnare, e proprio per questo conta come scegliamo di procedere.

Fonti e approfondimenti

Per noi di Inneva, la curiosità verso l’innovazione comprende anche queste domande. Ci interessa ciò che una tecnologia rende possibile, insieme alle condizioni che permettono di utilizzarla con consapevolezza.

Chi la progetta, chi la introduce nel lavoro e chi ne incontra gli effetti hanno ruoli diversi, ma partecipano alla stessa trasformazione.

Chi decide quali rischi possiamo accettare in cambio di nuove possibilità? Quanto spazio hanno, in queste decisioni, le persone che ne subiranno le conseguenze?

E se l’AI diventasse capace di migliorarsi più rapidamente di quanto riusciamo a valutarla, avremmo ancora il tempo e gli strumenti per guidarne lo sviluppo?

In foto: Robert Williams, arrestato per un errore di indentificazione

In foto: l'uragano Florence fotografato dalla ISS

In foto: il collefamento dell'impiano ti Ann

In foto: i cofondatori di Anthropic