La startup dietro Claude lancia un appello inatteso sul futuro dell’intelligenza artificiale
Nel pieno della corsa globale all’intelligenza artificiale, arriva una presa di posizione che sta facendo discutere il settore tecnologico internazionale. Anthropic, società nota per il chatbot Claude e oggi considerata una delle startup AI più valutate al mondo, ha chiesto pubblicamente una pausa coordinata nello sviluppo delle tecnologie più avanzate.
Una richiesta sorprendente, soprattutto perché arriva da una delle aziende che stanno investendo maggiormente nella competizione globale sull’AI, in un contesto già segnato dalla rivalità tra Stati Uniti, Cina e grandi gruppi della Silicon Valley.
Il documento di Anthropic: “Serve più tempo per capire i rischi”
La posizione dell’azienda è contenuta in un saggio firmato da Marina Favaro, responsabile della ricerca, e Jack Clark, presidente di Anthropic. Nel documento, pubblicato giovedì sera, i due dirigenti mettono in guardia contro quella che definiscono “recursive self-improvement”, cioè la capacità dei sistemi AI di migliorare autonomamente sé stessi senza un intervento umano diretto.
Secondo gli autori, questa soglia tecnologica sarebbe ormai vicina. Una volta superata, spiegano, l’evoluzione delle capacità dei modelli potrebbe diventare talmente rapida da rendere i sistemi difficili, se non impossibili, da controllare.
“Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per avere più tempo per affrontarne le enormi implicazioni, probabilmente sarebbe positivo”, scrivono Favaro e Clark, paragonando la situazione a una moderna corsa agli armamenti.
L’AI già coinvolta nello sviluppo di nuova AI
A rafforzare le preoccupazioni dell’azienda ci sono anche alcuni dati interni. Anthropic sostiene che oggi il proprio personale produca circa otto volte più codice rispetto al periodo compreso tra il 2021 e il 2025, grazie al supporto dei sistemi AI.
Non solo: l’intelligenza artificiale starebbe già contribuendo alla pianificazione della ricerca e alla generazione di nuove idee progettuali. Un’evoluzione che, secondo i dirigenti della società, rappresenta un primo passo concreto verso sistemi capaci di “costruire sé stessi”.
Le preoccupazioni del CEO Dario Amodei
Negli ultimi mesi anche il CEO Dario Amodei aveva espresso pubblicamente forti timori sul futuro dell’AI avanzata. In una precedente dichiarazione, Amodei aveva stimato al 25% la probabilità che lo sviluppo incontrollato dell’intelligenza artificiale possa portare a conseguenze estremamente gravi.
Un’affermazione che ha inevitabilmente attirato l’attenzione del settore, considerando il ruolo centrale di Anthropic nella nuova economia tecnologica globale.
La società avrebbe inoltre deciso di non distribuire pubblicamente il proprio modello più potente, Claude Mythos, per il timore che possa essere sfruttato in attacchi informatici su larga scala o in operazioni di cybercriminalità avanzata.
Perché fermare l’AI potrebbe essere impossibile
Lo stesso documento riconosce però quanto sia difficile realizzare concretamente una pausa globale nello sviluppo dell’intelligenza artificiale.
Per funzionare, una simile iniziativa richiederebbe la collaborazione simultanea di numerosi laboratori privati, governi e aziende distribuiti in diversi Paesi, tutti disposti a fermarsi alle stesse condizioni e con sistemi di verifica reciproca credibili.
Favaro e Clark sottolineano inoltre che “i training run sono molto più facili da nascondere dei silos missilistici”, evidenziando quanto sia complicato controllare realmente lo sviluppo di modelli AI avanzati rispetto ai tradizionali programmi militari.
Il rischio di favorire i concorrenti meno prudenti
Anthropic ammette anche un altro problema strutturale: rallentare unilateralmente potrebbe rivelarsi controproducente.
Se le aziende più attente alla sicurezza decidessero di frenare mentre altri attori continuano a investire senza particolari vincoli, il risultato potrebbe essere un vantaggio competitivo per chi applica meno controlli e meno regole.
È un tema particolarmente delicato anche in Europa, dove il dibattito sull’AI Act e sulla regolamentazione dell’intelligenza artificiale continua a dividere governi, imprese e ricercatori tra esigenze di innovazione e tutela della sicurezza.
Le critiche: strategia di sicurezza o mossa competitiva?
Naturalmente non mancano le critiche. Alcuni esperti del settore accusano Anthropic di enfatizzare eccessivamente i rischi dell’AI attuale o di costruire una narrativa allarmistica utile a favorire regolamentazioni che potrebbero rallentare i concorrenti.
Il sospetto è che dietro l’appello alla prudenza possa esserci anche un tentativo di influenzare le future regole del mercato globale dell’intelligenza artificiale.
Resta però il fatto che il dibattito sul controllo dei sistemi AI sta diventando sempre più centrale, anche fuori dagli ambienti accademici e tecnologici. Tra entusiasmo per le opportunità economiche e timori legati a sicurezza, lavoro e disinformazione, il tema è ormai entrato stabilmente nel confronto politico internazionale.
Un allarme che ricorda la fantascienza
Per ora, l’idea di una “Skynet” capace di sfuggire al controllo umano appartiene ancora più al cinema che alla realtà. Tuttavia, il fatto che a evocare scenari simili siano proprio le aziende che costruiscono queste tecnologie contribuisce ad alimentare interrogativi sempre più concreti sul futuro dell’intelligenza artificiale.
E anche se una pausa globale appare oggi poco realistica, il messaggio lanciato da Anthropic conferma quanto il settore stia iniziando a confrontarsi apertamente con i possibili limiti — e i rischi — della nuova corsa all’AI.
“Internet savvy. TV fan. Infuriatingly humble analyst. Unapologetic Twitter pioneer. Freelance coffee fanatic.”