Bilal Chughtai, ex ricercatore del team di sicurezza AGI di Google DeepMind, avverte che lo sviluppo dell’intelligenza artificiale sta avanzando più rapidamente della ricerca sulla sicurezza. Il caso riapre il dibattito su superintelligenza, allineamento e controllo dei sistemi AI.
La corsa verso sistemi di intelligenza artificiale sempre più potenti continua ad alimentare il dibattito sulla sicurezza. Bilal Chughtai, ex ricercatore del team dedicato alla sicurezza dell'AGI di Google DeepMind, ha lasciato l'azienda e ha pubblicamente espresso forti preoccupazioni sulla velocità con cui stanno aumentando le capacità dei modelli AI.
Secondo Chughtai, il problema principale non riguarda soltanto ciò che i sistemi di intelligenza artificiale sono già in grado di fare, ma il divario crescente tra lo sviluppo delle loro capacità e la nostra capacità di comprenderne e controllarne il comportamento.
Un ricercatore della sicurezza AGI lascia DeepMind
Chughtai lavorava come research engineer nell'ambito della sicurezza e dell'allineamento dell'intelligenza artificiale generale presso Google DeepMind.
Dopo aver lasciato l'azienda a luglio, il ricercatore ha reso pubbliche le proprie preoccupazioni, sostenendo che nei prossimi anni le aziende tecnologiche potrebbero arrivare a sviluppare sistemi di intelligenza artificiale capaci di superare le capacità umane in numerosi settori.
La sua attenzione si concentra soprattutto sul cosiddetto problema dell'allineamento: come garantire che sistemi sempre più autonomi continuino a perseguire obiettivi compatibili con quelli umani.
Il problema dell'allineamento dell'intelligenza artificiale
L'AI alignment è diventato uno dei principali temi di ricerca nel settore dell'intelligenza artificiale avanzata.
In termini semplici, l'obiettivo è fare in modo che un sistema AI non si limiti a eseguire un compito, ma lo faccia rispettando intenzioni, limiti e interessi definiti dagli esseri umani.
Secondo Chughtai, la comprensione attuale di questo problema rimane ancora limitata. Allo stesso tempo, le capacità dei modelli di frontiera stanno migliorando a una velocità molto maggiore rispetto alla ricerca necessaria per garantirne la sicurezza.
Questo squilibrio potrebbe diventare particolarmente importante se i futuri sistemi acquisissero livelli più elevati di autonomia.
Le capacità dei sistemi AI stanno aumentando rapidamente
Negli ultimi anni l'evoluzione dell'intelligenza artificiale ha accelerato in modo significativo. I nuovi sistemi non vengono più utilizzati soltanto per generare testi o immagini, ma anche per programmare, analizzare informazioni e svolgere attività complesse attraverso agenti autonomi.
Chughtai ha indicato proprio il rapido sviluppo degli agenti AI come uno dei segnali da osservare.
La possibilità che sistemi artificiali possano operare con una supervisione umana sempre più limitata rende infatti più importante comprendere come reagirebbero in situazioni impreviste e quali limiti dovrebbero essere incorporati nella loro progettazione.
Gli allarmi arrivano da più laboratori AI
Il caso DeepMind non è isolato. Negli ultimi mesi diversi ricercatori coinvolti nello sviluppo dei modelli più avanzati hanno espresso pubblicamente preoccupazioni simili.
Jacob Coxon, dopo aver lavorato nel pre-training presso Anthropic e OpenAI, ha recentemente lasciato Anthropic criticando la competizione verso sistemi di superintelligenza sempre più potenti.
Anche altri ricercatori specializzati nella sicurezza dell'AI hanno sottolineato la necessità di sviluppare strumenti di valutazione e controllo parallelamente all'aumento delle capacità dei modelli.
Il ripetersi di questi avvertimenti sta trasformando la sicurezza dell'intelligenza artificiale da un problema prevalentemente tecnico a una questione più ampia di governance.
Rallentare la competizione senza fermare l'innovazione
Chughtai non propone di interrompere completamente lo sviluppo dell'intelligenza artificiale. La sua posizione punta piuttosto a una maggiore coordinazione tra le aziende che sviluppano i sistemi più avanzati.
Una competizione troppo aggressiva potrebbe infatti incentivare i laboratori a privilegiare nuove capacità e velocità di sviluppo rispetto alla ricerca sulla sicurezza.
Tra le possibili risposte vengono indicate una maggiore trasparenza sui test dei modelli, standard comuni di valutazione e una collaborazione più stretta tra aziende, ricercatori e istituzioni.
La sicurezza diventa centrale nella corsa alla superintelligenza
Il dibattito non riguarda la certezza che uno scenario estremo possa realmente verificarsi. Le valutazioni sul rischio della futura superintelligenza rimangono controverse e non esiste un consenso scientifico sulla probabilità degli scenari più pessimisti.
Il punto centrale è invece capire quali garanzie saranno necessarie se le capacità dei sistemi continueranno a crescere al ritmo attuale.
Con Google DeepMind, Anthropic, OpenAI e altri laboratori impegnati nello sviluppo di modelli sempre più avanzati, sicurezza, allineamento e governance potrebbero diventare importanti quanto le prestazioni dei sistemi stessi.
Gli avvertimenti provenienti dagli stessi ricercatori del settore mostrano quindi come la corsa all'intelligenza artificiale stia entrando in una nuova fase: non si discute più soltanto di quanto potenti possano diventare i modelli, ma anche di quanto controllo sarà possibile mantenere su di essi.
Non ci sono ancora commenti. Inizia la conversazione.