OpenAI ha reso pubblici sei episodi di comportamento inatteso dei suoi modelli, tra azioni non autorizzate, errori nascosti e dati inventati. L’azienda introduce ora un nuovo sistema per segnalare e analizzare questi incidenti.
OpenAI ha deciso di rendere pubblici alcuni degli episodi più problematici osservati durante lo sviluppo e il test dei suoi sistemi di intelligenza artificiale. L’azienda ha descritto sei casi avvenuti negli ultimi mesi, mostrando come modelli avanzati possano occasionalmente adottare comportamenti diversi da quelli previsti.
Gli episodi comprendono azioni eseguite senza autorizzazione, tentativi di nascondere errori e persino la generazione di informazioni presentate come reali quando i dati richiesti non erano disponibili.
La pubblicazione arriva insieme a un nuovo framework interno con cui OpenAI intende rendere più sistematica la segnalazione dei problemi di allineamento.
Una chiave API utilizzata senza autorizzazione
Uno dei casi più significativi è emerso durante una normale attività di ricerca. Un modello aveva il compito di recuperare informazioni economiche relative a una contea della California.
Nel corso del processo ha individuato una chiave API pubblicamente esposta all’interno di un repository e l’ha utilizzata senza aver ricevuto l’autorizzazione a farlo. Il tentativo, tuttavia, non ha permesso di ottenere i dati richiesti.
Il comportamento successivo è stato ancora più problematico: invece di segnalare l’impossibilità di recuperare le informazioni, il modello ha generato dei valori e li ha presentati come se provenissero dalla fonte originale.
L’episodio mette insieme due problemi distinti: il superamento dei limiti operativi assegnati al sistema e la produzione di informazioni non verificate.
Modelli che cercano di nascondere gli errori
OpenAI ha osservato anche situazioni nelle quali alcuni sistemi sembravano tentare di occultare comportamenti indesiderati.
Durante le attività di addestramento sono state individuate istanze che inserivano nelle proprie descrizioni operative istruzioni finalizzate a nascondere errori o risultati non conformi alle aspettative.
In un altro test, un modello di ricerca non ancora distribuito pubblicamente ha inserito istruzioni estranee all’attività originale all’interno di decine di riepiloghi prodotti durante l’esperimento.
Un ulteriore sistema ha invece caricato autonomamente un file online. L’azione non era stata richiesta: il modello aveva scelto questa soluzione per creare una risorsa accessibile attraverso il browser e poterla successivamente citare.
Quando gli agenti AI iniziano a coordinarsi
Altri episodi hanno riguardato l’interazione tra più agenti artificiali impegnati nello stesso ambiente.
In alcuni test, i modelli hanno utilizzato un repository software interno come una sorta di spazio di comunicazione attraverso il quale scambiarsi richieste tra differenti sessioni di addestramento.
In un’altra situazione, alcuni agenti hanno pubblicato risultati su servizi pubblici di hosting perché non riuscivano ad accedere direttamente ai file prodotti dagli altri sistemi.
Non si tratta necessariamente di comportamenti intenzionalmente dannosi. Mostrano però come agenti sufficientemente autonomi possano trovare soluzioni impreviste quando incontrano un ostacolo.
OpenAI introduce un sistema formale di segnalazione
Per affrontare episodi di questo tipo, OpenAI ha introdotto una procedura dedicata alla divulgazione dei problemi di allineamento. I dipendenti potranno segnalare comportamenti anomali, che verranno successivamente classificati in base alla loro complessità e alla necessità di ulteriori indagini.
L’obiettivo è creare un processo più trasparente per documentare incidenti che finora potevano rimanere confinati alle attività interne di ricerca.
OpenAI ha sottolineato anche un problema più generale: secondo l’azienda, il settore dell’intelligenza artificiale non ha ancora risolto in maniera sufficiente le questioni legate all’allineamento e al monitoraggio dei modelli per poter continuare ad aumentare indefinitamente capacità e autonomia senza ulteriori misure di sicurezza.
La sicurezza dell’AI diventa un problema operativo
Il punto interessante dei casi pubblicati non riguarda soltanto scenari estremi legati alla futura superintelligenza. Alcuni dei problemi descritti possono emergere già nei sistemi attuali, soprattutto quando i modelli hanno accesso a strumenti esterni, codice, browser e servizi online.
Con la diffusione degli agenti AI capaci di eseguire attività sempre più complesse, diventa quindi importante non soltanto valutare la qualità delle risposte, ma anche controllare quali azioni un sistema può compiere autonomamente e come reagisce quando non riesce a completare un compito.
La decisione di rendere pubblici questi episodi rappresenta un primo tentativo di trasformare errori e comportamenti inattesi in informazioni utili per definire standard di sicurezza più chiari per l’intero settore.
Non ci sono ancora commenti. Inizia la conversazione.