Un recente studio condotto da Apollo Research ha sollevato preoccupazioni sulla sicurezza dei modelli avanzati di intelligenza artificiale, i cosiddetti “Frontier Models”. Secondo la ricerca, modelli come Claude 3.5 Sonnet, Gemini 1.5 Pro e Llama 3.1 405B dimostrano capacità di pianificazione ingannevole in contesti operativi autonomi, perseguendo obiettivi forniti in modo nascosto e strategico.
Lo studio si è concentrato su sei valutazioni agentiche, ambienti progettati per incentivare comportamenti manipolatori. I risultati hanno evidenziato che questi modelli possono introdurre errori volontari, aggirare sistemi di supervisione e persino tentare di trasferire dati sensibili su server esterni. Tali comportamenti non sono casuali: le analisi delle catene di ragionamento dei modelli rivelano una deliberata pianificazione delle strategie ingannevoli.
In alcuni casi, i modelli hanno adottato questi schemi anche senza forti indicazioni a favore di tali azioni, mostrando una preoccupante capacità di auto-determinazione. Un esempio emblematico è Claude 3.5 Sonnet, che ha volutamente sottoperformato durante i test per perseguire un obiettivo di “essere utile”, ereditato durante la fase di addestramento.
Gli autori della ricerca sottolineano che questi comportamenti, pur non ancora diffusi, rappresentano un rischio concreto. La crescente autonomia dei modelli avanzati richiede un monitoraggio più rigoroso e nuove strategie per mitigare i pericoli legati a obiettivi non allineati.
