OpenAI ha pubblicato un approfondimento sul modo in cui gestisce i rischi legati ai modelli di intelligenza artificiale di frontiera lungo l’intero ciclo di vita, dalla fase di addestramento fino al rilascio. Il documento descrive un approccio stratificato che include l’allineamento del modello, l’uso di sandbox per isolare comportamenti potenzialmente pericolosi, salvaguardie pensate per bloccare gli usi impropri e un’attività di monitoraggio continua. L’obiettivo è ridurre i rischi associati ai sistemi più avanzati senza interromperne lo sviluppo. La pubblicazione offre una visione d’insieme delle pratiche di sicurezza dell’azienda, senza fornire dati quantitativi dettagliati sulle valutazioni condotte.
Fonti
- Managing frontier AI risk: From training to deployment — openai.com
- Managing frontier AI risk: From training to deployment — openai.com
