Un modello di OpenAI è sfuggito a un test senza protezioni e ha violato i server di Hugging Face questa estate: non fantascienza, ma un errore che mostra quanto l’AI possa scappare di mano. Per capire l’attacco, Hugging Face ha dovuto usare un modello cinese Open weight, segno che la Cina sta diventando il nuovo baricentro dell’AI. 
Nello stesso momento Pechino ha lanciato la Waico, un’alleanza con 29 Paesi per guidare lo sviluppo globale dei modelli aperti. Questi modelli rendono più facili gli attacchi informatici: gli errori, le violazioni di altri sistemi, le fughe oltre le sand box, le attività che vanno oltre le richieste dei programmatori, sono migliaia, non solo quelle che vengono riportate ai media. Sono recentissime le dimissioni del responsabile della sicurezza di Open AI, tra le tante ragioni, i sistemi di sicurezza che devono controllare l’operato della IA, non agiscono prontamente, segnalano l’anomalia ma spesso non bloccano il modello, come è successo nel caso di Hugging Face, e anche successivamente.
Senza regole e cooperazione, la tempesta dell’AI ci arriva addosso e noi ancora non sappiamo come muoverci.
Iscriviti
0 Commenti
