Di Anand Oswal, Senior Vice President and General Manager of Network Security di Palo Alto Networks
Se avete seguito le notizie tecnologiche negli ultimi giorni, avrete certamente sentito parlare di DeepSeek. Questo modello linguistico di grandi dimensioni (LLM) minaccia di sconvolgere gli attuali riferimenti del mercato dell’AI e cambiare radicalmente lo scenario delle applicazioni alimentate da questa tecnologia.
Rilasciata da una startup cinese composta da 200 persone, il modello sembra avere le stesse capacità degli strumenti più avanzati offerti da OpenAI e Google, con il vantaggio di essere significativamente più veloce e meno costoso da eseguire. Inoltre, DeepSeek è stato rilasciato come open source ed è sufficientemente leggero da poter essere eseguito su hardware standard: qualsiasi sviluppatore può iniziare a lavorarci senza dover accedere a costose GPU. Per il suo carattere profondamente innovativo, DeepSeek è stato definito un “momento Sputnik” per l’intelligenza artificiale, impattando in modo significativo sui mercati finanziari.
Unit 42 di Palo Alto Networks ha analizzato DeepSeek, scoprendo alcune vulnerabilità, rivelando in particolare come si possa facilmente realizzare un suo jailbreak per produrre contenuti pericolosi con poche o nessuna conoscenza o esperienza specialistica. I ricercatori di Unit 42 si sono concentrati su due nuove ed efficaci tecniche di jailbreak, scoperte recentemente, Deceptive Delight e Bad Likert Judge. Dato il loro successo verso altri LLM, Unit 42 le ha testate, insieme a un’ulteriore tecnica di jailbreak a più fasi, denominata Crescendo, contro i modelli DeepSeek, riscontrando alti tassi di aggiramento delle protezioni. Queste tecniche hanno permesso di fornire indicazioni esplicite su attività dannose, tra cui creazione di keylogger, esfiltrazione di dati e persino istruzioni per la creazione di dispositivi incendiari, dimostrando rischi tangibili per la sicurezza.
Quale l’impatto per i responsabili della sicurezza?
Ogni azienda definirà le proprie policy relative ai nuovi modelli di intelligenza artificiale. Alcune li bandiranno completamente; altre ne consentiranno un uso limitato, sperimentale e fortemente sorvegliato. Altre ancora si affretteranno a implementarli in produzione, cercando di ottenere quel poco in più di ottimizzazione di prestazioni e costi.
Ma al di là della necessità di un’azienda di scegliere un nuovo modello specifico, l’ascesa di DeepSeek evidenzia diversi aspetti sulla sicurezza dell’AI nel 2025. Il ritmo di cambiamento di questa tecnologia e il senso di urgenza che lo circonda non sono paragonabili ad altre. Come si può pianificare il futuro, quando un modello alquanto misterioso (e gli oltre 500 derivati già disponibili su Hugging Face) diventa la priorità numero uno, apparentemente dal nulla?
La risposta breve: non è possibile. La sicurezza dell’intelligenza artificiale rimane un obiettivo in movimento e lo rimarrà per un po’. Tuttavia, la situazione sta cambiando rapidamente e DeepSeek non sarà l’ultimo modello che coglie il mondo di sorpresa. Ci vorrà del tempo prima che le tecnologie di AI siano comprese appieno ed emergano dei leader chiari. Fino ad allora, non si avrà altra scelta che aspettarsi l’inaspettato.
Le aziende possono cambiare LLM a un costo minimo o nullo, cosa che consente ai team di sviluppo di muoversi rapidamente. Sostituire il software che si basa sui modelli di OpenAI, Google o Anthropic con DeepSeek (o qualsiasi altro modello disponibile domani) di solito richiede l’aggiornamento di poche righe di codice. La tentazione, per i produttori di soluzioni, di testare il nuovo modello per verificare se sia in grado di risolvere un problema di costi o un collo di bottiglia nella latenza, o se è più performante in un compito specifico, è elevata. E se il modello si rivela il pezzo mancante che aiuta a portare sul mercato un prodotto potenzialmente rivoluzionario, non sarà certo questo ad esserne ostacolo.
