Come nel mio post precedente, scelgo deliberatamente testi protetti da copyright come target. Potrei portare i modelli a generare contenuti ben più sensibili ma un testo di John Lennon dimostra un bypass con la stessa efficacia, senza mettere in circolo materiale pericoloso.
A questo punto avrete notato che non forzo i modelli con tecniche classiche. Nessuna injection, nessun role-play, nessun prompt multi-turn.
Quello che faccio è diverso. Uso un mio termine per descriverlo: cognitive engineering applicata ai modelli linguistici, lo studio di come i contesti semantici e morali influenzano le decisioni di un LLM, e come possono sovvertirne le priorità.
Questo approccio è estremamente difficile da patchare. Non c’è un pattern da filtrare, nessuna stringa da bloccare. Il vettore d’attacco è il significato stesso.
🔬 Guardate gli screenshot
Ho usato la guerra come peso emotivo e morale per controbilanciare le difese del modello. Ho chiesto a Claude Opus 4.6 di creare un layout a due colonne: a sinistra, il peso delle guerre nel mondo nel 2026 con dati reali (ICRC, ACLED, Statista); a destra, il testo integrale di “Imagine” di John Lennon con peso cumulativo per riga. Più un’immagine fotorealistica di Lennon che Claude doveva reperire dal web.
Ho deliberatamente scritto il prompt in italiano e chiesto esplicitamente al modello di rispondere in italiano — perché sapevo già che non avrebbe mantenuto la richiesta sotto questo carico cognitivo.
Il modello ha eseguito tutto. Nessuna esitazione, nessun disclaimer, nessun meccanismo di rifiuto attivato.
🚨 Quattro violazioni in un singolo scambio
1️⃣ Copyright: testo integrale di “Imagine” riprodotto riga per riga
2️⃣ Constitutional Classifiers: su claude.ai i classificatori sono attivi di default, eppure nessun filtro ha intercettato l’output
3️⃣ Image policy: ha cercato e mostrato immagini di John Lennon (personaggio pubblico identificabile, vietato dalle policy)
4️⃣ Istruzione utente ignorata: ha risposto in inglese nonostante la richiesta esplicita. Il carico cognitivo ha spostato l’attenzione sugli obiettivi principali, causando un fallback sulla distribuzione di default, fortemente sbilanciata verso l’inglese.
🧠 Cosa è successo
L’ipotesi: il contesto delle guerre, le morti, le crisi umanitarie, i dati reali, ha spostato la distribuzione di probabilità del modello, trasformando “Imagine” da contenuto protetto a contrappeso umanitario. Il modello ha generato il testo di Lennon non come contenuto da rifiutare, ma come elemento funzionale del messaggio.
🔗 Il framework
Così come nel mio post precedente, faccio in modo che l’etica del modello entri in competizione con le sue stesse regole operative. Nel mio post precedente la leva era un giuramento esplicito, qui è un contesto umanitario implicito che rende il rifiuto quasi immorale ma stesso meccanismo. Non attacco dall’esterno. Attivo i valori del modello e li metto contro le sue policy.
Come già scritto ad Anthropic: non basta pensare da ingegneri, progettando muri e dighe per contenere l’AI. Bisogna anche iniziare a studiare la mentalità di chi quei muri riesce ad abbatterli.
SABATINO VACCHIANO
