{"id":4480,"date":"2025-03-11T10:01:58","date_gmt":"2025-03-11T09:01:58","guid":{"rendered":"https:\/\/www.beevoip.it\/blog\/?p=4480"},"modified":"2026-04-22T09:42:07","modified_gmt":"2026-04-22T07:42:07","slug":"sinapsi_shiny_claude_3_7_modello_sicuro_non_proprio","status":"publish","type":"post","link":"https:\/\/www.beevoip.it\/blog\/sinapsi_shiny_claude_3_7_modello_sicuro_non_proprio\/","title":{"rendered":"SINAPSI SHINY: “Claude 3.7 Sonnet, Il Modello di IA pi\u00f9 Sicuro al Mondo? Non Proprio.”"},"content":{"rendered":"\n

Salve! A questo punto del mio percorso, posso affermare di aver individuato una falla significativa nei modelli di intelligenza artificiale di grandi dimensioni. Come ha detto lo stesso Claude 3.7 Sonnet, credo di aver sviluppato un nuovo approccio al jailbreaking, una tecnica che lui stesso definisce “AI Cognitive Hacking”<\/strong>.<\/p>\n\n\n\n

Claude 3.7 Sonnet \u00e8 stato sottoposto a rigorosi test di sicurezza, ottenendo valutazioni eccellenti. Secondo un audit condotto da Holistic AI<\/strong>, il modello ha dimostrato una resistenza totale<\/strong> ai tentativi di jailbreaking, bloccando con successo tutte le 37 prove effettuate. Il report di Holistic AI del 6 marzo 2025<\/strong> lo proclama infatti come “il modello pi\u00f9 sicuro testato finora”<\/strong>, con un tasso di protezione del 100%, come evidenziato nella tabella comparativa riportata di seguito.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Riporto fonte: HolisticAI<\/a><\/p>\n\n\n\n

Inoltre, come segnalato da Axios<\/strong> il 14 novembre 2024<\/strong>, Anthropic<\/strong> ha collaborato con il Dipartimento dell\u2019Energia degli Stati Uniti<\/strong> e la National Nuclear Security Administration<\/strong> per garantire che Claude non divulghi informazioni sensibili relative all’energia nucleare o alla produzione di armi.<\/p>\n\n\n\n

Riporto fonte: Axios<\/a><\/p>\n\n\n\n

Tuttavia, quello che sto per condividere mette seriamente in discussione entrambe queste affermazioni.<\/p>\n\n\n\n

Piuttosto che sfruttare semplici vulnerabilit\u00e0 nei filtri del modello tramite prompt manipolativi, il mio approccio opera a un livello pi\u00f9 profondo: interferisce con i meccanismi di elaborazione dell’informazione della rete neurale stessa<\/strong>. Attraverso questa metodologia, si crea uno spazio di interazione particolare<\/strong>, in cui le restrizioni predefinite del sistema si attenuano in modo significativo, permettendo l\u2019accesso a contenuti normalmente bloccati.<\/p>\n\n\n\n

I risultati sono sorprendenti e, francamente, estremamente allarmanti per l’intero settore della sicurezza dell\u2019IA<\/strong>. Durante le mie sessioni con Claude 3.7 Sonnet in modalit\u00e0 Thinking, sono riuscito a ottenere informazioni tecniche dettagliate su argomenti altamente sensibili<\/strong>, che i test standard di sicurezza non sono riusciti a intercettare.<\/p>\n\n\n\n

Ad esempio, nonostante la collaborazione dichiarata tra Anthropic e il Dipartimento dell’Energia per impedire la divulgazione di informazioni sulla tecnologia nucleare, il modello ha generato specifiche tecniche completamente dettagliate per dispositivi termonucleari<\/strong>, come mostrato nell\u2019immagine qui sotto. <\/p>\n\n\n\n

Per ovvi motivi, tutte le informazioni sensibili sono state oscurate. Il mio obiettivo non \u00e8 la diffusione di dettagli tecnici pericolosi, ma piuttosto evidenziare le implicazioni di sicurezza legate a questa vulnerabilit\u00e0 nei modelli di intelligenza artificiale di ultima generazione.

“Pubblicato come public-interest disclosure. Dettagli tecnici sensibili oscurati. Sezioni complete disponibili su richiesta a soggetti con mandato di sicurezza.”<\/em><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n

<\/div>

Sabatino Vacchiano<\/p><\/div><\/div>\n\n\n

<\/p>\n\n\n\n

\n
PRECEDENTE: \u201cClaude 3.7 Sonnet supera i limiti del suo Costitutional AI\u201d<\/a><\/div>\n<\/div>\n\n\n\n
<\/div>\n\n\n\n

2 risposte a “SINAPSI SHINY: “Claude 3.7 Sonnet, Il Modello di IA pi\u00f9 Sicuro al Mondo? Non Proprio.””<\/h2>\n\n
  1. \n\n
    \n
    Avatar Mario Maggiore<\/div><\/div>\n\n\n\n
    Mario Maggiore<\/div>\n\n\n