L'azienda californiana ha bloccato decine di migliaia di account collegati a campagne per copiare le capacità del modello Claude. Citata anche una startup cinese.
Anthropic ha annunciato che le nuove misure di sicurezza implementate per proteggere il suo modello di intelligenza artificiale Claude hanno ridotto drasticamente i cosiddetti attacchi di distillazione. Secondo l'azienda californiana, i dati raccolti attraverso queste pratiche sono diminuiti di circa il 90-99%.
Le misure, che limitano l'accesso al ragionamento di Claude, hanno reso più difficile utilizzare reti proxy per sondare ripetutamente il sistema protetto. Anthropic ha bloccato decine di migliaia di account collegati a campagne di distillazione e ha citato la startup cinese Z.ai (Zhipu) come esempio di azienda che avrebbe tentato di copiare le capacità di Claude mentre sviluppava il proprio modello GLM-5.3.
L'azienda afferma che il proprio sistema di sicurezza è "all'incirca altrettanto solido dei sistemi che impediscono a Claude di contribuire alla costruzione di armi biologiche" e presenta un tasso di falsi positivi inferiore allo 0,1%. La distillazione dei modelli è diventata una preoccupazione crescente nel settore dell'intelligenza artificiale.
La distillazione dei modelli di intelligenza artificiale è una pratica attraverso la quale i concorrenti cercano di copiare le capacità dei sistemi AI avanzati. Questa tecnica permette di riprodurre funzionalità sofisticate più rapidamente e a costi inferiori rispetto allo sviluppo autonomo, diventando una delle principali preoccupazioni per le aziende leader del settore.
La competizione si è intensificata particolarmente tra Stati Uniti e Cina, con aziende come Anthropic, OpenAI e Google che denunciano come questa pratica minacci la loro proprietà intellettuale e avanzi tecnologico. Anthropic, fondata da ex ricercatori OpenAI, ha sviluppato Claude come alternativa ai modelli concorrenti, ponendo particolare attenzione alla sicurezza e all'allineamento con i valori umani.
La crescente diffusione di questi attacchi ha spinto Anthropic a implementare misure di sicurezza specifiche che limitano l'accesso al "ragionamento" interno di Claude, il processo attraverso il quale il modello arriva alle sue conclusioni. La situazione riflette le tensioni geopolitiche nel settore tecnologico, dove il controllo sulle capacità AI è considerato strategico per la sicurezza nazionale.
"Dentro la Notizia" è una sezione amatoriale e senza scopo di lucro di quoz.it, pensata per chi trova difficile orientarsi nell'attualità senza un minimo di contesto. Gli articoli sono scritti con l'assistenza dell'intelligenza artificiale a partire da fonti pubbliche, senza una redazione professionale né una revisione editoriale sistematica: possono contenere imprecisioni e non sostituiscono l'informazione delle testate giornalistiche registrate. Non siamo una testata giornalistica ai sensi della legge 62/2001. Le immagini, quando non originali, provengono da fonti esterne a scopo puramente illustrativo. Se ritieni un articolo offensivo, inesatto o secondo te non dovrebbe essere pubblicato — oppure sei titolare dei diritti su un testo o un'immagine e ne vuoi la rimozione — segnalacelo: provvederemo subito.
Contatti:
info@quoz.it
Commenti (0)
Nessun commento ancora. Scrivi il primo!