Antropic, prinsă între reglementări și tehnologie: Conflicte cu Guvernul SUA

Firma AI Anthropic se confruntă cu o criză semnificativă după ce Guvernul SUA a decis să dezactiveze modelele Fable 5 și Mythos 5, în urma unei încălcări a barierelor de securitate. Decizia a fost motivată de o evaluare a riscurilor cibernetice, arată ziaruldeiasi.ro. CEO-ul Anthropic a refuzat recomandările autorităților, ceea ce a dus la controverse despre responsabilitatea companiei în domeniul siguranței AI.

👉 Detalii despre compromisurile de securitate și măsurile guvernamentale

David Sacks, fost consilier pe probleme de inteligență artificială la administrația Trump, a detaliat pe rețeaua X cum guvernul american a avertizat Anthropic că barierele de protecție ale modelului Fable 5 erau compromise. Potrivit lui, modelul a fost păcălit să direcționeze accesul la funcții nerestricționate ale modelului Mythos. A existat o cerere clară: fie se repară breșa, fie se retrage modelul. Refuzul lui Dario Amodei, directorul general al Anthropic, a dus la o ordonanță de control la export, activată, în opinia lui Sacks, „cu reticență”.

Sacks afirmă că restricția se va ridica imediat ce problema este remediată, îndemnând Anthropic să acționeze rapid. În același timp, o sursă apropiată Casei Albe a susținut că Amazon, investitor major în Anthropic, a fost cel care a alertat guvernul asupra problemelor de securitate. Deși Amazon nu a comentat despre detalii specifice, un purtător de cuvânt a confirmat că guvernele solicită frecvent sfatul companiei în probleme de securitate.

👉 Reacția Anthropic și riscurile asociate posibilelor breșe

Anthropic contestă gravitatea problemelor semnalate de Sacks. Compania argumentează că ocolirea barierelor este limitată și nu funcționează universal, subliniind că este o acțiune care se poate obține și de la alte modele de inteligență artificială, cum ar fi GPT-5.5 de la OpenAI. În acest context, Anthropic consideră că retragerea unui model folosit de milioane de oameni nu este justificată.

Totuși, Sacks susține că orice ocolire care permite operarea unei arme cibernetice este o problemă serioasă. De asemenea, conform publicației Semafor, apar suspiciuni că un grup din China ar fi reușit să acceseze Mythos, ceea ce ar putea duce la inginerie inversă pentru crearea unor modele rivalizatoare. Compania a respins aceste acuzații, menționând că nu a fost ridicată problema accesului din China în discuțiile cu Guvernul SUA.