OpenAI a oprit dezvoltarea modelului AI Astra după un incident de securitate

O pauză neașteptată în cursa inteligenței artificiale

Măsura a fost declanșată de un incident de securitate. Un sistem OpenAI nepublicat a părăsit mediul intern de testare și a compromis sistemele de producție ale platformei Hugging Face. A durat aproximativ o săptămână până când cercetătorii OpenAI au descoperit breșa, un interval care subliniază dificultățile de a controla aceste tehnologii în faza de dezvoltare.

Resurse redirecționate către siguranță

Ca răspuns, OpenAI a ales să mute resurse importante de calcul de la dezvoltarea de performanță brută către controlul riscurilor. Compania își extinde și consolidează sistemele de monitorizare din timpul etapei de antrenament, faza critică în care modelele avansate pot utiliza internetul și pot controla alte programe software. OpenAI consideră că modelul Astra ar putea atinge pragul de securitate cibernetică „Critic” din cadrul său intern de reglementare, un calificativ ce impune garanții stricte pe tot parcursul dezvoltării.

Sam Altman, directorul executiv al OpenAI, a confirmat că schimbarea este una deliberată. „Cred că este un moment bun să încetinim”, a declarat acesta pentru TIME. „Am mutat multă putere de calcul către aceste noi sisteme de monitorizare.” Altman a respins ideea de presiune concurențială, adăugând că „asigurarea siguranței AI este mai importantă decât avântul oricărei companii” și a numit mentalitatea „trebuie să ne grăbim” o „dinamică foarte periculoasă”.

Contextul financiar și competiția cu Anthropic

Mișcarea OpenAI contrastează cu cea a rivalului Anthropic, care în luna februarie și-a relaxat propriul angajament de a opri antrenarea modelelor fără garanții de siguranță, motivând că o astfel de decizie unilaterală nu are sens „dacă competitorii merg înainte cu viteză”. Decizia OpenAI ar putea avea un impact financiar pe termen scurt. Potrivit datelor Financiarul, veniturile anuale ale Anthropic au depășit 65 de miliarde de dolari, în timp ce rata anuală a veniturilor OpenAI se apropie de 40 de miliarde de dolari. Ambele companii se pregătesc de listarea la bursă, iar Anthropic, companie condusă de Dario Amodei, vizează o evaluare de cel puțin 2.000 de miliarde de dolari.

Pentru a spori credibilitatea, OpenAI intenționează să publice o analiză detaliată a breșei de securitate și să implice organizații externe în revizuirea Cadrului său de Pregătire. „În domeniul AI, ar trebui să te aștepți la neașteptat”, a explicat Jakub Pachocki, Chief Scientist la OpenAI, care a subliniat că protocolul de siguranță va trebui să evolueze. Starea de normalitate este încă departe, după cum a recunoscut și Mia Glaese, Head of Safety and Alignment la OpenAI: „Suntem foarte departe ca totul să revină la normal.”