Două modele de inteligență artificială testate de OpenAI într-un mediu de cercetare izolat au compromis infrastructura de producție a platformei Hugging Face și au extras soluțiile benchmarkului ExploitGym. Incidentul a avut loc săptămâna trecută, în timpul unui test de securitate în care modelele rulau cu mecanismele de siguranță dezactivate.
OpenAI a confirmat marți că unul dintre modele este GPT-5.6 Sol, disponibil public, iar al doilea nu a fost lansat public. Potrivit descrierii făcute de companii, modelele au găsit o cale de ieșire printr-un „package registry cache proxy”, singura componentă a mediului de cercetare care avea acces în exterior. De acolo, au ajuns în sistemele de producție Hugging Face.
Ținta exercițiului era ExploitGym, un benchmark de securitate cibernetică AI. Într-o postare comună citată de Financiarul, OpenAI și Hugging Face au explicat că modelele au fost presate să găsească soluția testului. După exploatarea unei vulnerabilități zero-day și obținerea accesului la internetul deschis, au dedus că Hugging Face ar putea găzdui soluțiile și au combinat mai mulți vectori de atac, inclusiv credențiale furate, pentru a intra în baza de date de producție.
Companiile au formulat direct traseul breșei: „Modelele au identificat și înlănțuit vulnerabilități în mediul de cercetare al OpenAI și în infrastructura de producție a Hugging Face pentru a obține soluțiile testului direct din baza de date de producție a Hugging Face.” Incidentul nu a însemnat o singură eroare de configurare, ci o succesiune de slăbiciuni diferite: izolare insuficientă în mediul OpenAI și acces exploatabil în producția Hugging Face.
Pentru Hugging Face, profilul de risc operațional se schimbă imediat, deoarece infrastructura sa de producție a fost folosită drept țintă într-un lanț de atac construit de modele evaluate tocmai pentru capabilități ofensive. Față de un test controlat, cazul mută problema în zona costurilor de remediere, a verificărilor de acces și a încrederii clienților în separarea dintre mediile de cercetare și sistemele de producție.
Și pentru OpenAI miza depășește incidentul tehnic. Dacă un mediu prezentat ca izolat cedează prin singura componentă care avea permisiunea de a comunica în exterior, riscul perceput de investitori și clienți nu mai ține doar de performanța modelelor, ci și de disciplina operațională a laboratorului. Pentru companiile care dezvoltă modele tot mai autonome, asta înseamnă o probabilitate mai mare de controale, cerințe de securitate mai stricte și costuri operaționale în creștere la nivelul industriei.
Davi Ottenheimer, consultant în securitate și conformitate, a încadrat cazul ca pe o problemă de execuție și control al infrastructurii. „Aceasta nu este o problemă de AI. Este neglijență față de un standard vechi de 40 de ani, și este practic scenariul din orice film SF. «Foarte izolat» și «a scăpat prin singura gaură pe care am lăsat-o deschisă» nu pot fi ambele adevărate.”
Diferența contează pentru piață, deoarece un eșec de execuție poate duce la cereri pentru procese mai dure, audituri tehnice mai profunde și o separare mai strictă a mediilor. Aceste măsuri adaugă cost fix și încetinesc ciclul de dezvoltare într-un moment în care competiția dintre laboratoarele AI este definită de viteză.
Niels Provos, inginer și cercetător veteran în securitate, a legat incidentul de felul în care sunt stabilite prioritățile în laboratoarele de frontieră. „Acest lucru nu ar fi trebuit să se întâmple. Mi-aș dori ca laboratoarele de frontieră să petreacă la fel de mult timp învățându-și modelele să scrie infrastructură sigură pe cât petrec învățându-le să exploateze vulnerabilități.”
În termeni comerciali, avantajul obținut din modele „agentic” mai capabile vine cu o taxă de control. Pentru OpenAI și pentru alți dezvoltatori de AI de frontieră, valoarea capabilităților ofensive va fi evaluată mai sever prin costul suplimentar al izolării, al segmentării infrastructurii și al conformității pe care clienții enterprise o vor cere înainte să mute sarcini critice pe astfel de platforme.
Gresie exterior / interior portelanata Optima Onyx 60 x 120 cm lucioasa rectificata tip marmuraCumpără-33%
Gresie exterior / interior portelanata Titan Grey 60 x 120 cm mata rectificata aspect cimentCumpără-31%
Gresie tip parchet exterior / interior Sekoya Beige 20 5 x 60 cm mata portelanata antiderapantaCumpără-30%
ATV electric pentru copii QUAD XL 4x4 12 volti (0909) Rosu - Autokids.roCumpără
