O Nouă Abordare în Controlul Răspunsurilor AI: Cercetarea Thinking Machines Lab
O nouă cercetare arată că răspunsurile variabile ale modelelor AI pot fi controlate prin optimizarea modului în care sunt gestionate calculele pe procesoarele Nvidia
Introducere
Cercetările recente din domeniul inteligenței artificiale (AI) au adus în prim-plan o problemă cu care se confruntă mulți utilizatori: variabilitatea răspunsurilor generate de modele AI, cum ar fi ChatGPT. De câte ori am solicitat fie un sfat, o recomandare, fie o informație specifică, am observat că răspunsul poate diferi de fiecare dată, chiar și atunci când întrebările sunt identice. O echipă de cercetători de la startup-ul Thinking Machines Lab, fondat de fosta CTO a OpenAI, Mira Murati, susține că a identificat sursa acestui fenomen și propune o soluție concretă. Acest articol detaliază cercetarea lor și implicarea acesteia în viitorul AI.
Care este cauza aleatorietății în AI?
Într-un articol recent publicat de Horace He, un cercetător de la Thinking Machines Lab, se subliniază că variabilitatea răspunsurilor AI nu este o caracteristică inevitabilă. El explică faptul că problema provine din modul în care procesoarele Nvidia, utilizate frecvent în procesarea datelor pentru modele AI, gestionează calculele. În special, este vorba despre „kernel-urile GPU”. Aceste fragmente de cod sunt esențiale pentru modul în care sunt procesate datele și, în mod ironic, ele introduc un grad de aleatorietate în răspunsurile generate.
Horace He afirmă: „Când apeși Enter în ChatGPT, aceste kernel-uri sunt orchestrate într-un mod care introduce aleatorietate.” Acest lucru sugerează că nu concordanța modelului AI este problema, ci interacțiunea complexă dintre software și hardware.
Problemele Generale cu Aleatorietatea:
- Operațiunile paralele: Procesoarele GPU permit execuția simultană a mai multor operațiuni, ceea ce poate duce la ordonarea imprevizibilă a rezultatelor.
- Optimizările hardware: Actualizările automate sau ajustările hardware-ului pot schimba rezultatele, generând astfel răspunsuri variate pentru aceleași întrebări.
- Diferența în implementare: Modalitatea în care software-ul interacționează cu hardware-ul este cheia înțelegerii variabilității.
Soluții propuse de Thinking Machines Lab
Echipa de cercetare de la Thinking Machines Lab propune un control mai riguros asupra kernel-urilor GPU care gestionează aceste calcule. Acest proces ar putea transforma modelele AI în entități „deterministe”. Cu alte cuvinte, utilizatorii ar putea primi același răspuns la aceeași întrebare, eliminând astfel confuzia și incertitudinea.
Importanța determinismului pentru viitorul AI
Beneficiile unei astfel de îmbunătățiri sunt semnificative. În mediul de afaceri, de exemplu, un asistent AI determinist ar putea oferi recomandări consistente, sporind încrederea în tehnologie. Horace He subliniază importanța acestei constante în procesul de învățare al algoritmilor, menționând că, dacă rezultatele sunt stabilite, datele de antrenament devin mai clare, facilitând astfel un proces de învățare mai eficient prin recompensă (reinforcement learning).
Legătura cu strategia companiei
În contextul acestor cercetări, informații anterioare sugerează că Thinking Machines Lab intenționează să aplice această tehnologie pentru personalizarea modelelor AI destinate utilizării în mediile de afaceri. O abordare deterministă nu doar că îmbunătățește fiabilitatea produselor, dar adaugă și valoare pentru utilizatori prin consecvență.
Prin concentrarea pe dezvoltarea unor soluții care să răspundă nevoilor reale ale pieței, Thinking Machines Lab promite să transforme modul în care companiile integrează AI în modelul lor de afaceri.
Ce urmează pentru Thinking Machines Lab?
În luna iulie, Mira Murati a anunțat că laboratorul va lansa primul său produs în următoarele luni, destinat atât cercetătorilor, cât și startup-urilor care dezvoltă modele AI personalizate. Deși detaliile acestui produs nu au fost încă divulgate, cercetările indică o integrare a noii abordări propuse.
Compania a promis, de asemenea, un angajament de transparență, pledând pentru publicarea frecventă a codului, articolelor și a altor resurse legate de activitatea de cercetare. Această deschidere este un contrast față de politica adoptată de OpenAI, care a devenit mai puțin transparentă pe măsură ce a crescut.
Inițiativele actuale ale companiei
Recent, echipa a lansat o serie de articole sub numele de „Connectionism”, primul fiind dedicat determinismului în inferring LLM. Aceste publicații oferă o privire rară asupra activității interne și se aliniază angajamentului de a menține o cultură de cercetare deschisă și transparentă.
- Promisiunea deschiderii: Compania se angajează să fie mai deschisă față de public.
- Publicația regulată: Vor publica continuu coduri și rezultate ale cercetărilor.
- Cultura de cercetare: Accentul se pune pe stabilirea unei culturi de cercetare puternice.
Perspective și provocări viitoare
Cercetarea desfășurată la Thinking Machines Lab are o importanță semnificativă pentru evoluția inteligenței artificiale. Este un pas crucial în direcția realizării unor modele AI mai previzibile și mai facile în utilizare. Cu toate acestea, rămâne de văzut dacă soluțiile tehnice propuse vor putea fi implementate la scară largă și dacă aceste inovații se vor transforma în produse viabile.
Comunitatea tehnologică va urmări cu interes evoluția Thinking Machines Lab. Impactul pe care această companie îl va avea asupra modului în care utilizăm și dezvoltăm AI este pe deplin așteptat, având în vedere evaluarea de 12 miliarde de dolari a companiei.
Experții din domeniu vor analiza cu atenție progresul realizat și modul în care aceste cercetări pot influența viitorul interacțiunilor noastre cu inteligența artificială. De asemenea, se va urmări modul în care Thinking Machines Lab va face față provocărilor de a continua inovația în acest sector extrem de dinamic și competitiv.
În concluzie, abordările inovatoare propuse de Thinking Machines Lab pot reformula întregul peisaj al inteligenței artificiale, aducând nu doar îmbunătățiri în răspunsurile oferite, ci și în încrederea pe care utilizatorii o au în aceste tehnologii. Evolutionarea continuă a acestui domeniu este esențială pentru viitorul tehnologic pe care ne bazăm cu toții.
