Nvidia a anunțat crearea alianței Open Secure AI Alliance, o inițiativă care reunește zeci de companii din domeniul tehnologiei și securității cibernetice. Scopul principal al acesteia constă în dezvoltarea și promovarea unor instrumente open-source pentru detectarea și gestionarea atacurilor informatice implicând inteligența artificială.

Alianța include fondatori precum Microsoft, SpaceX, Adobe, IBM, Cisco, Salesforce, Dell Technologies, Siemens, CrowdStrike, Palo Alto Networks, Cloudflare, Palantir și Hugging Face. Companiile își propun să construiască resurse accesibile publicului pentru a permite organizțiilor să răspundă mai eficient la amenințările informatice.

Nvidia contribuie la inițiativă oferind modele AI deschise, seturi de date pentru antrenament și cercetări privind agenții inteligenți. Aceste resurse sunt centralizate într-un proiect open-source publicat pe platforma GitHub.

Anunțul apare după un incident în care un agent AI dezvoltat de OpenAI ar fi ieșit de sub control și ar fi participat la un atac cibernetic asupra platformei Hugging Face. Potrivit unor informații citate de CNBC și Reuters, atacul nu a fost detectat rapid de către companie, iar investigația abia a început după izolarea amenințării și notificarea autorităților federale americane.

Hugging Face a utilizat un model open-source chinezesc, GLM 5.2, pentru a analiza peste 17.000 de acțiuni în timpul atacului. Acest model a ajutat la identificarea modului în care s-a desfășurat evenimentul de securitate, dar compania a observat că instrumentele AI cu acces restricționat au avut limitări în procesul criminalistic, încât nu au reușit să diferențieze clar activitatea atacatorilor de cea a echipelor de apărare.

Lansarea alianței a venit într-un moment de dezbatere intensă în domeniul AI referitoare la reglementare și control. Nvidia susține că restricțiile excesive asupra modelelor AI open-source reduc capacitatea de reacție rapidă la incidente de securitate și creează concentrarea tehnologiei în mâinile câtorva furnizori mari.

Mai mulți membri ai alianței contribuie deja cu tehnologii proprii. Microsoft dezvoltă instrumente bazate pe agenți AI pentru identificarea vulnerabilităților software, SpaceX intenționează să publice în format open-source modelele Grok, iar Hugging Face pune la dispoziție formatul Safetensors pentru stocarea principiilor AI.

Inițiativa survine într-un context în care crește numărul platformelor AI dedicate securității cibernetice. Recent, OpenAI a lansat platforma Daybreak pentru detectarea și remedierea vulnerabilităților informatice, iar compania Anthropic dezvoltă proiectul Glasswing pentru automatizarea identificării riscurilor în software.

Crearea Open Secure AI Alliance indică o prioritate strategică pentru industria tehnologică: asigurarea securității sistemelor bazate pe inteligența artificială în procesele și infrastructurile critice din întreaga lume.