Compania din spatele ChatGPT a obținut un contract cu Pentagonul în februarie, la câteva ore după refuzul companiei Anthropic de a respecta un ultimatum guvernamental privind utilizarea nerestricționată a asistentului AI Claude pentru armata americană. Această situație a suscitat reacții negative, inclusiv furie din partea fostului președinte Donald Trump.
Clarificări și modificări ale contractului
Sam Altman, CEO-ul OpenAI, a anunțat ulterior pe platforma X modificări ale acordului cu Pentagonul. Una dintre cele mai importante prevederi stipulează că sistemele de inteligență artificială ale OpenAI nu trebuie utilizate „intenționat” în scopul „supravegherii” cetățenilor americani.
Reacția personalului din industrie
Caitlin Kalinowski, care a lucrat anterior la Meta și a dezvoltat ochelari de realitate augmentată, a explicat decizia de a părăsi OpenAI. Ea a scris pe X că plecarea sa a fost motivată de lipsa de garanții clare și de o gestionare problematică a anunțurilor legate de utilizarea AI în domeniul securității naționale.
Aspecte legate de supravegherea și autonomia AI
Kalinowski a subliniat că preocupările ei se referă la supravegherea americanilor fără control judiciar și la autonomia letală a sistemelor AI fără autorizație umană. Ea a menționat că aceste probleme au fost „meritate mai multă atenție decât au primit”.
Contextul legal și etic
Refuzul Anthropic de a permite utilizarea nerestricționată a lui Claude în armament a dus la reacții ferme din partea autorităților și a politicii, inclusiv exprimări de nemulțumire din partea fostului președinte Trump. Contractul cu Pentagonul a fost acordat rapid după acest incident, ridicând semne de întrebare despre procesul decizional și despre controalele etice aplicate.
Rețineri în privința publicării anunțului și a garanțiilor
Kalinowski a criticat, de asemenea, faptul că anunțul despre modificările contractuale a fost făcut în grabă, fără a fi definite în mod clar garanțiile și mecanismele de control care să asigure utilizarea responsabilă a sistemelor AI. Ea a accentuat necesitatea unei guvernanțe stricte în sectorul AI, mai ales în domeniul securității naționale.
Aceste afirmații reflectă preocupările unei părți din industria tehnologică legate de utilizarea AI în contexte militare și de securitate, precum și despre lipsa unor reguli clare pentru gestionarea acestor tehnologii în domenii sensibile.
Lasă un răspuns