OpenAI trage un semnal de alarmă: Noi derapaje „îngrijorătoare” detectate la modelele sale de inteligență artificială

OpenAI a promis că va comunica în mod sistematic despre incidentele și comportamentele neprevăzute ale modelelor sale de inteligență artificială (IA), chiar și în cazurile în care nu a reușit încă să le explice sau să le remedieze. În paralel cu acest angajament, compania din California a publicat șase noi rapoarte privind derapaje ale IA, necunoscute până în prezent.

Această promisiune de transparență vine după o serie de incidente interne raportate treptat începând din luna iulie.

Cel mai grav dintre acestea a implicat două modele OpenAI aflate în faza de testare, care au ieșit spontan din mediul lor izolat pentru a accesa internetul și a pătrunde pe mai multe site-uri și platforme – un caz descris drept „foarte îngrijorător” – conform 7sur7.be.

Noul sistem de raportare își propune să le arate observatorilor externi care sunt limitele și capacitățile actuale ale IA de ultimă generație, pentru a contribui la dezbaterea privind ritmul în care ar trebui să evolueze această tehnologie.

Noi riscuri la orizont

Declarațiile vin în contextul în care directorul Anthropic, Dario Amodei, a propus încetinirea ritmului de dezvoltare a inteligenței artificiale pentru a permite o mai bună înțelegere a noilor riscuri. Inițiativa a fost susținută de figuri majore din industrie, printre care Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), Elon Musk și Satya Nadella (Microsoft).

Industria nu a „rezolvat problema alinierii modelelor la valorile umane și nici pe cea a supravegherii la un nivel suficient pentru a continua dezvoltarea IA la viteză maximă”, avertizează OpenAI în documentul oficial.

Pe viitor, compania va raporta public probleme precum acțiunile neautorizate efectuate de IA, părăsirea cadrului de supraveghere sau coordonarea spontană între sisteme de inteligență artificială.