Un fost cercetător OpenAI și Anthropic trage semnalul de alarmă: „Se joacă cu viețile noastre. AI-ul ne-ar putea ucide pe toți până în 2030”

Un cercetător britanic în inteligență artificială, care a lucrat atât pentru OpenAI, cât și pentru rivalul Anthropic, a decis să părăsească definitiv industria. Jacob Coxon acuză marile laboratoare tehnologice din SUA că se întrec orbeste într-o cursă periculoasă către o superinteligență capabilă să se auto-îmbunătățească, punând în pericol existența umanității.

Avertismentul dur al unui insider din industria AI

După trei ani dedicați cercetării în etapa de pre-antrenare a modelelor de inteligență artificială, Jacob Coxon (27 de ani) susține că niciuna dintre marile companii din domeniu nu mai acționează responsabil – conform 7sur7.be.

• Avertisment direct: „Oamenii care construiesc AI-ul cred cu adevărat că acesta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, a declarat Coxon.
• Cursa către „Endgame”: În interiorul companiilor, angajații folosesc termeni precum crunchtime (moment decisiv) și endgame (sfârșitul jocului) pentru a descrie viteza cu care se apropie de etapa de „auto-îmbunătățire recursivă” – punctul în care un model își poate proiecta singur succesorul, fără niciun control uman.
• Dilema siguranței: Coxon afirmă că Anthropic înțelege riscurile, dar compania rămâne prinsă într-o cursă competitivă: conducerea crede că trebuie să ajungă prima la superinteligență pentru că rivalii nu vor acționa responsabil.

Confirmare șocantă din interiorul Anthropic

Afirmațiile lui Coxon au fost susținute public chiar de un responsabil pentru siguranța AI în cadrul Anthropic, Evan Hubinger.

• Peste 10% șanse de catastrofă: Hubinger a confirmat că echipa sa crede cu adevărat în riscul existențial generat de AI, estimând personal la peste 10% șansele ca tehnologia să elimine umanitatea în următorul deceniu.
• Lipsa unui plan de control: Oficialul Anthropic a recunoscut că laboratoarele nu au în prezent o soluție clară pentru a garanta că o superinteligență va continua să asculte de creatori.

O industrie care cere reglementare în timp ce elimină frânele

Ieșirea din scenă a cercetătorului are loc într-un moment de tensiune maximă. În februarie, Anthropic a eliminat din carta sa de siguranță angajamentul de a opri dezvoltarea modelelor dacă riscurile nu pot fi controlate, motivând că o pauză unilaterală ar lăsa competitorii mai puțin prudenți să domine piața.

În ciuda avertismentelor lansate de peste 1.000 de angajați din sector și a apelurilor făcute de lideri tehnologici precum Dario Amodei (Anthropic) sau Jakub Pachocki (OpenAI) pentru un mecanism internațional de încetinire coordonată, cadrul legal rămâne inexistent. În SUA, propunerile legislative de suspendare a dezvoltării până la crearea unui organism de reglementare sunt abia în faza de proiect.