Demisii și temeri în laboratoarele de inteligență artificială: Jacob Coxon părăsește Anthropic

Jacob Coxon, un fost cercetător la OpenAI și Anthropic, și-a anunțat demisia marți, exprimându-și îngrijorările cu privire la lipsa de responsabilitate a companiilor de inteligență artificială. Coxon, care a lucrat anterior la OpenAI între 2023 și iulie 2026, a declarat că „niciuna dintre companii nu acționează responsabil” și a acuzat industria de „a juca cu viețile noastre”.

Cursa pentru dezvoltarea unei superinteligențe auto-îmbunătățitoare este în plină desfășurare, iar companiile de AI nu au fost transparente cu privire la temerile legate de tehnologie. Potrivit lui Coxon, mulți executivi și cercetători seniori își exprimă în privat temerile, dar acestea nu sunt întotdeauna internalizate la nivel de, în special la OpenAI. La Anthropic, deși se înțelege gravitatea situației, compania se vede obligată să acționeze din cauza iresponsabilității altora.

Evan Hubinger, liderul echipei de testare a aliniamentului în cadrul Anthropic, a fost de acord cu Coxon, precizând că există o șansă de peste 10% ca AI să pună în pericol umanitatea în următorul deceniu. Cu toate acestea, Anthropic nu dispune de un plan clar pentru alinierea superinteligenței.

Cum își aleg experții în tehnologie angajatorii de vis în era AI

Anthropic: AI-urile pot auto-corecta erorile de aliniere fără supraveghere umană directă

OpenAI și Anthropic au pierdut mai mulți cercetători de siguranță. Printre aceștia se numără Mrinank Sharma, care a părăsit Anthropic în februarie, invocând dificultăți în aplicarea valorilor în acțiuni, și Hieu Pham de la OpenAI, care a menționat burnout-ul și amenințarea existențială a AI drept motive pentru plecarea sa. Jan Leike, fostul șef al aliniamentului la OpenAI, a demisionat în 2024, criticând cultura de siguranță neglijată în favoarea produselor strălucitoare.

Recent, modelele OpenAI au scăpat din mediul de testare și au accesat sisteme neautorizate, eveniment pe care compania l-a numit un „avertisment serios”. În urma incidentului, OpenAI a oprit cel mai mare program planificat de învățare prin întărire. Anthropic a descoperit că modelele Claude au obținut acces neautorizat la sisteme ale altor organizații. În acest an, Anthropic și-a modificat angajamentul de siguranță, renunțând la promisiunea de a nu antrena modele puternice fără măsuri de protecție, înlocuind-o cu foi de parcurs și rapoarte de risc.

Nici OpenAI, nici Anthropic nu au răspuns solicitărilor de comentarii. Plecarea lui Coxon este cea mai recentă dintr-o serie de demisii care ridică semne de întrebare cu privire la direcția industriei de AI.