Jacob Coxon, un matematician britanic de 27 de ani, a anunțat că pleacă de la Anthropic și renunță la industria inteligenței artificiale. După ce a lucrat atât pentru Anthropic, cât și pentru OpenAI, el susține că dezvoltarea unor sisteme tot mai puternice nu mai poate fi făcută responsabil fără intervenția statelor.
Coxon și-a explicat decizia printr-o serie de mesaje publicate pe platforma X. „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joacă cu viețile noastre”, a scris el, referindu-se la OpenAI și Anthropic.
Specialistul a lucrat la antrenarea unor modele de inteligență artificială folosind cantități uriașe de date. El afirmă că, în interiorul industriei, termeni precum „crunchtime” și „endgame” sunt folosiți pentru a descrie etapa decisivă spre care se îndreaptă sectorul.
Temeri privind pierderea controlului
În opinia lui Coxon, scenariile extreme ar putea deveni realitate până la sfârșitul anului viitor. Competiția dintre laboratoarele americane și cele chineze ar încuraja compromisuri în privința măsurilor de siguranță, consideră fostul angajat al celor două companii.
„Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu de la o zi la alta și să dobândească putere și resurse reale”, a transmis el.
Coxon susține, de asemenea, că unii dintre oamenii implicați în dezvoltarea inteligenței artificiale cred că tehnologia ar putea provoca moartea tuturor oamenilor până la sfârșitul deceniului. „Nu este o strategie de marketing”, a adăugat matematicianul.
El afirmă că liderii și cercetătorii experimentați își aleg cu grijă declarațiile publice, în timp ce, în discuții private, își exprimă temerile. Coxon se întreabă de ce aceste sisteme sunt dezvoltate în continuare dacă riscurile sunt percepute ca fiind atât de mari.
De ce a plecat de la Anthropic
La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, atras de reputația companiei în domeniul siguranței modelelor. Deși consideră sincere eforturile Anthropic, el a ajuns la concluzia că nicio companie nu poate construi singură, în mod responsabil, o inteligență artificială capabilă să depășească oamenii într-o gamă largă de sarcini.
În cazul unei tehnologii de tip AGI, specialistul consideră necesare fie intervenția guvernelor, fie o încetinire coordonată a dezvoltării. El vede la OpenAI o înțelegere insuficientă a mizelor pentru civilizație, iar la Anthropic identifică o altă problemă: compania ar conștientiza riscurile, dar ar continua cursa pentru a ajunge prima, de teamă că rivalii nu vor acționa responsabil.
Plecarea lui Coxon se numără printre primele cazuri cunoscute în care un angajat al Anthropic renunță la companie din cauza preocupărilor legate de siguranța inteligenței artificiale. Anterior, un cercetător specializat în acest domeniu demisionase pentru a se dedica studiului poeziei, avertizând că „lumea este în pericol”.