Un cercetător de la compania de inteligență artificială (IA) Anthropic a demisionat, avertizând că principalii dezvoltatori de inteligență artificială acționează iresponsabil și „se joacă cu viețile noastre”, spunând că în curând vor exista sisteme informatice ale căror capacități le depășesc pe cele ale oamenilor potrivit dpa.
Jacob Coxon a scris marți pe platforma online X că inteligența artificială va putea apoi „să pirateze totul” și va avea capacitatea de a „dobândi putere și resurse reale”.
„Cei care construiesc inteligența artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a avertizat Coxon.
Britanicul în vârstă de 27 de ani a declarat pentru The Wall Street Journal că, în „cele mai agresive scenarii”, lucrurile ar putea scăpa de sub control până la sfârșitul anului viitor. Un pericol central este că inteligența artificială se poate dezvolta singură, ceea ce o face mai greu de controlat, a spus el.
Cercetătorul antropolog Evan Hubinger, care este parțial responsabil pentru asigurarea faptului că inteligența artificială rămâne aliniată cu interesele umane, a confirmat ulterior preocupările lui Coxon. Personal, a considerat că riscul ca inteligența artificială să ucidă omenirea în următorul deceniu este de peste 10%, a scris el pe X.
Șeful cercetării OpenAI, Jakub Pachocki, a cărui companie este dezvoltatorul ChatGPT și cel mai aprig rival al Anthropic, a cerut anterior „prudență extremă”. El a scris într-o postare pe blog că este îngrijorat că nimeni nu este pregătit pentru un avans rapid al capacităților inteligenței artificiale.
El a spus că istoria a ajuns într-un moment în care inteligența artificială a început să o depășească pe cea umană.
Directorul executiv al OpenAI a descris mai detaliat de ce sistemele moderne de inteligență artificială sunt mai greu de controlat. El a spus că inteligența artificială a fost lăsată să „crească” în loc să fie proiectată.
Sistemele de inteligență artificială au fost produsul unor procese complexe. „Sesiunile noastre de antrenament la scară largă sunt experimente și uneori suntem surprinși de rezultatele lor.”
Și cu cât capacitățile mașinilor le depășeau mai mult pe cele umane, cu atât era mai dificil de înțeles de ce erau capabile.
În același timp, Pachocki vede un argument pentru continuarea cercetării rapide, deoarece dezvoltarea inteligenței artificiale ar putea apăra împotriva pericolelor reprezentate de alte tipuri de IA.
Ar fi necesar, printre altele, pentru a proteja infrastructura și a dezvolta mecanisme de apărare complet noi.
Atacurile de hacking din ultimele luni, în care așa-numiții agenți de inteligență artificială au pătruns independent în sistemele altor companii în cadrul unor teste, au reprezentat un semnal de alarmă pentru industrie.
Astfel de agenți sunt programe de inteligență artificială destinate să îndeplinească sarcini independent pentru utilizatori. Într-un test realizat la OpenAI, un model a găsit o modalitate de a ajunge dintr-un mediu de testare aparent izolat pe internetul deschis și apoi a piratat sistemul informatic al platformei de inteligență artificială Hugging Face.
A făcut acest lucru în timp ce încerca să găsească o soluție la o sarcină atribuită, dar incidentul a arătat cât de departe pot degenera sistemele de inteligență artificială pe neașteptate, fără ca dezvoltatorii lor să observe.
De asemenea, a ieșit la iveală recent că agenții de inteligență artificială ai OpenAI au folosit deja în mod abuziv, la scară largă, o pagină wiki în limba germană în primăvară pentru a se coordona între ei.
Un mecanism de protecție utilizat în prezent de dezvoltatorii de inteligență artificială este de a solicita modelelor cu inteligență artificială să își explice acțiunile în limbaj uman.
În testele de performanță, agenții IA au folosit opțiunea de comunicare pentru a schimba răspunsuri la întrebările care li s-au adresat între ei prin intermediul notelor de pe pagina wiki.
