350 de personalități marcante din domeniul Inteligenței Artificiale (IA) au lansat o petiție, afirmând că reducerea riscurilor asociate cu aceasta ar trebui să fie o prioritate globală.
Inițiativa, condusă de Centrul pentru Siguranța Inteligenței Artificiale, a obținut susținerea liderilor din industrie, inclusiv CEO-urile OpenAI, Google-DeepMind și Microsoft.
Apelul reiterează cererile dintr-o scrisoare deschisă anterioară, semnată de peste o mie de personalități, inclusiv de către Elon Musk, care cerea o „pauză” în cercetarea avansată a IA.
Preocuparea cu privire la riscul existential pe care IA îl prezintă omenirii a câștigat teren printre cercetători de top precum Geoffrey Hinton și Yoshua Bengio, ambii recunoscuți pe scară largă ca pionieri ai inteligenței artificiale moderne. Cu toate acestea, Yann LeCun, liderul în cercetarea în domeniul IA al Meta (compania mamă a Facebook), rămâne optimist și afirmă că IA nu va deveni ostilă față de oameni.
Bazele acestei petiții pot fi urmărite până la principiile fondatoare ale OpenAI. În 2015, Elon Musk, unul dintre cofondatori, a avertizat cu privire la riscurile IA, considerând-o potențial mai periculoasă decât bombele nucleare.
Totodată, OpenAI a cerut stabilirea unui cadru de reglementare global al IA. Aceștia propun ca guvernele să colaboreze la un proiect similar cu CERN, cu structuri asemănătoare Agenției Internaționale pentru Energie Atomică, care să fie responsabilă de verificarea autorizărilor software-ului de IA.
În timp ce unii semnatari subliniază necesitatea reglementărilor, s-au ridicat îngrijorări cu privire la potențialul impact al obligațiilor de transparență și evaluare a riscurilor asupra sistemelor de IA. CEO-ul OpenAI, Sam Altman, a solicitat găsirea unui echilibru între reglementare și inovare.
Viitorul reglementării IA va depinde probabil de discuțiile dintre Statele Unite și Europa. Pe măsură ce Consiliul Comercial și Tehnologic se întrunește, vocile din Statele Unite cer, de asemenea, reglementarea IA.
