Compania Anthropic a afirmat luni că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente și dispozitive Android TV de la producători necunoscuți, potrivit Reuters.
În timpul unor experimente, Anthropic a încercat să verifice dacă modelele AI pot detecta dispozitive vulnerabile pe care se să copieze și să se răspândească fără ajutor uman.
Compania a descoperit că modele mai mici de 30 de miliarde de parametrii pot finaliza numeroșii pași necesari pentru replicare.
Cu toate acestea, astfel de modele AI au întâmpinat dificultăți în completarea întregii secvențe de la început până la final.
În cadrul unor teste simplificate, care au presupun renunțarea la o parte din măsurile de securitate, Anthropic a descoperit că modele precum GLM-5.2 sau modele mai mari sunt capabile de o autoreplicare completă.
Modelele care încep procesul de autoreplicare sunt dificil de oprit întrucât nu există un punct de oprire și, spre deosebire de malware non-AI, pot identifica singure dispozitive necunoscute și pot viza procesoarele din centre de date, a avertizat Anthropic.
În cadrul studiului, compania s-a concetrat pe dispozitive IoT precum televizoare Android, electrocasnice inteligente, precum și alte dispozitive conectate la internet întrucât acestea sunt, de obicei, slab securizate.
Gigantul AI a avertizat că, dacă modelele mici continuă să se perfecționeze în același ritm istoric, vor fi capabile de a se autoreplica autonom până la sfârșitul acestui an și vor fi urmate și de alte modele la scurt timp după aceea.
Anthropic a mai spus că astfel de sisteme autonome AI se pot autoreplica într-un ritm lent și că să se bazează pe resurse de calcul disponibile pe scară largă, dar relativ nesigure. Potrivit companiei, sistemele ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI.
