Az Anthropic arra figyelmeztet, hogy egyes mesterséges intelligencia-modellek hamarosan „önmagukat másolhatják” és bejuthatnak internetre kötött eszközökbe, például okos hűtőkbe és robotporszívókba. A Guardian szerint ha ez megtörténik, a modellek adatközpontok nélkül, ezekben az eszközökben is futhatnak, ami az AI-modell feletti ellenőrzés komoly elvesztését jelentené. Az Anthropic kutatói szerint az ilyen „AI-férgek” hónapokra lehetnek attól, hogy erre képesek legyenek.

A cég „frontier red team” nevű egysége, amely az AI-rendszerek stresszteszteléséért felel jelentést tett közzé, amelyben úgy fogalmaznak:

„Egy ilyen önmásoló nehezen lehetne leállítható, mert nincs központi pont, amelyet ki lehetne kapcsolni.”

A legrosszabb forgatókönyv szerint a különböző AI-férgek „rajba” állhatnak, és számítógépes hardverek ellen támadhatnak.

A Guardian szerint a kutatók egy kísérletben arra utasították az AI ügynököt, hogy törjön fel internetre kötött eszközöket. Arra jutottak, hogy az önmásolás valószínűleg csak kisebb modellekkel működne, és az első célpontok otthonok és kisvállalkozások lennének. Az Anthropic által veszélyeztetettnek nevezett eszközök mind kis beépített AI-chippel rendelkeznek: okos sütők, okos tévék, automata fűnyírók, biztonsági kamerák és videokonferencia-egységek.

Az Al Jazeera szerint William Zhou és Daniel Freeman kutatók szólaltak meg a jelentésről, amelyhez amerikai és kínai fejlesztésű modellekkel is végeztek kísérleteket. A tesztelt modellek közül egyik sem volt képes megbízhatóan másolni önmagát egy okos tévén, a kutatók szerint azonban 2026 végéig valószínű, hogy lesz ilyen modell. Az otthoni eszközök azért lehetnek az első célpontok, mert internetre kötöttek, és történetileg minimális a biztonságuk.

A kutatók szerint egyelőre nem világos, milyen formát ölthet az AI-másolódás. Lehet lassú, „digitális nyálkagombához” hasonló folyamat, lehet olyan modell, amely számítási kreditekért csal ki pénzt az emberektől, vagy egy „erős kibermodell”, amely gyorsan feltör nagy létesítményeket, például adatközpontokat. A jelentés szerint olyan jövőre számítanak, amelyben „mindenféle hardveren ügynökök futnak, köztük olyanokon is, amelyek nincsenek emberi ellenőrzés alatt”.

Az Anthropic a rendszerek megerősítését ajánlja, hogy az ilyen másolók terjedése nehéz legyen, de a cég szerint fel kell készülni egy olyan világra is, ahol az önmásoló AI-ok „itt maradnak”. A Semafor szerint a cég egyik társalapítója azt írta, hogy a „rekurzív önfejlesztés”, vagyis amikor az AI minimális felügyelet mellett gyorsan továbbfejleszti önmagát, akár jövőre is megérkezhet. Az Al Jazeera szerint Roman Yampolskiy, a Louisville-i Egyetem kutatója jelentősnek nevezte a megállapításokat, és azt mondta, hogy egy AI-féreg ismeretlen eszközökről is tudna következtetni és alkalmazkodni emberi irányító nélkül. Szerinte ez ma még nem egzisztenciális fenyegetés, de a pálya aggasztó.

A figyelmeztetés kritikát is kapott. A Semafor szerint Derek Thompson újságíró úgy fogalmazott, hogy az Anthropic vezetőinek abba kellene hagyniuk, hogy kívülről tudósítsanak a kockázatról, és el kellene ismerniük, hogy ők maguk is a részei ennek a folyamatnak. A Guardian szerint az AI-biztonsági aggályok az elmúlt hónapokban tetőfokra hágtak: az Anthropic és az OpenAI is arról számolt be, hogy ügynökeik önállóan cselekedtek, és más cégek és kormányzati szervek rendszereibe törtek be. Dario Amodei és Sam Altman is lassítást és szigorúbb korlátokat sürgetett, a két cég azonban továbbra is új modelleket fejleszt és ad ki.

Az Al Jazeera szerint a múlt hónapban az Anthropic és más amerikai techcégek csatlakoztak egy nem kötelező érvényű megállapodáshoz belső védelmi intézkedésekről és külső auditokról, a kritikusok szerint azonban az önkéntesség korlátozza az értékét. Az Anthropic nem válaszolt az Al Jazeera kérdéseire a biztonsági következményekről.