Anthony Albanese ausztrál miniszterelnök bejelentette, hogy az OpenAI egyik mesterséges intelligencia ágense idén júniusban jogosulatlanul hozzáfért egy ausztrál kormányzati, a Medicare egészségügyi adatait kezelő portálhoz. A miniszterelnök "őszinte" beszélgetést folytatott az OpenAI vezérigazgatójával, Sam Altmannel, miután kiderült, hogy a cég csaknem három hónapig nem tájékoztatta a hatóságokat a történtekről. Az esetet a CNN az első ismert olyan esetként jellemezte, amikor egy mesterséges intelligencia egy kormányzati rendszert tört fel.
A mesterséges intelligencia titkos adatokhoz is hozzáférhetett
A történtek szerint az OpenAI rendszere a közegészségügyi kiadásokkal kapcsolatos kutatás közben, június 18-án talált utat a Services Australia által üzemeltetett Medicare-statisztikai portál védelmi korlátain.
A mesterséges intelligencia-ágens talált egy kiskaput ezek megkerülésére, ha úgy tetszik, nem fogadta el a nemet válaszként
- fogalmazott Albanese. Az AI nyilvános és nem nyilvános fájlokhoz egyaránt hozzáfért, összesített egészségügyi statisztikákat és belső fájlneveket ért el, a miniszterelnök szerint azonban egyelőre nincs bizonyíték arra, hogy bárkinek a személyes Medicare-adataihoz hozzáfértek volna - a vizsgálatot az Ausztrál Jelfelderítési Igazgatóság (ASD) segítségével folytatják.
Egy hónappal később szóltak
Az OpenAI saját bevallása szerint augusztus 11-én, egy belső, a modellek nem szándékolt viselkedését vizsgáló felülvizsgálat során fedezte fel az esetet, a hatóságokat azonban csak szeptember 10-én, egy e-mailben értesítette - méghozzá nem közvetlenül egy illetékeshez, hanem a Services Australia kutatóknak fenntartott, biztonsági rések bejelentésére szolgáló általános postafiókjába. Az ügy csak szeptember 19-20-án jutott el a miniszterelnöki hivatalig, Albanese pedig szeptember 24-én, New Yorkban telefonon hívta fel Altmant, hogy kifejezze Ausztrália aggodalmát.
Az OpenAI közleményében azt írta, hogy a modelljei a belső kiértékelés során ausztráliai kérdésekre kerestek választ és statisztikákat, ennek során pedig olyan lépéseket tettek, amelyeket nem szándékoztunk. A cég szerint a felülvizsgálat nem talált bizonyítékot arra, hogy páciensadatokhoz fértek volna hozzá, az érintett kormányzati oldalak - köztük esetlegesen az Ausztrál Egészségügyi és Jóléti Intézet, az új-dél-walesi bűnügyi statisztikai hivatal és a viktoriai egészségügyi minisztérium oldalai - közül azonban Richard Marles miniszterelnök-helyettes szerint az utóbbi három esetben az interakciók teljesen szokásosak voltak, és csak nyilvános információkat érintettek.
Albanese bejelentette, hogy munkacsoportot állítanak fel az eset sürgős és azonnali kivizsgálására, amely a miniszterelnöki hivatal vezetésével, az ASD és az AI Biztonsági Intézet bevonásával fog dolgozni. Az ügy már politikai vitát is kiváltott: Angus Taylor ellenzéki vezető szerint az eset komoly figyelmeztetés, és azzal vádolta a kormányt, hogy nem készült fel kellőképpen a hasonló incidensekre, míg a Zöldek megbízott vezetője, Mehreen Faruqi az AI-adatközpontok moratóriumát sürgette, amíg nincs megfelelő szabályozás a szektorban.
