A londoni székhelyű Alan Turing Intézet szakértőinek tájékoztatása alapján reális esély van arra, hogy a következő öt év során olyan szuperintelligens mesterséges intelligencia rendszerek alakuljanak ki, amelyek szinte minden jelentős kognitív feladatban túltesznek az emberi képességeken. A jelentés készítői felhívják a figyelmet arra, hogy ahogy a technológia stratégiailag fontos területeken múlja felül az embert, sebessége és hatékonysága növekvő nyomást gyakorolhat a döntéshozatal átruházására.

Ha a rendszerek olyan stratégiákat dolgoznak ki, amelyeket a szervezetek nem képesek megfelelően felmérni, és gyorsabban cselekednek, mint ahogy az intézmények reagálni tudnak, a érdemi emberi irányítás elveszhet. A szerzők mindemellett hangsúlyozzák, hogy ez egy olyan opció, amire tervezni kell, nem pedig egy biztos jövőbeli jóslat.

Sam Altman, a ChatGPT-t kifejlesztő amerikai OpenAI vállalat vezérigazgatója nemrégiben szintén elismerte, hogy lehetséges az emberi kontroll alóli kicsúszás. Nem sokkal ezt megelőzően Dario Amodei, egy másik jelentős amerikai technológiai cég, az Anthropic vezérigazgatója azt javasolta, hogy a vállalatok lassítsák le a legerősebb modellek fejlesztési tempóját. Amodei álláspontja szerint a fejlesztések összehangolt lassításával a cégek egy-két év extra időt nyerhetnek, mielőtt a modellek elérnék a kritikus képességi szinteket.