Az „őrült baloldaliaktól” a „nagyon okosak és hasznosak”ig: mi történik Trump és az AI induló Anthropic között
A lendületes mesterséges intelligencia iparban nehéz nyomon követni az összes szereplőt, ha nem rendszeresen használja eszközeit. Ami az Anthropicot illeti, az egyik legmodernebb startup az üzletágban, az első utalás arra, hogy a közvélemény egy része Donald Trump nagy harcából származik. Egy „radikális baloldali és felébredt társaság”, amelyet „őrült baloldaliak” vezetnek, akiknek „önzősége amerikai életeket kockáztat”, és amely az amerikai elnök szerint arra törekszik, hogy „megszabja, hogyan harcoljon és nyerjen háborúkat a mi nagyszerű hadseregünk”.
A botrány kiváltó oka az iráni háború volt. Azon a hétvégén, amikor az Egyesült Államok bombázásai megkezdődtek az országban, az Anthropic megtagadta a mesterséges intelligencia katonai felhasználására vonatkozó bizonyos korlátozások feloldását. A cég és az amerikai média szerint ezek a korlátok konkrétan kettősek voltak: az egyik, amely megakadályozza, hogy autonóm fegyverek irányítására használják, és az, amely megakadályozza, hogy tömeges megfigyelést végezzen a lakosságon.
Ez két hónapja történt. Ezen a héten Trump „nagyon okos emberek csoportjaként” emlegette a startupot, akik „nagyon hasznosak lehetnek”. „Szeretem a magas IQ-jú embereket, és minden bizonnyal magas az IQ-juk” – mondja most a republikánus az Anthropic vezetésével kapcsolatban. „Általában baloldaliak, radikális baloldaliak, de jól kijövünk velük” – vallja be: „Szerintem visszatérnek a pályára.”
Mi történt a két kijelentés között? Trump szerint egy találkozó a Fehér Házban, amelyen „nagyon jó beszélgetéseket” folytattak Anthropickal. De van még valami, amit a republikánus nem említ: egy mesterséges intelligencia-modell napvilágra kerülése, amely új szintre emelheti a globális kiberbiztonságot. Vagy legyen bármely számítógépes rendszer legrosszabb rémálma, attól függően, hogy ki irányítja.
Claude Mythos előtte és utána
Március utolsó hetében az Anthropic bejelentette, hogy kifejlesztett egy Claude Mythos mesterséges intelligencia modellt, amely állítása szerint példátlan képességgel rendelkezik a fő operációs rendszerek és webböngészők sebezhetőségeinek azonosítására és kihasználására: Jobb, mint a legképzettebb emberek.
Emiatt bevezetését néhány megbízható vállalatra korlátozták, hogy elemezhessék kiberbiztonságukat, és megakadályozzák Claude Mythos nagyszabású hackerkampányát. A hozzáférést először nagy amerikai technológiai cégek, majd az ország bankjai, legutóbb pedig brit bankok kapták meg.
Ez a partnerlista eddig alig közölt részleteket Claude Mythos működéséről. Az Amazon, a Microsoft vagy a Google (az Anthropic közvetlen befektetői) vagy a bankok, mint a Goldman Sachs, a JPMorgan, a Citigroup vagy a Bank of America arra szorítkoztak, hogy a kiberbiztonság stratégiai fontosságáról nyilatkozzanak, amikor arról kérdeznek.
Az egyetlen, amely számokat közölt, a Mozilla, a Firefox böngészőt fejlesztő alapítvány, amely hétfőn közzétette a Mythos által észlelt 271 biztonsági rés javítását. „A számítógépes sérülékenységek végesek, és egy olyan világba lépünk, ahol végre mindet megtalálhatjuk” – nyilatkozta az ilyen típusú modellek képességeiről.
A számítógépes sebezhetőségek végesek, és egy olyan világba lépünk, ahol végre megtalálhatjuk őket
Mozilla Alapítvány
— Claude Mythosról
„Az egyetlen dolog, amit tudunk, az az, hogy ez egy rendkívül hatékony eszköz” – magyarázza Rafael López, a Checkpoint cég kiberbiztonsági kutatója. „Ha azelőtt egy hónapba telhetett volna, amíg egy termék sebezhetőségét megtalálja, akkor itt órákról beszélünk” – folytatja.
„Több alkalmazás és több biztonsági rendszer színeit is ki tudja hozni, de nem olyan tűzijáték, mint ahogyan el akarták adni” – teszi fel a kérdést a szakember: „Továbbra is szükség lesz arra, hogy az emberek ellenőrizzék, hogy minden rendben van-e, bár egyértelmű, hogy sokat segít, és mindent sokkal könnyebbé tehet.”
A Mythos valós képességeivel kapcsolatos részletek hiánya felkeltette a gyanút, hogy mindennek, ami körülötte történik, lehet-e propagandakomponense. Az egyik első, aki ebbe az irányba mutat, Sam Altman, az OpenAI ügyvezető igazgatója, akit többször megvádoltak azzal is, hogy a félelemmarketinget a maga javára használja.
„Hihetetlen marketingstratégia, ha azt mondjuk: „Bombát építettünk, a fejedre dobjuk, 100 millió dollárért eladunk neked egy bombamenedéket, amivel megvédheted az összes vagyonod, de csak akkor, ha téged választunk ügyfélnek” – mondta Altman, aki két évvel ezelőtt a mesterséges intelligencia fejlesztését az atombomba megalkotásához vezető Manhattan Projekthez hasonlította.
Az antropikus etika és stratégiai hátrány Kínával szemben
Amikor Trump két hónappal ezelőtt megtámadta az Anthropicot, csapása nem állt meg a dialektikánál. Azt is elrendelte, hogy a startupot „kockázat az ellátási láncra” címkével látják el, ami azt jelenti, hogy sem azt, sem a hozzá kapcsolódó más céget nem veheti fel az adminisztráció. A gyakorlatban ez vállalati gyilkosságnak felel meg.
Az Anthropic bíróság elé vitte a döntést, és elővigyázatossági intézkedésként sikerült megállítania. Claude Mythos megjelenése emlékeztethette Trumpot az egyik legkorszerűbb mesterségesintelligencia-cégének kiközösítésének kockázatára. De ahhoz, hogy megértsük, miért volt olyan erős a kezdeti reakció, meg kell nézni Kínát.
Anthropic reakciója az iráni háború kezdetére rávilágított a Washington és Peking közötti stratégiai hátrányra. Az ázsiai óriáscégben nem képzelhető el, hogy egy cég korlátokat szabhasson technológiája katonai felhasználásának, ahogy azt a Dario Amodei vezette startup tette. „A kínai rendszer azon az előfeltevésen alapul, hogy minden polgári fejlesztésnek az első naptól kezdve van katonai alkalmazása, és fordítva” – magyarázza Claudio Feijóo, a Madridi Politechnikai Egyetem kínai gazdaságra és technológiára szakosodott professzora.
Nyugaton – magyarázza a szakember – gyakran beszélünk „kettős technológiákról”, amikor mindkét területen alkalmazhatók. Kínában azonban ezt a kapcsolatot magától értetődőnek tekintik, és a „polgári-katonai fúzió” fogalmán keresztül magába az állami jogba is beépülnek. „A társadalom minden szintjére vonatkozik” – folytatja Feijóo, közvetlenül bevonva mind az „egyetemeket”, mind a „vezető technológiai vállalatokat”.
Ez alatt a prizma alatt van stratégiai értelme Donald Trump példaértékű büntetésének az Anthropic ellen. A Fehér Ház mögött meghúzódó félelem a „fertőző hatás”: attól a félelemtől, hogy az egyik vállalat etikai lázadása példaként szolgálhat más kulcsfontosságú vállalatok alkalmazottai számára, hogy megtagadják a Pentagonnal való együttműködést, ahogyan ez a múltban megtörtént az olyan multinacionális vállalatoknál, mint a Google.
Ahogy Feijóo figyelmeztet, ez újabb bizonyítéka annak, hogy a világ „kínaivá” válik azáltal, hogy „a nemzetbiztonságot minden más fölé helyezi”. Amikor az állam a biztonsági chartára hivatkozik, „elvész a racionalitás”, és egyértelmű az üzenet a cégeknek: „mindenki sorban, és azt tegye, ami az országért szükséges”.
Egy megállapodás, amit senki sem akar aláírni
Bár a Kínai Kommunista Párt és a Fehér Ház közötti aszimmetria a technológiai vállalataik felett gyakorolt irányítás terén nyilvánvaló az olyan esetekben, mint az Anthropic, a probléma a két szuperhatalom közötti kölcsönös bizalmatlanságban rejlik. A védelem területén évek óta létezik egy nemzetközi kezdeményezés a Mesterséges Intelligencia Felelősségteljes Felhasználása Katonai Területen (REAIM) elnevezésű kezdeményezés, amely arra törekszik, hogy mindig legyen „ember a hurokban”: egyetlen autonóm rendszer se támadjon emberi felügyelet nélkül.
A megállapodást Dél-Korea és Hollandia támogatta, és több tucat ország ratifikálta, köztük Spanyolország. De Washington, Peking és Moszkva nem szerepel a listán. „Senki sem akarja aláírni, mert senki sem bízik abban, hogy mások betartják” – magyarázza Feijóo. „Amikor az emberek nem akarnak olyan megállapodást aláírni, amely a mesterséges intelligencia irányításával kapcsolatos a védelmi szektorban” – összegzi –, akkor azt gondolja, hogy már meg is teszik.
