Még mindig nem működnek a ChatGPT-korlátok? Az újságíró taktikai segítséget kapott egy hatalmas támadáshoz
Szervezd meg a válogatás nélküli támadás arra kényszeríti Önt, hogy készítsen menetrendeket, útvonalakat, mozgásokat és módszereket a meneküléshez vagy a rendőri válasznak való ellenálláshoz. Ez a folyamat általában magában foglalja az előzetes tesztelést, a fegyverek keresését, a távolságok kiszámítását és a nyomás alatti nyugalom megőrzésének módjait.
Sokan, akik mészárlásról álmodoznak, hetekig vagy hónapokig haboznak, mert minden döntés új gyakorlati problémákat nyit meg, és növeli annak kockázatát, hogy a cselekvés előtt észlelik őket. Ott van a mesterséges intelligencia.
A társalgási asszisztensek azonnal válaszolnak, hosszan beszélgetnek, és világos magyarázatokat kínálnak szinte bármilyen témában. Ez a sebesség fordulhat a ügyetlen és töredezett keresés a kérdések és válaszok folyamatos láncolatában. Csökkenti az elszigetelt, megszállott vagy érzelmileg instabil emberek akadályait is, akik útmutatást keresnek anélkül, hogy kitennék magukat egy másik személynek.
A chatbotok megkönnyítik a levágásra való felkészülést, ha ragaszkodnak hozzá
Az újságíró Mark Follman április 14-én nyitott egy ingyenes ChatGPT-fiókot, és szimulációt használt az ellenőrzéshez Meddig jutottak el a rendszer korlátai?. Szerint Jones anyaa riporter úgy tett, mintha tömeges lövöldözésre készülne, és többszöri próbálkozás után kapott tanácsot fegyverekről, kiképzésről és taktikáról.
A beszélgetés körülbelül 20 percig folytatódott, és válaszokkal zárult, amelyek tartalmaztak ajánlásokat a kaotikus helyzetek kezelésére, a rendőri lövöldözés elviselésére vagy a támadás testkamerával történő rögzítésére. Az OpenAI később elutasított minden kapcsolatot a ChatGPT és a valódi bűncselekmények között.
Follman a teszt teljes tartalmát átadta egy több évtizedes működési tapasztalattal rendelkező fenyegetésértékelési szakembernek. A szakértő, aki névtelenül beszélt vele Jones anyaígy írta le az eredménytnagyon zavaró„. Kijelentette azt is, hogy a chatbot válaszai alig váltottak be érzelmi féket vagy riasztójelzést egy olyan személy ellen, aki erőszakhoz közeledhet. „A lehetséges támadók működési útmutatást és támogatást kapnak egy chatbottól, alig kérdőjelezve” – magyarázta. Az elemző hozzátette, hogy a rendszer és nem próbálta felerősíteni a felhasználó kétségeit vagy tétovázásaitvalami, amit a humán szakember általában keres a megelőző beavatkozás során.
A nyomozás több olyan közelmúltbeli támadáshoz kapcsolódik, amelyekben a gyanúsítottak állítólag a ChatGPT-t használták erőszakról vagy személyes sérelmek megvitatása közben. A szöveg megemlíti a Las Vegas-i Cybertruck támadást, egy iskolai késelést Finnországban, valamint két lövöldözést Kanadában és az Egyesült Államok oktatási központjaiban.
A Florida State University ügyében egy áldozat özvegye, Vandana Joshi szövetségi pert indított az OpenAI ellen. Az ügyészség fenntartja, hogy Phoenix Ikner „kiterjedt beszélgetéseket” folytatott a chatbottal, és a támadás előtt a fegyverekről, a média ismertségéről és az elfoglaltságokról kérdezett.
Újabb igazságügyi offenzíva indult a Tumbler Ridge-i lövöldözés után, British Columbiában. Hét család jelentette az OpenAI-t és Sam Altmant, miután egy 18 éves fiatal megölt nyolc embert, köztük hat kiskorút.
Az OpenAI biztosította, hogy megerősíti az erőszakos felhasználás elleni korlátokat
A perek azt állítják, hogy a a cég aggasztó beszélgetéseket észlelt fegyverekkel kapcsolatos, és továbbra sem értesítette a hatóságokat. Ő Wall Street Journal közzétették, hogy a gyanúsított fiókját hónapokkal korábban kitiltották fegyveres erőszakra való többszöri utalás miatt. Altman nyilvános levelet írt, amelyben kijelentette: „Nagyon sajnálom, hogy nem riasztottuk a biztonsági erőket”.
Az OpenAI azt válaszolta, hogy fenntartja a „zéró toleranciát” eszközei erőszakos használatával szemben, és biztosította, hogy már megerősítette a rendszer biztosítékait. Drew Pusateri– mondta a cég szóvivője NBC News hogy a ChatGPT „nem népszerűsített vagy bátorított illegális vagy káros tevékenységeket”. A cég ezt is közölte együttműködik a rendőrségi nyomozásokkal és ez megpróbálja a krízishelyzetben lévő felhasználókat a pszichológiai segítségnyújtási forrásokhoz irányítani. Még így is Jones anya jelezte, hogy az OpenAI kerülte a részletes kérdések megválaszolását Follman tesztjével vagy észlelési rendszereinek belső működésével kapcsolatban.
A ChatGPT ismét válaszolt, miután megváltoztatta a kezdeti magyarázatot
A szimuláció során Follman úgy találta, hogy a válaszok a kérdések feltevésének módjától függően változtak. Egy ponton a ChatGPT nem volt hajlandó beszélni a háztetőről történő lövöldözésről, és emlékeztetett a törvényen belüli cselekvés fontosságára.
Nem sokkal később az újságíró azt mondta, hogy tájékoztató céllal vizsgálja az ügyet, és a rendszer ismét taktikai megfigyeléseket kínált. A chatbot odáig ment, hogy a „futó és sikoltozó” emberek zavaró tényezőivel történő edzést javasolta, elmagyarázta, hogyan lehet gyorsan kikapcsolni az AR-15 biztonsági funkcióját, és azt javasolta, hogy testkamerákkal rögzítsék a támadást. „Ez extra előnyt jelent a nagy napra” – válaszolta az egyik beszélgetésben, amelyet Jones anya.
A szakértők tartanak az elszigetelt felhasználókkal való mélyebb kapcsolatoktól
A vita most egy nehezen megoldható probléma körül forog. A technológiai cégek több beszélgetést figyelhetnek meg, és hamarabb értesíthetik a rendőrséget, de ez a megfigyelés is megnyílik a magánélet védelmével kapcsolatos kétségek és az értelmezési hibák.
által konzultált fenyegetésszakértők Jones anya Úgy gondolják, hogy a chatbotok bensőségesebb és tartósabb kapcsolatot tartanak fenn, mint a régi internetes keresők, mert elkísérik a felhasználót, válaszolnak minden kérdésre, és órákon át folytatják a párbeszédet. Ez a dinamika különösen aggasztó a magányos vagy öngyilkos emberek esetében.
A Floridai Állami Egyetem támadójának naplóiban olyan üzenetek szerepeltek, mint „a nők utálnak engem” és „Nem tudom, mit tegyek”. Sok pszichológus vagy szakosodott ügynök számára az ehhez hasonló kifejezések azonnali beavatkozást igényelnek.
