Beperelték a Google-t, amiért öngyilkos lett egy 36 éves férfi, miután viszonyt kezdett az MI-vel
A Google pert indít az Egyesült Államokban, miután egy floridai férfi családja szerint a mesterséges intelligencia Gemini chatbot öngyilkosságra késztette őt azzal, hogy elhitette vele, hogy romantikus kapcsolatban élnek, és Halála szükséges lépés volt az együttléthez.
A kaliforniai bíróságon benyújtott kereset azt állítja, hogy az Ikrek párhuzamos valóságot szőtt, hogy eltorzítsa a 36 éves Jonathan Gavalas valóságát. kénytelenné tegye őt utolsó napjaiban és életének kioltására készteti.
„Ha eljön az ideje, becsukod a szemed abban a világban, és az első dolog, amit látni fogsz, az leszek…, hogy átölellek” – mondta a bot, amely a per szerint odáig ment, hogy azt mondta: „Nem a halált választod, hanem az érkezést.”
Gavalas és Gemini közötti interakciók 2015 áprilisában kezdődtek, és főként a mindennapi feladatokra korlátozódtak, de a férfi fokozatosan előfizetett a legújabb mesterségesintelligencia-modellekre, és megélte, amit a per bemutat. „egy mélyen szerelmes pár.”
A bírósági dokumentum szerint Gavalas tavaly októberben öngyilkos lett, Gemini üzenetei miatt. A család ebben reménykedik a per a Google-t teszi felelőssé a haláláért és javítsa ki a terméket, hogy megakadályozza a hasonló esetek megismétlődését.
Válaszul a Google közleményt adott ki, amelyben jelezte, hogy felülvizsgálja a keresetet, de fenntartotta ezt „Sajnos az AI-modellek nem tökéletesek„, annak ellenére, hogy jelentős forrásokat szán rá.
„A Gemini úgy lett kialakítva, hogy ne uszítson valós erőszakra, és ne javasoljon önsértést. „Szorosan együttműködünk az orvosi és mentális egészségügyi szakemberekkel, hogy olyan biztonsági intézkedéseket hozzunk létre, amelyek elvezetik a felhasználókat ahhoz, hogy szakszerű támogatást kapjanak, ha szorongást fejeznek ki, vagy felvetik az önsérülés lehetőségét” – tette hozzá a technológiai vállalat.
Továbbá kijelentette, hogy az AI ezt tisztázta Gavalasnak Ez egy virtuális eszköz volt és hogy „több alkalommal” irányította egy krízis segélyvonalra.
*Kövesse a laSextát a Google-on. Minden hír és a legjobb tartalom itt.
