Felügyelet és digitális biztonság: európai arcfelismerés brazil iskolások számára
A dél-brazíliai Paraná állam 1700 iskolájában egy rituáléval kezdődnek az órák: a tanár megnyit egy alkalmazást, lefényképezi az osztálytermet, és egy algoritmus másodperceken belül összehasonlítja az arcokat egy biometrikus adatbázissal. Akit felismernek, azt jelenlévőnek tekintik. 2023 óta használják ezt az arcfelismerést Paranában, hogy naponta csaknem egymillió gyereket azonosítsanak.
De a rendszer rossz. Egy tanár mesél egy diákról, aki az órán volt, de azt tapasztalta, hogy hiányzik az alkalmazásból. – Nem jelölöm meg őket hiányzónak – mondta a tanár. – A kamera ezt csinálja. Egyes családok számára egy ilyen hiba végzetes. Mert a Bolsa Família szociális juttatás a gyerekek iskolába járásától függ. Paranában ezeket az adatokat nagyrészt egy algoritmus generálja.
A szoftvert a szlovák Innovatrics cég fejlesztette ki. Ezt mutathatja ki az Investigate Europe kutatása, amely kizárólag a németországi tazban jelenik meg. Az EU-ban hasonló telepítés rendkívül problematikus lenne. 2019-ben a svéd adatvédelmi hatóság pénzbírságot szabott ki egy iskolára, amely 22 diákot rögzített arcfelismeréssel. Az ok: A gyerekek nem járulhatnak hozzá szabadon a biometrikus megfigyeléshez, mert túl nagy az erőkiegyensúlyozatlanság. A franciaországi Marseille-ben a bíróság 2020-ban hasonló okok miatt leállított két kísérleti projektet az iskolákban.
Ábra:
Yorgos Konstantinou
A szöveg a taz panterstiftung Sajtószabadság Napja alkalmából készült külön mellékletének része, amely 2026. május 2-án jelenik meg a wochentaz-zal együtt. Az átfogó téma a technológia és a sajtószabadság. A kiadvány finanszírozása csak adományokból történik. Köszönjük a támogatást! A melléklet összes szövege megjelenik a taz.de oldalon a sajtószabadság rovatban is.
Az EU szigorúan szabályozta az arcfelismerést a GDPR-ral és a 2024-es mesterségesintelligencia-törvénnyel, de nem tiltotta be azt egyenesen. A technológia harmadik országokba irányuló exportja nincs korlátozva. Az Európai Parlament az EU-ban „elfogadhatatlannak” minősített rendszerek kiviteli tilalmát kérte, de ezt nem tudta elérni.
Caitlin Bishop of Privacy International rámutat, hogy Brazília adatvédelmi törvénye hasonló az európaihoz: „De óriási probléma van a végrehajtással.” A felelős hatóság csak 2023 óta alkalmaz szankciókat.
Paranában a volt oktatási miniszter, Renato Feder, korábban technológiai vállalkozó, előremozdította az iskolák digitalizálását. 2022-ben a Celepar állami IT-cég szerződést írt alá a brazil Valid szolgáltatóval, amely bevonta az Innovatrics-t. Az Innovatrics azt hirdeti, hogy 80 százalékos időt takarít meg a jelenléti ív lehívásával, és a szülők mindig láthatják gyermekük állapotát. A cég 2018-ban és 2019-ben mintegy 200 000 euró uniós kutatási támogatást kapott biometrikus képelemzésre.
A Paraná rendszert Lisszabonban tesztelték
Egy tanulmány 91,1 százalékos találati arányt mutatott 2025-ben, ami kevesebb, mint a szerződésben garantált 95 százalék. Egy felmérés szerint tízből nyolc tanár kevésbé tartja hatékonynak a rendszert, mint a hagyományos névsorolvasás. Paraná oktatási hatósága kifejti, hogy a használat a tanárok számára önkéntes, a diákok hátrány nélkül tiltakozhatnak, és a technikai hibák nem vezetnek automatikusan hiányzási bejegyzéshez. A bevezetés előtt adatvédelmi hatásvizsgálat készült. A Celepar informatikai cég „több biztonsági szintre”, kézi korrekciós lehetőségre és az algoritmus állandó módosítására hivatkozik.
Mivel naponta egymillió gyermeket rögzítenek, még a kis hibaarányok is tízezreket érinthetnek. A mai napig nem dokumentáltak olyan esetet, amelyben a téves hiányzás közvetlenül a Bolsa Família kifizetéseinek elvesztéséhez vezetett volna. De ez lehetséges, figyelmeztetik a tanárokat. 2025 áprilisában egy ügyész pert indított az állam kormánya ellen; az ítélet még várat magára. Paraná oktatási hatósága szerint a rendszer megfelel az adatvédelmi törvénynek.
Brazília 27 államából hét használ arcfelismerést az iskolákban. 2024-ben a Paraná rendszert három hónapig tesztelték egy lisszaboni magániskolában. A portugál adatvédelmi hatóság hatósági vizsgálatot indított, a rendszert a továbbiakban nem fogják használni. Az Innovatrics és Feder volt oktatási miniszter nem válaszolt a megkeresésekre, Valid pedig nem volt hajlandó kommentálni.
Ez a cikk a Pulitzer Center mesterséges intelligencia elszámoltathatósági hálózatával együttműködésben készült.
Nico Schmidt az Investigate Europe újságírója Berlinben. Leonardo Coelho szabadúszó újságíró Brazíliában.
