A Human Rights Watch friss közleménye szerint a brazil gyerekek személyes fotóit a gyerekek tudta és beleegyezése nélkül használják fel nagy teljesítményű mesterséges intelligencia (AI) eszközök létrehozására (deepfake). A brazil gyerekek deepfake AI képei megtiltására és az általános digitális kizsákmányolás elleni védelemhez adatvédelmi biztosítékokra lenne szükség – olvasható a Human Rights Watch oldalán.
Ezeket a világhálóról eltulajdonított fényképeket egy nagy adathalmazba gyűjtik, amelyet a vállalatok mesterséges intelligencia eszközeik betanítására használnak fel. Mások viszont ezeket az eszközöket arra használják, hogy rosszindulatú, például deepfake tartalmat hozzanak létre, amelyek még több gyermeket tesznek ki a kizsákmányolás és a károkozás veszélyének.
„A gyerekeknek nem kellene attól félniük, hogy a fotóikat ellopják és fegyverként használják ellenük. A kormánynak sürgősen olyan politikát kellene elfogadnia, amely megvédi a gyermekek adatait a mesterséges intelligencia által gerjesztett visszaélésekkel szemben”
– mondta Hye Jung Han, a Human Rights Watch gyermekjogi és technológiai kutatója és szószólója.
Fotók és a hozzájuk tartozó nevek jelentek meg az adatbázisban
A Human Rights Watch elemzése megállapította, hogy a LAION-5B, a népszerű mesterséges intelligencia-eszközök képzésére használt, az internet nagy részének feltérképezésével létrehozott adathalmaz brazil gyerekek azonosítható fotóira mutató linkeket tartalmaz. Néhány gyerek neve szerepel a kísérő képaláírásban vagy a képet tároló URL-címen. Sok esetben könnyen nyomon követhető a személyazonosságuk, beleértve azt is, hogy a gyermek mikor és hol tartózkodott a fénykép készítésének időpontjában.
Az egyik ilyen fotón egy 2 éves kislány látható, amint csodálkozva, szétnyílt ajkával megérinti újszülött húga pici ujjait. A képaláírásból és a fotóba ágyazott információkból nemcsak a két gyerek neve derül ki, hanem annak a Santa Catarina-i kórháznak a neve és pontos helye is, ahol a baba kilenc évvel ezelőtt egy téli délutánon megszületett.
A Human Rights Watch 170 gyermekfotót talált legalább 10 brazíliai államból. Ezek az államok a követlezők: Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina és São Paulo. Ez a szám valószínűleg jelentősen alulbecsült a LAION-5B-ben található, gyerekek személyes adataiból származó, teljes mennyiségét illetően. A Human Rights Watch ugyanis csak az adatkészletben szereplő 5,85 milliárd kép és képaláírás kevesebb mint 0,0001 százalékát vizsgálta felül.
Éveken keresztül ugyanarról a gyerekről készített fotókat használtak fel
A felülvizsgált képek a gyermekkor egészét felölelik. Intim pillanatokat örökítenek meg csecsemőkről, akik orvosok kesztyűs kezébe születnek. Kisgyerekekről, akik otthon fújják el a gyertyákat a születésnapi tortájukon vagy alsóneműben táncolnak. Diákokról, akik előadást tartanak az iskolában, és tizenévesekről, akik a középiskolai farsangi mulatságon pózolnak a fotókhoz.
E fotók közül sokat eredetileg kevesen láttak, és úgy tűnik, hogy korábban bizonyos fokú privát láthatóságot élveztek. Úgy tűnik ugyanis, hogy egyébként online kereséssel nem lehet ezekre a fotókra rátalálni. E fotók némelyikét a gyerekek, szüleik vagy családtagjaik tették közzé személyes blogokon, valamint fotó- és videómegosztó oldalakon. Néhányat évekkel vagy akár egy évtizeddel a LAION-5B létrehozása előtt töltöttek fel.
Miután az adataikat összegyűjtötték és betáplálták a mesterséges intelligencia rendszerekbe, ezek a gyerekek a technológia hibái miatt további fenyegetésekkel néznek szembe a magánéletükben. A mesterséges intelligencia-modellek, beleértve a LAION-5B-n kiképzett modelleket is, hírhedtek arról, hogy magánjellegű információkat szivárogtatnak ki. Képesek reprodukálni az általuk vizsgált anyagok teljesen megegyező másolatait, beleértve az orvosi feljegyzéseket és valódi emberek fotóit. Ugyanakkor az egyes vállalatok által az érzékeny adatok szivárogtatásának megakadályozására felállított korlátokat többször is áthágták.
Gyerekek pontos képeit hozzák létre az “alapanyagból”
Ezek az adatvédelmi kockázatok további károkozásra adnak lehetőséget. A valódi gyerekek fotóin történő gyakorlás lehetővé tette, hogy a mesterséges intelligencia-modellek meggyőző klónokat hozzanak létre bármelyik gyerekről. Akár néhány fénykép vagy egyetlen kép alapján is.
A rosszindulatú szereplők a LAION által kiképzett mesterséges intelligencia eszközöket arra használták, hogy ártalmatlan fényképek felhasználásával gyerekek pontos képeit hozzák létre. Valamint olyan gyerekek eredeti képeit, akiknek a szexuális visszaélésekről készült képeit a LAION-5B-be is feltöltötték.
A brazil gyerekek jelenléte a LAION-5B-ben hozzájárul ahhoz, hogy az ezen az adathalmazon kiképzett mesterséges intelligencia-modellek képesek legyenek brazil gyerekek valósághű képeit előállítani. Ez jelentősen növeli azt a meglévő kockázatot, amellyel a gyerekek szembesülnek. Vagyis azt, hogy ha valaki ellopja a képmásukat az interneten közzétett fényképekről vagy videókról, és a mesterséges intelligencia segítségével manipulálja azokat, és így olyasmiket mondjanak vagy tegyenek, amiket soha nem mondtak vagy tettek.
Mostantól bármilyen formában feltűnhetnek létező gyerekek képmásai
Legalább 85 lány Alagoas, Minas Gerais, Pernambuco, Rio de Janeiro, Rio Grande do Sul és São Paulo tartományokból jelentette, hogy osztálytársaik zaklatták őket. Méghozzá mesterséges intelligencia eszközökkel szexuális tartalmú deepfake tartalmat készítettek a lányokról a közösségi médiaprofiljaikról készült fotók alapján, majd a hamisított képeket online terjesztették.
Hamisított médiumok mindig is léteztek, de létrehozásukhoz időre, erőforrásokra és speciális szakértelemre volt szükség. Ráadásul nagyrészt nem voltak túlságosan valósághűek. A mai mesterséges intelligencia eszközök másodpercek alatt élethű tartalmat hoznak létre. Ezek gyakran ingyenesek és könnyen használhatóak is, ami a nem megegyezésen alapuló deepfake elterjedésének kockázatát rejti magában. Ezek egy életen át újra és újra keringenek az interneten, és tartós károkat okozhatnak.
A LAION eltávolítja a brazil gyerekek deepfake AI képeit
Válaszul a LAION, a LAION-5B-t kezelő német nonprofit szervezet megerősítette, hogy az adatkészlet tartalmazza a Human Rights Watch által talált gyerekfotókat. Egyben ígéretet tett arra, hogy eltávolítja azokat. A szervezet vitatta, hogy a LAION-5B-n kiképzett mesterséges intelligencia modellek képesek lennének a személyes adatok szó szerinti reprodukálására. A LAION azt is elmondta, hogy a gyerekek szüleik vagy gyámjai felelősek azért, hogy a gyerekek személyes fotóit eltávolítsák az internetről, ami a visszaélések elleni leghatékonyabb védelmet jelenti.
A törvényhozók javasolták, hogy tiltsák be a mesterséges intelligenciának az emberekről, köztük a gyermekekről készült szexuális tartalmú képek előállítására vonatkozó, beleegyezés nélküli használatát. Ezek az erőfeszítések sürgősek és fontosak, de mindössze egy tünetét kezelik annak a mélyebb problémának, amely a gyerekek személyes adatait érinti. Ők továbbra is nagyrészt védtelenek a visszaélésekkel szemben. Brazília adatvédelmi törvénye – a Lei Geral de Proteção de Dados Pessoais, azaz az általános adatvédelmi törvény nem nyújt megfelelő védelmet a gyerekeknek.
A kormánynak az adatvédelmi törvényt további, átfogó garanciák elfogadásával kellene megerősítenie a gyerekek adatainak védelméért.
NordVPN – A B2C által ajánlott legjobb VPN
- Kiváló biztonsági rendszer
- A legjobb szerverek automatikus felismerése
- Magyarországi szervert is tartalmaz
- Az egyik leggyorsabb
- Megfizethető, jó ár-érték arány
- 24/7-ben elérhető élő chates támogatás
A gyerekek és serdülők jogainak nemzeti tanácsa saját magát is utasította
Áprilisban a gyerekek és serdülők jogainak nemzeti tanácsa, a gyerekek jogainak védelmére törvény által létrehozott tanácsadó testülete állásfoglalást tett közzé. Ebben utasította saját magát és az Emberi Jogi és Állampolgársági Minisztériumot, hogy 90 napon belül dolgozzon ki nemzeti politikát a gyerekek és serdülők digitális környezetben történő védelmére. Ezt pedig meg is kell tenniük.
Az új politikának meg kell tiltania a gyerekek személyes adatainak a mesterséges intelligencia rendszerekben történő felhasználását. Tekintettel az ezzel járó adatvédelmi kockázatokra és a visszaélések új formáinak lehetőségére, amelyek a technológia fejlődésével alakulnak ki.
Megtiltják továbbá a gyerekek képmásainak nem engedélyezett, digitális másolását vagy manipulálását. A kárt elszenvedett gyerekeknek pedig olyan mechanizmusokat kell biztosítani, amelyekkel érdemi igazságszolgáltatást és jogorvoslatot kérhetnek.
A brazil kongresszusnak azt is biztosítania kell, hogy a javasolt mesterséges intelligenciára vonatkozó szabályozás mindenki, különösen a gyerekek adatainak védelmét tartalmazza.
„A generatív mesterséges intelligencia még mindig egy születőben lévő technológia, és az ezzel járó károk, amelyeket a gyerekek már most is tapasztalnak, nem elkerülhetetlenek” – mondta Han.
„A gyerekek adatvédelmének mostani megerősítése segíteni fog abban, hogy ennek a technológiának a fejlődését olyan irányba alakítsuk, amely elősegíti, nem pedig sérti a gyermekek jogait” – tette hozzá Han, a Human Rights Watch gyermekjogi és technológiai kutatója.
További hírek:
- Elon Musk átverést népszerűsít egy deepfake videóban
- Az AI sötét oldala – Az FBI óva int a deepfake videók elterjedésére
- A legjobb alkalmazások részvényvásárlásra – 2024 legjobb trading appjainak összehasonlítása
Az egyik legjobb tőzsdei platform
- A SEC és a FINRA által szabályozott
- Több mint 70 kriptovaluta, részvény, árucikkek és indexek
- 0% jutalék
- Elérhető számítógépről és mobilról is
- Alkalmazás iOS és Androidos készülékekre