Jeremiah Fowler, a kiberbiztonsági kutató, nemrégiben felfedezte, hogy olyan adatbázisok léteznek, amelyek mesterséges intelligencia segítségével pornográf tartalmakat generálnak. Azonnal értesítette a GenNomist és anyavállalatát, az AI-Nomistot, hogy tartsák felelősségre a helyzetért. A válaszuk az volt, hogy korlátozták az adatbázis nyilvános hozzáférését, ám későbbi megkeresésekre már nem reagáltak – számolt be a Futurism.

A Meta új, gondolatolvasó mesterséges intelligenciájának bemutatása sokkolta a közvéleményt, hiszen olyan mértékben képes dekódolni az emberi gondolatokat, hogy az már etikai kérdéseket is felvet. Ez a jelenség nem újkeletű; a GenNomist nem az egyetlen startup, amely generatív AI technológiákat használ pornográf tartalom létrehozására. A világ szinte minden részén megfigyelhető ez a tendencia, amely a szabályozatlan generatív mesterséges intelligencia térnyerésével tapasztalható.

A deepfake technológia révén készült, valós embereken alapuló hamis pornográf képek és videók egyre elterjedtebbé válnak, ami komoly aggályokat vet fel a társadalomban. A deepfake pornográf tartalmak különösen romboló hatással lehetnek azokra a nőkre, akik az ilyen tartalmak áldozatai. Számos esetben politikai manipulációra, zsarolásra és trükközésre is használták ezeket a hamisítványokat.

Fontos, hogy a közvélemény tudatában legyen ezeknek a kérdéseknek, hiszen a technológiai fejlődés gyors üteme sokkal gyorsabban haladhat, mint a társadalmi és jogi keretek alkalmazkodása. A jövőben sürgető szükség lesz a jogi szabályozás szigorítására, hogy megóvjuk az áldozatokat és megakadályozzuk a technológia visszaélését.