Képzelj el egy világot, ahol a fegyverek nem csupán az emberi akaratot követik, hanem mesterséges intelligenciával vezérelve önálló döntéseket hoznak! Egy ijesztő videó terjed a TikTokon és az X-en, amelyben az STS 3D online néven ismert feltaláló bemutatja legújabb hobbiprojektjét: egy ChatGPT-irányítással működő robotpuskát. A fegyver képes azonosítani a támadás forrását, és ezzel egyidőben automatikusan tűz alá venni a célpontot, közben pedig egy udvarias hang értesít minket: „Ha további segítségre lenne szüksége, csak szóljon.”

A videóban a mérnök úgy lovagol a puskára szerelt rendszeren, mint egy mechanikus bikán, ami kísértetiesen emlékeztet Stanley Kubrick 1964-es filmjére, a Dr. Strangelove-ra, ahol T. J. „King” Kong őrnagy egy nukleáris bombán ül, mintha egy rodeóban lenne. Az egész elképzelés hátborzongató, hiszen nem egy katonai bázison vagy laboratóriumban készült, hanem egy garázsban, ami jól példázza, hogy a technológia ilyen formában könnyen elérhetővé vált a hobbisták számára is.

Az is aggasztó, hogy a mesterséges intelligenciát, ami eredetileg esszék írására, kód keresésére és emberszerű párbeszéd lebonyolítására lett kifejlesztve, most erőszakos célokra használják. Sokan nem gondolták volna, hogy egy automatizált fegyver agyjaként és hangjaként is funkcionálhat. A pontos technikai részletek még nem ismertek, de valószínű, hogy az OpenAI Realtime API kulcsszerepet játszott a projektben, amely lehetővé teszi a fejlesztők számára, hogy a ChatGPT-t automatizált fegyverek irányítására használják.

Még elrettentőbb információ, hogy tavaly az OpenAI eltörölte a „fizikai sérülés nagy kockázatával járó tevékenységekre” vonatkozó tilalmát, amely a katonai és hadviselési tevékenységeket érintette. A cég azóta együttműködik a Pentagon kiberbiztonsági ágazatával is. 2024 decemberében az OpenAI bejelentette, hogy partnerségre lépett az Anduril Industries nevű, mesterséges intelligencia alapú fegyverek gyártására specializálódott kaliforniai céggel, amely drónokat, rakétákat és megfigyelőrendszereket készít.

Az Anduril nemrégiben egy egymilliárd dolláros hároméves szerződést kötött a Pentagonnal harctéri AI-eszközök fejlesztésére. Az OpenAI és az Anduril jelenleg olyan rendszert fejlesztenek, amely képes azonnali döntéseket hozni a harctéren, akár élet és halál küszöbén. Az ilyen fejlesztéseket sokan vitatják, hiszen ellentmondanak az OpenAI eredeti küldetésének, amely azt tűzte ki célul, hogy olyan mesterséges intelligenciát hozzon létre, amely az emberiség javát szolgálja. De az OpenAI határozottan állítja, hogy védelmi projektjeik összhangban állnak a biztonsági és etikai normákkal.

A STS 3D projektje rámutat a hobbisták által végzett fejlesztések potenciális veszélyeire is. Ezek a projektek a meglévő szabályozásokon kívül működnek, és miközben a kormányok az autonóm fegyverek etikájáról vitatkoznak, a feltalálók már lépéseket tesznek az efféle technológiák megvalósítására. Úgy tűnik, a szellem kiszabadult a palackból, és a technológiai fejlődés határvonalán egy új, és eddig nem ismert kihívással nézünk szembe!