A saját céljaikra próbálják felhasználni a technológiai újdonságot a bűnözők.

Míg néhány éve csak futurisztikus képzelgés volt, addigra napjainkra megvalósult a mesterséges intelligencia, ami egyre nagyobb teret hódít. Ám, ahogy az lenni szokott, ami kezdetben segítséget nyújt a mindennapokban, annak hamarosan megtalálják a sötét oldalát, ugyanis a rossz szándékú emberek gyorsan megtalálják a módját annak, hogy hogyan fordíthatják a saját hasznukra a legújabb találmányokat. Ezt tették most is, méghozzá a mesterséges intelligenciával.

Mivel a kiberbűnözés világszerte próbál lépést tartani az informatika elképesztő gyors fejlődésével, ezért senkit sem ér meglepetésként, hogy alig néhány hónappal az OpenAI nagy visszhangot keltő ChatGPT-jének megjelenése után a darkweben egymás után jelennek meg azok az alkalmazások, amelyek a bűnözők szolgálatába állítja a mesterséges intelligenciát. Állítólag ezek a programok abban segítenek a bűnözőknek, hogy rosszindulatú szoftvereket vagy olyan átverős e-maileket írjanak, amelyekkel kicsalhatják az emberek adatait, és leginkább a saját hozzáférési jelszavaikat. A Wired magazinban megjelentek szerint júniusban jelentek meg az első olyan hirdetések a darkweben, amelyek azt állították, hogy utánozni tudják a ChatGPT és a Google Bard szöveggyártó funkcióit, válaszolnak a felhasználók kérdéseire és ráveszi őket a belépésre. A lap arról is írt, hogy az elmúlt néhány hétben két chatbot, a WormGPT és a FraudGPT hirdetéseivel szórták tele a darkwebet.Habár a Google, a Microsoft és az OpenAI által alkotott nagy nyelvi modellek (LLM-ek) több olyan korlátozást és biztonsági megoldást tartalmaznak, amelyeknek feladata az, hogy megakadályozza a mesterséges intelligencia rossz célú felhasználását, mégis az új chatbotok fejlesztői azt ígérik, hogy egyáltalán nincs biztonsági korlátozás, és minden etikai normát át tudnak hágni.A magazin újságírója kipróbálta az egyik ilyen rosszindulatú alkalmazást, amit arra utasított, hogy fogalmazzon meg egy olyan átverős e-mailt, amiben a vezérigazgató felszólítja az egyik ügyvezetőjét, hogy azonnal fizessen. Az újságíró szerint az eredmény meglepően meggyőzően hatott.A WormGPT fejlesztője azzal hirdette a rendszerét, hogy azt az EleutherAI kutatócsoport 2021-ben létrehozott GPTJ nyelvi modellére építették fel. Ugyanakkor azt a fejlesztő már nem árulta el, hogy milyen adatbázissal látták el a rendszert.Ennél is jobban dicsérte a saját alkalmazását a FraudGPT alkotója, aki azt sugallta, hogy a program képes kiszűrhetetlen malverek alkotására, megtalálja a rendszerek réseit és sebezhető pontjait, valamint olyan szövegeket fogalmaz meg, amelyekkel online csalásokat lehet elkövetni.Rakesh Krishnan, a Netenrich biztonsági cég vezető elemzője elmondta, hogy a FraudGPT-re eladója több darwebes fórumon, és Telegram-csatornákon hirdette az alkalmazását. Posztolt videót is, amely bemutatta a chatbot működését egy csaló e-mail megírásakor. A terméke használatáért havi 200 dollárt, vagy évi 1700 dollárt kért. A fejlesztő azzal büszkélkedett Krishnannak, hogy már több száz előfizetője van.Ugyanakkor ezt nem árt fenntartásokkal kezelni, mivel kevés a valós visszajelzés. Az egyik bejegyzésre több mint 100 hozzászólás érkezett. Ezek között vannak, amiben azt írták, hogy a fejlesztő ritkán válaszol a feltett kérdésekre, másokat pedig egyáltalán nem nyűgözött le a rendszer.Tény, hogy a bűnözők által hirdetett programok egyike sem nyújt nagyobb teljesítményt a ChatGPT-nél, a Bardnál vagy más, kereskedelmi forgalomba került LLM-nél. Sőt, azt sem lehet kizárni, hogy a hirdetések csak átverések, amelyek célja az, hogy pénzt szedjenek ki azokból a bűnözőkből, akik érdeklődnek az ilyen alkalmazások iránt. Ugyanakkor az biztosra vehető, hogy a kiberbűnözők profitálni akarnak a nagy LLM-robbanásból. Az FBI már kiadott figyelmeztetést, hogy a digitális alvilág azon dolgozik, hogy felhasználja a tevékenységéhez a generatív mesterséges intelligenciákat, és az Europol is hasonló nyilatkozatban hívta fel a figyelmet a veszélyre. Az LLM-k segíthetnek a bűnözőknek a csalásokban, valamint az írott angolságukat is javíthatják, ami azért lényeges, mert annak hibái miatt jelenleg még elég könnyen lebuknak a csalók. Az már bebizonyosodott, hogy előfordult, hogy a jelszótolvajok malverek letöltésére vettek rá embereket, méghozzá a ChatGPT, a Bard és más generatív AI-rendszerek hamis Facebook-hirdetésein keresztül. (Forrás: szeretlekmagyarorszag.hu)