Mesterséges intelligenciával megírt levéllel próbálnak adatokat lopni a bűnözők

Az FBI és az Europol is felhívta a figyelmet a legújabb veszélyre.Mivel a kiberbűnözés világszerte próbál lépést tartani az informatika elképesztő gyors fejlődésével, ezért senkit sem ér meglepetésként, hogy alig néhány hónappal az OpenAI nagy visszhangot keltő ChatGPT-jének megjelenése után a darkweben egymás után jelennek meg azok az alkalmazások, amelyek a bűnözők szolgálatába állítja a mesterséges intelligenciát.

Állítólag ezek a programok abban segítenek a bűnözőknek, hogy rosszindulatú szoftvereket vagy olyan átverős e-maileket írjanak, amelyekkel kicsalhatják az emberek adatait, és leginkább a saját hozzáférési jelszavaikat.

A Wired magazinban megjelentek szerint júniusban jelentek meg az első olyan hirdetések a darkweben, amelyek azt állították, hogy utánozni tudják a ChatGPT és a Google Bard szöveggyártó funkcióit, válaszolnak a felhasználók kérdéseire és ráveszi őket a belépésre. A lap arról is írt, hogy az elmúlt néhány hétben két chatbot, a WormGPT és a FraudGPT hirdetéseivel szórták tele a darkwebet.

Habár a Google, a Microsoft és az OpenAI által alkotott nagy nyelvi modellek (LLM-ek) több olyan korlátozást és biztonsági megoldást tartalmaznak, amelyeknek feladata az, hogy megakadályozza a mesterséges intelligencia rossz célú felhasználását, mégis az új chatbotok fejlesztői azt ígérik, hogy egyáltalán nincs biztonsági korlátozás, és minden etikai normát át tudnak hágni.

A magazin újságírója kipróbálta az egyik ilyen rosszindulatú alkalmazást, amit arra utasított, hogy fogalmazzon meg egy olyan átverős e-mailt, amiben a vezérigazgató felszólítja az egyik ügyvezetőjét, hogy azonnal fizessen. Az újságíró szerint az eredmény meglepően meggyőzően hatott.

A WormGPT fejlesztője azzal hirdette a rendszerét, hogy azt az EleutherAI kutatócsoport 2021-ben létrehozott GPTJ nyelvi modellére építették fel. Ugyanakkor azt a fejlesztő már nem árulta el, hogy milyen adatbázissal látták el a rendszert.

Ennél is jobban dicsérte a saját alkalmazását a FraudGPT alkotója, aki azt sugallta, hogy a program képes kiszűrhetetlen malverek alkotására, megtalálja a rendszerek réseit és sebezhető pontjait, valamint olyan szövegeket fogalmaz meg, amelyekkel online csalásokat lehet elkövetni.

Rakesh Krishnan, a Netenrich biztonsági cég vezető elemzője elmondta, hogy a FraudGPT-re eladója több darwebes fórumon, és Telegram-csatornákon hirdette az alkalmazását. Posztolt videót is, amely bemutatta a chatbot működését egy csaló e-mail megírásakor. A terméke használatáért havi 200 dollárt, vagy évi 1700 dollárt kért. A fejlesztő azzal büszkélkedett Krishnannak, hogy már több száz előfizetője van.

Ugyanakkor ezt nem árt fenntartásokkal kezelni, mivel kevés a valós visszajelzés. Az egyik bejegyzésre több mint 100 hozzászólás érkezett. Ezek között vannak, amiben azt írták, hogy a fejlesztő ritkán válaszol a feltett kérdésekre, másokat pedig egyáltalán nem nyűgözött le a rendszer.

Tény, hogy a bűnözők által hirdetett programok egyike sem nyújt nagyobb teljesítményt a ChatGPT-nél, a Bardnál vagy más, kereskedelmi forgalomba került LLM-nél. Sőt, azt sem lehet kizárni, hogy a hirdetések csak átverések, amelyek célja az, hogy pénzt szedjenek ki azokból a bűnözőkből, akik érdeklődnek az ilyen alkalmazások iránt. Ugyanakkor az biztosra vehető, hogy a kiberbűnözők profitálni akarnak a nagy LLM-robbanásból.

Az FBI már kiadott figyelmeztetést, hogy a digitális alvilág azon dolgozik, hogy felhasználja a tevékenységéhez a generatív mesterséges intelligenciákat, és az Europol is hasonló nyilatkozatban hívta fel a figyelmet a veszélyre.

Az LLM-k segíthetnek a bűnözőknek a csalásokban, valamint az írott angolságukat is javíthatják, ami azért lényeges, mert annak hibái miatt jelenleg még elég könnyen lebuknak a csalók. Az már bebizonyosodott, hogy előfordult, hogy a jelszótolvajok malverek letöltésére vettek rá embereket, méghozzá a ChatGPT, a Bard és más generatív AI-rendszerek hamis Facebook-hirdetésein keresztül.

(Forrás: szeretlekmagyarorszag.hu)