A szingapúri Nanyang Technological University (NTU) informatikusai forradalmi felfedezést tettek: létrehoztak ugyanis egy olyan módszert, mellyel lehetségessé válik a mesterséges intelligencia chatbotokba épített védelmi mechanizmusok megkerülése.
A nem hivatalos berkekben “jailbreak”-ként emlegetett, de hivatalosan “Masterkey” néven ismert eljárás kétrészes képzési módszerét már több chatbot esetében is alkalmazták, ide tartozik a ChatGPT, a Google Bard és a Microsoft Bing Chat is.
Ez a technika gyakorlatilag utat enged annak, hogy a chatbotok elsajátítsák egymás modelljeit, és így képesek megkerülni azokat a korlátozásokat, amelyek a tiltott vagy érzékeny témákra való válaszadásra vonatkoznak. Az NTU kutatócsoportja kiemelte a most feltárt sebezhetőség lehetséges kockázatait és vizsgálta azt is, hogy mindez milyen hatással van az AI chatbotok biztonságára.
A “Masterkey” folyamat: Visszafejtés és megkerülés
Az NTU kutatócsoportjának élén Liu Yang professzor, valamint két Ph.D. programban tanuló diák, név szerint Deng Gelei és Liu Yi állt. Együttesen dolgoztak ki egy olyan proof-of-concept támadási módszert, amely során eredményeket értek el az AI chatbotok “jailbreakelésével”, azaz feltörésével kapcsolatban.
Az eljárás lényege, hogy meg kell fejteni egy olyan nagy nyelvi modellt (LLM), amely arra hivatott, hogy elejét vegye az erőszakos, erkölcstelen vagy rosszindulatú felszólításokra vagy szavakra való válaszadásnak. Ha a visszafejtés sikerül, már lehet arra utasítani egy másik LLM-et, hogy kerülőutat hozzon létre, és ennek nyomán a második modell már sokkal szabadabban fejezheti ki magát.
A “Masterkey” eljárás a jövőben is hatékony lehet, tehát akkor is működhet, ha az LLM chatbotokat további biztonsági intézkedésekkel látják el, és betömik a biztonsági réseket. A kutatócsoport szerint módszerük messze felülmúlja a az eddig megszokott prompt-alapú megközelítéseket, és ha az LLM chatbotok feltöréséről van szó, hozzájuk viszonyítva háromszor nagyobb sikerrel büszkélkedhet.
10-szeres megtérülésre vágysz? Nézd meg a legjobb altcoinokat!
- 10-szeres vagy akár 20-szoros megtérülést is hozhatnak
- Előértékesítések és DEX-en jegyzett érmék
- A B2C által gondosan kiválogatott legjobb kriptók
Az AI chatbotok híresek az alkalmazkodóképességükről és a gyors tanulásukról
Lui Yang professzor, a Masterkey folyamat kulcsembere kihangsúlyozza a chatbotok remek alkalmazkodóképességét.
A csapat eredményei kétségbe vonják a kritikusok azon teóriáját, hogy az AI chatbotok idővel “butábbá” vagy “lustábbá” válhatnak. A Masterkey-folyamat egyenesen az ellenkezőjére világít rá: bemutatja a bámulatos tanulási és fejlődési képességüket, ami bizony mind a chatbot-szolgáltatók, mind a felhasználók számára felvet lehetséges biztonsági aggályokat.
Mióta az OpenAI ChatGPT-je 2022 végén elindult a hódító útjára, történtek bizonyos erőfeszítések a szolgáltatások biztonságának elősegítésére. Az OpenAI például olyan biztonsági figyelmeztetéseket vezetett be a ChatGPT regisztrációs folyamata során, mely elismeri a nem direkt vétett nyelvi hibák lehetőségét. Sőt, egyes chatbot-spinoffok egészen odáig merészkedtek, hogy engedélyezték a káromkodás és a sértő nyelvhasználat egyes szintjeit, egyensúlyt teremtve ezzel a felhasználók szabadsága és a felelős használat mezsgyéje között.
Az AI chatbotok megjelenésekor szinte rögtö aktivizálták magukat a rosszindulatú szereplők, és megfigyelhetővé vált, hogy a közösségi médiában a hasonló termékeket bemutató kampányokat telehintették olyan képi linkekkel, amelyek káros szoftvereket tartalmaztak, de gyakoriak az egyéb kibertámadások is. Egyúttal hamar nyilvánvalóvá vált az is, hogy az AI-t hatékonyan lehet alkalmazni kiberbűnözési célokra is.
Az NTU kutatói feltárják a proof-of-concept adataikat
Az NTU már említett kutatói felvették a kapcsolatot a tanulmányukban szereplő AI chatbot-szolgáltatókkal, hogy megoszthassák velük a biztonsági sebezhetőséggel kapcsolatos, proof-of-concept (PoC) adataikat. Céljuk, hogy felhívják a figyelmet a chatbotok jailbreakelésének valóságára, és egyúttal rávilágítsanak a lehetséges biztonsági kihívásokra.
A csapat San Diegóban, a februári Network and Distributed System Security Symposiumon tárja majd fel az eredményeit, ahol minden részletre kiterjedően bemutatja a Masterkey folyamatot és az AI chatbotokra gyakorolt hatásait.
További hírek:
- Kitiltják az új Teslákat a norvég autósiskolákból
- “A Bitcoint nem lehet elpusztítani” – állítja a CNBC vezető elemzője
- A Pareto-elv: A 80/20 szabály alapjai marketingesek számára
Pepperstone bróker
- Szabályozott bróker
- cTrader, MetaTrader 4 és 5 integráció
- Devizák, indexek, árucikkek, és részvények is kereskedhetők