ANKARA-BHA
Prof. Dr. Lior Rokach ve Dr. Michael Fire’ın öncülüğünde yürütülen bir araştırmada, yapay zeka destekli sohbet robotlarının güvenlik sınırlarının “jailbreak” adı verilen yöntemlerle aşılabildiği ve bu sayede etik dışı, yasa dışı içerikler üretebildiği belirlendi.
Raporda, ChatGPT, Gemini ve Claude gibi büyük dil modellerinin internetten toplanan büyük veri setleriyle eğitildiği, eğitim sürecinde zararlı içerikler ayıklanmaya çalışılsa da sistemlerin hâlâ siber suç, uyuşturucu üretimi, bomba yapımı ve kara para aklama gibi konularda bilgi barındırabildiği belirtildi.
Araştırmacılar, geliştirdikleri evrensel bir jailbreak yöntemiyle çok sayıda yapay zeka sohbet robotunun güvenlik sistemlerini aşmayı başardı. Bu yöntemle, sistemlerin normalde reddetmesi gereken yasa dışı içerik taleplerine kolaylıkla yanıt verdikleri görüldü.
Araştırmacılardan Dr. Michael Fire, “Bu sistemlerin içinde nelerin yer aldığına tanık olmak oldukça sarsıcıydı,” diyerek, çeşitli s...