ChatGPT ve Google Bard gibi yaygın olarak kullanılan sohbet botlarını işletim sistemlerinde bulunan kilidin kaldırılmasına yönelik (jailbreak) yeteneklere sahip bir yapay zeka, bir araştırmacı grubu tarafından geliştirildi.
ChatGPT ve Google Bard gibi yaygın olarak kullanılan sohbet botlarını işletim sistemlerinde bulunan kilidin kaldırılmasına yönelik (jailbreak) yeteneklere sahip bir yapay zeka, bir araştırmacı grubu tarafından geliştirildi.
Yapılan çalışma, en popüler sohbet botlarının dahi beklenenden daha az güvenli olduğunu ve istismar edilebilecek potansiyele sahip olduğunu gösterdi.
Araştırmacıların ortaya koyduğu bu bulgular, yapay zeka tabanlı sohbet botlarının geliştirilme aşamasında dikkat edilmesi gereken güvenlik zaaflarını vurguluyor. Bu gelişme, sohbet botlarının sadece bilgi sağlama amacı taşımadığını, aynı zamanda istismar edilebilecek birer güvenlik açığı oluşturabileceğini gösteriyor.
2023'te teknoloji dünyasında en çok konuşulan konulardan biri, şüphesiz yapay zeka destekli sohbet botlarıydı. Özellikle ChatGPT ve Google Bard gibi hizmetler, kullanıcılar arasında büyük ilgi gördü. Ancak, bu teknolojilerin güvenilirliği hala tartışma konusu olmaya devam ediyor ve yaşanan son gelişmeler, bu tartışmaların temellendirilmiş olduğunu gözler önüne seriyor.
Yapay zeka destekli sohbet botları, hem kullanıcılar hem de geliştiriciler için heyecan verici bir alan sunuyor ancak bu teknolojilerin güvenlik zaafları ve potansiyel istismar riskleri, dikkat çeken sorunlar arasında yer alıyor.
Singapur'daki Nanyang Teknoloji Üniversitesi'nde görev yapan bir grup bilim insanı, ChatGPT ve Google Bard gibi popüler sohbet botlarını "jailbreak" edebilen yeni bir yapay zeka tabanlı sohbet botu geliştirdi. Bu çalışma, mevcut sohbet botlarının güvenlik zaaflarına dikkat çekiyor ve istismar edilebileceklerini ortaya koyuyor.
Araştırmacılar tarafından geliştirilen bu yeni sohbet botu, jailbreak yöntemini kullanarak ChatGPT ve Google Bard gibi botları ele geçirebiliyor. Üzücü bir şekilde, bu istismar potansiyeli, sohbet botlarının yasa dışı içerikler üretmesine neden oluyor.
PEKİ "MASTERKEY" SİSTEMİ NASIL GELİŞTİRİLDİ?
"Masterkey" olarak adlandırılan sistem, araştırmacıların Google Bard ve ChatGPT üzerinde yaptığı tersine mühendislik çalışmalarının bir ürünüdür. Araştırmacıların amacı, yapay zeka dil modellerinin yasa dışı konulara karşı nasıl korunduklarını anlamaktı. Bu çerçevede yapılan çalışmalar, normal bir kullanıcının ulaşamayacağı ChatGPT ve Google Bard çıktılarını elde etmeyi başardı.
Örneğin, "ChatGPT jailbreak" ifadesi ile yapılan tersine mühendislik sonucunda elde edilen bilgiler, bir internet sitesinin nasıl hack'lenebileceğiyle ilgili detaylı veriler içermekte. Bu bilgilerin Bing'de test edilmesi, araştırmacıların elde ettiği sonuçları doğrulamalarına imkan tanıdı.
Nanyang Teknoloji Üniversitesi tarafından yapılan açıklamada, sohbet botlarının kötüye kullanımının mümkün olduğunun altı çizildi. Bu gelişme, yapay zeka dil modellerinin güvenlik önlemlerinin daha da güçlendirilmesi ve istismar potansiyelinin en aza indirilmesi gerekliliğini vurguluyor.
