Salesforce, işletmeler için özel olarak tasarlanan yeni sohbet botu Einstein Copilot'u genel kullanıma sundu. Salesforce yöneticilerine göre, Einstein Copilot diğer yapay zeka sohbet botlarına kıyasla halüsinasyon riski (yanlış veya anlamsız bilgi üretme) açısından daha az risk taşıyor. Bu sayede, diğer yapay zeka sohbet botlarında sıkça karşılaşılan sorunlara çözüm getirmeyi hedefliyor.
Salesforce’un ürün pazarlama başkan yardımcısı Patrick Stokes, Einstein Copilot'un diğer yapay zeka sohbet botlarından farklı olduğunu belirtiyor. Bu fark, botun işletmenin kendi verilerini kullanmasından kaynaklanıyor. Bot, büyük dil modellerine (LLM) gönderilmeden önce şirketin içindeki verileri tarayarak doğru bilgilerle çalışıyor. Bu da yanlış bilgi üretme riskini azaltıyor.
Ayrıca, Einstein Copilot LLM'lerle paylaşılan verileri korumak için güvenlik katmanları içeriyor. Bu da şirket verilerinin sohbet botları tarafından yanlış kullanılmasının önüne geçmeyi hedefliyor. Bunun yanında, bot gerçek zamanlı müşteri geri bildirimlerini toplayarak sistemdeki zayıflıkları tespit ediyor ve halüsinasyonları belirleyen bir özellik içeriyor.
Stokes, halüsinasyonların tamamen önlenemeyeceğini kabul ediyor. Ancak bu riski mümkün olan en düşük seviyede tutmak için şeffaf ve güvenli teknolojiler geliştirmeye çalıştıklarını ifade ediyor. Salesforce’un CMO'su Ariel Kelmen, büyük dil modellerinin (LLM) doğası gereği hayal kurmak için tasarlandığını ve bu nedenle halüsinasyonların olabileceğini belirtildi.
Sonuç olarak, Salesforce'un Einstein Copilot'u, diğer yapay zeka sohbet botlarına kıyasla halüsinasyon riskini en aza indirmeyi hedefliyor. Ancak, yapay zeka teknolojisinin doğası gereği tamamen halüsinasyonsuz bir dünya mümkün olmasa da, bu konuda önemli adımlar atılıyor.
