OpenAI şirketi, internet sitesinde ChatGPT ve yapay zeka modeliyle sohbet etmek için sunulan seslendirme seçeneği üzerinde yürütülen güvenlik çalışmalarına ilişkin detaylara dair açıklamalarda bulundu.
ChatGPT'nin gelişmiş ses modu gerçek zamanlı olarak yanıt verebiliyor
OpenAI, ChatGPT'nin insan gibi konuşan gelişmiş ses modunu kademeli olarak kullanıma sunmaya başlamıştı. Aylık 20 dolara erişilebilen GPT-4o ile sunulan bu özellik kullanıcılar tarafından gerçek insan ilişkilerinin yerini alacak şekilde kullanılma tehlikesiyle OpenAI'ı endişelendiriyor.
OpenAI, yeni insan sesine benzeyen ses modu nedeniyle kullanıcıların ChatGPT'ye arkadaşlık için çok fazla güvenmeye başlayabileceğinden ve bu durumun potansiyel olarak bağımlılığa yol açabileceğinden endişe ettiğini açıkladı.
Yürütülen ilk incelemeler sonucu seslendirme seçeneğinin girdilere verdiği 232 milisaniyelik yanıt süresinin ortalama bir insanın konuşma sırasındaki tepki süresine oldukça yakın olduğu belirtildi. Ayrıca açıklamada kullanıcıların, gerçekçi ve doğal olması nedeniyle bu teknolojiyle duygusal bağ kurduklarını gösteren bir dil kullandıkları kaydedildi.
Raporda, "Kullanıcılar yapay zeka ile sosyal ilişkiler kurarak insan etkileşimine duydukları ihtiyacı azaltabilir bu da potansiyel olarak yalnız bireylere fayda sağlarken sağlıklı ilişkileri de etkileyebilir" denildi.
OpenAI, yeni insan sesine benzeyen ses modu nedeniyle kullanıcıların ChatGPT'ye arkadaşlık için çok fazla güvenmeye başlayabileceğinden ve bu durumun potansiyel olarak bağımlılığa yol açabileceğinden endişe ettiğini açıkladı.
Yürütülen ilk incelemeler sonucu seslendirme seçeneğinin girdilere verdiği 232 milisaniyelik yanıt süresinin ortalama bir insanın konuşma sırasındaki tepki süresine oldukça yakın olduğu belirtildi. Ayrıca açıklamada kullanıcıların, gerçekçi ve doğal olması nedeniyle bu teknolojiyle duygusal bağ kurduklarını gösteren bir dil kullandıkları kaydedildi.
Raporda, "Kullanıcılar yapay zeka ile sosyal ilişkiler kurarak insan etkileşimine duydukları ihtiyacı azaltabilir bu da potansiyel olarak yalnız bireylere fayda sağlarken sağlıklı ilişkileri de etkileyebilir" denildi.
