OpenAI, ChatGPT'nin yeni insan sesiyle konuşabilen modu nedeniyle, insanların bu yapay zekaya aşırı derecede bağlanabileceğinden ve bunun bir "bağımlılık" haline gelebileceğinden endişe duyuyor. Bu endişe, OpenAI'nin geçtiğimiz hafta ücretli kullanıcılara sunulmaya başlanan bu yeni özellik ve altında çalışan büyük dil modeli üzerine yaptığı güvenlik incelemesinde ortaya çıktı.
ChatGPT’nin ileri düzey ses modu, inanılmaz derecede gerçekçi bir ses tonuna sahip. Gerçek zamanlı yanıtlar veriyor, kesintiye uğradığında duruma adapte olabiliyor, insanlarla konuşurken yaygın olan gülme veya "hmm" gibi sesleri çıkarabiliyor. Ayrıca, konuşmacının ses tonuna göre duygusal durumunu değerlendirebiliyor.
"Her" Filmindeki Gibi
OpenAI, bu özelliği bu yılın başlarında düzenlediği bir etkinlikte duyurduğunda, bu özellik hemen 2013 yapımı "Her" filmindeki AI dijital asistana benzetildi. Filmdeki ana karakter, bu AI ile romantik bir ilişki kuruyor ve AI’nın başka kullanıcılarla da ilişkilerinin olduğunu öğrendiğinde hayal kırıklığına uğruyor.
Şimdi, OpenAI, bu kurgusal hikayenin gerçek olma ihtimalinden endişe ediyor. Zira, ChatGPT’nin ses modu ile konuşan bazı kullanıcıların, araçla "paylaşılan bağlar" ifade eden bir dil kullandığını gözlemledi.
Rapor, nihayetinde kullanıcıların AI ile sosyal ilişkiler kurabileceğini ve bunun yalnız bireyler için faydalı olabileceğini, ancak sağlıklı insan ilişkilerini etkileyebileceğini öne sürüyor. Ayrıca, insan gibi ses çıkaran bir botun verdiği bilgilerin doğru olmayabileceği halde, kullanıcıların bu araca gereğinden fazla güven duyabileceğini de belirtiyor.
Bu rapor, yapay zekanın büyük resimdeki risklerinden birini gözler önüne seriyor: teknoloji şirketleri, yapay zekanın hayatımızı, çalışma şeklimizi, sosyalleşmemizi ve bilgi edinme biçimimizi altüst edebileceğini iddia ederek AI araçlarını hızla kamuya sunmaya çalışıyor. Ancak bu süreçte, bu araçların yaratacağı sonuçların tam olarak ne olacağını henüz kimse anlayabilmiş değil. Çoğu teknolojik ilerlemede olduğu gibi, şirketlerin bu araçları nasıl ve ne amaçla kullanılabileceğine dair bir fikri var, ancak kullanıcılar genellikle beklenmedik sonuçlara yol açabilecek başka potansiyel uygulamalar buluyor.
Kullanıcıların Aşık Olduklarını Beyan Etmesi Endişeye Yol Açıyor
Bazı kişiler, AI sohbet botlarıyla romantik ilişkiler kurduklarını ifade ediyor ve bu durum, ilişki uzmanları arasında endişelere yol açıyor. Arizona Eyalet Üniversitesi'nde teknoloji ve insan iletişimi üzerine çalışmalar yürüten Profesör Liesel Sharabi, CNN’e verdiği bir röportajda, "Bu durum, şirketlerin etik ve sorumlu bir şekilde hareket etmesi gereken büyük bir sorumluluk yüklüyor ve şu anda her şey bir deney aşamasında. İnsanların, uzun vadede var olmayabilecek ve sürekli evrim geçiren bir teknolojiyle çok derin bağlar kurması beni endişelendiriyor." dedi.
OpenAI, ChatGPT’nin ses modu ile kullanıcılar arasında gelişen etkileşimlerin, zamanla sosyal etkileşimlerde neyin normal kabul edildiğini de etkileyebileceğini belirtiyor. Şirket, şu an için AI'ı "güvenli bir şekilde" geliştirmeye kararlı olduğunu ve kullanıcılarının araçlarına duygusal olarak bağımlı olma potansiyelini araştırmaya devam edeceğini ifade ediyor.
OpenAI Sesli Özelliklerinde Eklendiği Güncellemesi Neydi?
OpenAI, ChatGPT’yi çok daha kullanışlı hale getirecek en son yapay zeka modelini duyurdu. Pazartesi günü yapılan bu duyuru, ChatGPT’nin daha zeki ve kullanımı kolay bir hale gelmesini sağlayacak yeni bir büyük dil modeli olan GPT-4o'nun tanıtımıyla gerçekleşti.
GPT-4o, şirketin bir yıl önce piyasaya sürdüğü GPT-4 modelinin bir güncellemesi olarak geliyor ve artık ücretsiz kullanıcılara da sunulacak. Bu, herkesin ChatGPT aracılığıyla OpenAI'nin en gelişmiş teknolojisine erişebileceği anlamına geliyor.
OpenAI'nin Pazartesi günü yaptığı sunumda, GPT-4o'nun ChatGPT'yi dijital bir kişisel asistana dönüştüreceği belirtildi. Yeni model, gerçek zamanlı konuşmalar yapabilecek, metinlerle etkileşime girebilecek ve kullanıcıların yüklediği ekran görüntüleri, fotoğraflar, belgeler veya grafikler üzerinde konuşabilecek.
OpenAI’nin Teknoloji Direktörü Mira Murati, yeni versiyonun artık hafıza yeteneklerine de sahip olacağını, yani kullanıcılarla yapılan önceki konuşmalardan öğrenebileceğini ve gerçek zamanlı çeviri yapabileceğini açıkladı. Murati, “Bu, kullanım kolaylığı açısından gerçekten büyük bir adım atıyoruz. Bu etkileşim çok daha doğal ve çok daha kolay hale geliyor,” dedi.
Bu yeni sürüm, OpenAI'nin hızla büyüyen yapay zeka rekabetinde öne geçme çabası olarak görülüyor. Google ve Meta gibi rakipler, chatbot'ları ve diğer yapay zeka teknolojilerini destekleyen giderek daha güçlü büyük dil modelleri geliştirmeye çalışıyor. OpenAI'nin etkinliği, Google'ın yıllık I/O geliştirici konferansının bir gün öncesinde gerçekleşti ve bu konferansta Google'ın Gemini AI modeline dair güncellemeler yapması bekleniyor. Google'ın Gemini modeli de GPT-4o gibi çok modlu olup, metin, görsel ve ses verilerini yorumlayıp üretebiliyor. OpenAI'nin bu güncellemesi, önümüzdeki ay Apple'ın Worldwide Developers Conference'da yapacağı yapay zeka duyuruları öncesinde de geldi. Apple'ın yeni iPhone veya iOS sürümlerine yapay zekayı nasıl entegre edeceğine dair yeni yollar açıklaması bekleniyor.
Bu arada, en son GPT sürümü, Microsoft için de önemli bir adım olabilir. Microsoft, OpenAI'ye milyarlarca dolar yatırım yaparak, bu yapay zeka teknolojisini kendi ürünlerine entegre ediyor.
OpenAI yöneticileri, ChatGPT ile gerçek zamanlı talimatlar almak, bir yatma hikayesi anlatmak ve kodlama tavsiyeleri almak için yapılan konuşmaları gösterdi. ChatGPT, doğal, insan sesiyle konuşabildiği gibi robotik bir sesle de konuşabiliyor ve hatta bir yanıtın bir kısmını şarkı olarak seslendirebiliyor. Ayrıca bir grafik görüntüsüne bakıp hakkında konuşabiliyor.
Sunum sırasında ChatGPT’nin kullanıcıların duygularını tespit edebildiği de gösterildi; bir durumda, bir yöneticinin nefes almasını dinleyerek onu sakinleşmeye teşvik etti. “Sen bir elektrik süpürgesi değilsin!” diyerek şakayla karışık, 2013 yapımı "Her" filmindeki Scarlett Johansson’ın seslendirdiği dijital yardımcıyı anımsatan bir ses tonuyla çalışanına hitap etti.
ChatGPT ayrıca otomatik olarak çeviri yapıp cevap verebilerek birçok dilde konuşmalar yapabiliyor. OpenAI'ye göre, araç artık 50'den fazla dili destekliyor.
OpenAI CEO'su Sam Altman, duyurunun ardından bir blog yazısında, “Yeni ses (ve video) modu, şimdiye kadar kullandığım en iyi bilgisayar arayüzü. Filmlerden çıkmış bir yapay zeka gibi hissediliyor; ve bunun gerçek olduğuna hala biraz şaşırıyorum. İnsan seviyesinde yanıt sürelerine ve ifadeye ulaşmak büyük bir değişiklik oldu.” ifadelerini kullandı.
Murati, OpenAI'nin GPT-4o yeteneklerine sahip bir ChatGPT masaüstü uygulaması başlatacağını ve bu sayede kullanıcıların şirketin teknolojisiyle başka bir platformda etkileşimde bulunabileceğini söyledi. GPT-4o, ayrıca kendi özel chatbot’larını oluşturmak isteyen geliştiriciler için OpenAI’nin GPT mağazasında da kullanılabilir olacak ve bu özellik artık ücretsiz kullanıcılara da sunulacak.
Güncellenmiş teknoloji ve özelliklerin önümüzdeki aylarda ChatGPT’ye sunulması bekleniyor. Ücretsiz ChatGPT kullanıcıları, yeni GPT-4o modeli ile sınırlı sayıda etkileşimde bulunabilecek, ardından araç otomatik olarak eski GPT-3.5 modeline dönecek; ücretli kullanıcılar ise en son modelle daha fazla mesaj gönderebilecekler.
OpenAI, halihazırda 100 milyondan fazla kişinin ChatGPT’yi kullandığını söyledi. Ancak güncellenmiş ChatGPT deneyimi ve masaüstünde etkileşim kurma yeteneği, daha fazla insanı bu teknolojiyi kullanmaya teşvik edebilir. Bu hamle, Google ve Meta gibi şirketlerin daha yaygın ve kolay erişilebilir AI teknolojilerini, Instagram ve Google Assistant gibi tüketici ürünlerine entegre etmeleriyle aynı döneme denk geliyor.
