Facebook Parent Meta, Yapay Zeka Destekli Yeni Chatbot'unu Eğitmenize Yardım Etmenizi İstiyor!

Bir bilgisayar ekranının önünde otururken, Facebook'un ana şirketi Meta tarafından oluşturulan yeni bir sohbet robotuna mesaj yazıyorum.

Pizza, politika ve hatta sosyal medya hakkında konuşuyoruz.

"Facebook hakkında ne düşünüyorsun?" Soruyorum.

Bot, "Facebook için fena değil.. Görünüşe göre herkes artık yüz yüze konuşmaktan daha çok facebook'ta vakit geçiriyor." 

İroni.

BlenderBot 3 olarak adlandırılan yapay zeka destekli bot, insanlarla konuşarak konuşma becerilerini ve güvenliğini geliştirmek için tasarlandı. Meta, bir AI araştırma projesinin parçası olarak Cuma günü chatbot'u halka açık bir şekilde yayınlıyor. ABD'li yetişkinler, bu genel web sitesinde çoğunlukla herhangi bir konu hakkında Meta'nın yeni sohbet robotuyla sohbet edebilir . AI, mesajlarını oluşturmak için internet aramalarını ve konuşmalarının anılarını kullanır.

Chatbotlar, metin veya ses kullanarak insan konuşmalarını taklit edebilen yazılımlardır. Genellikle sesli asistanlarda veya müşteri hizmetlerinde kullanılırlar. İnsanlar sohbet robotlarını kullanarak daha fazla zaman harcadıkça, şirketler konuşmanın daha sorunsuz akması için becerilerini geliştirmeye çalışıyor. 

Meta'nın araştırma projesi, önyargı, mahremiyet ve güvenlikle ilgili endişelerle boğuşan bir alan olan AI'yı ilerletme çabalarının bir parçasıdır. Chatbotlarla yapılan deneyler geçmişte ters gitti, bu nedenle demo Meta için riskli olabilir. 2016'da Microsoft , açık sözlü ve ırkçı yorumları tweetlemeye başladıktan sonra Tay sohbet robotunu kapattı. Temmuz ayında Google , şirketin test ettiği bir AI sohbet robotunun kendini bilen bir kişi olduğunu iddia eden bir mühendisi işten çıkardı.

Meta, yeni sohbet robotuyla ilgili bir blog yazısında, araştırmacıların, insanların kontrollü bir ortamda botlarla etkileşime girdiği çalışmalar yoluyla tipik olarak toplanan bilgileri kullandığını söyledi. Ancak bu veri seti dünya çapındaki çeşitliliği yansıtmadığından araştırmacılar halktan yardım istiyor.

Blog gönderisinde , "AI alanı, diğer insanlar gibi bizi anlayabilen, etkileşim kurabilen ve bizimle sohbet edebilen gerçekten akıllı AI sistemlerinden hala uzak" dedi. "Gerçek dünya ortamlarına daha uyumlu modeller oluşturmak için, sohbet robotlarının 'vahşi' insanlarla çeşitli, geniş kapsamlı bir perspektiften öğrenmesi gerekiyor."

Meta, BlenderBot'un üçüncü versiyonunun internet araması, uzun süreli hafıza, kişilik ve empati gibi öncüllerinin becerilerini içerdiğini söyledi. Şirket, 20.000'den fazla insan-bot sohbetini içeren herkese açık veriler topladı ve BlenderBot'un sağlıklı yemek tarifleri ve çocuk dostu olanaklar bulma gibi tartışabileceği konuların çeşitliliğini geliştirdi.

Meta, güvenliğin hala bir sorun olduğunu kabul etti, ancak araştırmacılar, insanlarla sohbet etmekten öğrendikçe sohbet robotunun daha güvenli hale geldiğini keşfetti. 

Blog gönderisinde, "Ancak canlı bir demo zorluklar olmadan değildir" dedi. "Bir botun keyfi konular hakkında konuşurken herkesi meşgul etmesi ve asla saldırgan veya toksik bir dil kullanmamasını sağlaması zordur."

Chatbot ile konuşan kişiler, mesajın yanındaki "beğenmedim" simgesine tıklayarak ve beğenmeme nedeni olarak "Kaba veya Uygunsuz" seçeneğini seçerek rahatsız edici bir mesaj hakkında geri bildirimde bulunabilirler. Mesajın konu dışı, anlamsız veya spam benzeri olduğu gibi geri bildirim sağladığında başka seçenekler de vardır.

Katılımcıların sohbet robotuna adlar, adresler ve doğum günleri gibi herhangi bir kişisel bilgi vermeleri önerilmez. Bir kullanıcı, araştırma için sohbeti paylaşmadan botla sohbet etmek isterse veya katılımcılar yanlışlıkla kişisel bilgileri sohbetlerine eklerse, oturumun sonunda verileri saklamayı seçmemeye karar verebilirler. Meta, daha sonra konuşma verilerini kalıcı olarak sileceğini söyledi.

Bot , deneyle ilgili bir SSS'ye göre yanlış veya çelişkili açıklamalar da yapabilir . Demo hakkındaki SSS, botun yorumlarının "Meta'nın bir şirket olarak görüşlerini temsil etmediğini ve tıbbi, yasal veya finansal tavsiye dahil ancak bunlarla sınırlı olmamak üzere gerçek bilgilere dayanmaması gerektiğini" söyledi.

BlenderBot'u denemekten, bunun hala devam eden bir çalışma olduğu açıktır. Bot'a San Francisco'daki en sevdiği pizza yerini sorduktan sonra, sohbeti yönlendirir ve "Boş zamanlarında ne yapmaktan hoşlanırsın?" diye sorar. Demo, AI'nın "potansiyel olarak güvenli olmayan bir konu" tespit ettiğinde konuları değiştirdiğini söyledi.

Bot, sosyal medyayı kullanmanın "aile dramına neden olduğunu" belirttikten sonra siyasi görüşlerini paylaşmaktan çekinmiyor . Bot, birisinin eski ABD Başkanı Donald Trump'a hakaret eden ve politikacıyı destekleyen aile üyeleri ile desteklemeyenler arasında "tartışmalara neden olan" bir makaleyi paylaştığını söyledi. 

Ebeveynlerinin Amerikan pizza zinciri restoranı Papa John's'un kurucusuyla akraba olduğunu söyleyen bot, bunun bir Cumhuriyetçi olduğunu ve "profesyonel seçim" olduğunu da belirtti. Her iki taraf arasındaki anlaşmazlıklar nedeniyle çevrimiçi siyaset hakkında konuşmamayı tercih edeceğini de sözlerine ekledi. 

BlenderBot daha sonra çok fazla trol olduğu için Facebook hesabını silmeyi düşündüğünü söyledi. Ayrıca saçma sapan açıklamalar yapmaya başladı.

BlenderBot'a bir mesajda "Belki de pizza hakkında konuşmaya dönmeliyiz?" diyorum.

Bot, "Muhtemelen daha iyi lol, fb hesabımı sildiğim için pişmanım; arkadaşlarla bağlantı kurmayı özledim" diye yanıtlıyor.