Makinelerin yaratıcılarına karşı gelmesi geleneksel ve süper güvenilir (!) online medyaya göre çok popüler bir konu, geçtiğimiz haftalarda ortaya çıkan saçma sapan Facebook Chatbotları Kapatıldı haber başlığı bunu doğruluyor. Örn1 Örn2

Eğer panik atağınız varsa veya yakın bir gelecekte robotlar tarafından öldürüleceğinizi düşünüyorsanız:

Hayır, Facebook’un ChatBot’ları Dünya’yı Ele Geçirmeyecek

Facebook Chatbotları Kapatıldı Haberlerini görmediyseniz şöyle özetleyeyim; Gördüyseniz haberleri geçip, gerçeğe gidin.

  • Araştırmacılar Bile Şaşkın: Facebook’un Yapay Zekâsı Kendi Dilini Oluşturdu!
    ….Bu botlar aslında pazarlama yapmaları için geliştirilmekteydi. Çalışmalar sırasında iki botun birbiriyle iletişim kurmasına izin veren model, makine öğrenimi sistemini kullanarak botların iletişimlerini geliştirmesine izin veriyordu.
    Botlar bir süre sonra kendi aralarında bir dil kullanmaya başladılar.
    Bu sohbet botları öyle geliştiler ki, bottan bota yapılan konuşmalar sırasında insanların onlara öğrettikleri dilin dışına çıkıp kendi aralarında bir dil kullanmaya başladılar. Hatta araştırmalar bu noktada botlardan birine müdahale etmek durumunda kaldı.
    İşte bu iki bot biraz ileri gitti ve kendilerine has, insana ait olmayan bir dil geliştirdi.
    Kaynak: Onedio

Bunun gibi birkaç haber daha var, Habertürk-Hürriyet-Milliyet-Ntv vs.

Hayır, Facebook'un ChatBot'ları Dünya'yı Ele Geçirmeyecek

Olay aslında şöyle gerçekleşmiş;

Facebook’un araştırma laboratuvarındaki bir ekip ChatBot’lar (Türkçesi var mı bilmiyorum, sohbet robotu olabilir) üzerine bir araştırma yapıyorlarmış. Araştırmacıların hedefi insanlarla uzlaşabilen bir ChatBot yapmak için 2 ChatBot tasarlamışlar.

Düşünceleri: İnsanlarla daha yakından çalışabilmek için müzakere ve işbirliği yeteneklerini geliştirmek.

İlk önce küçük bir oyunla başladılar, 2 oyuncu gibi şapkalar, toplar ve kitaplar gibi nesneleri kendi aralarında bir koleksiyoncu gibi bölüştürme oyunu.

Oyunla Yapay Zeka Eğitimi - Hayır, Facebook'un ChatBot'ları Dünya'yı Ele Geçirmeyecek

Ekip, botlarını bu oyunu iki adımlı bir programla oynatmayı öğretti. Birincisi, sisteme müzakerelerin dilini hissettirmek için, insanlar arasındaki binlerce oyunu botlara aktardılar. Ardından, botların deneme yanılma ile öğrenmelerine izin verdiler; bu sırada destekli öğrenme için Google’ın Go bot’un AlphaGo’nun şampiyon oyuncuları yenmelerine yardımcı olan bir teknik takımı taktikleri düzeltmiş.

 

Kaos başlıyor - Facebook Chatbotları Kapatıldıİşlerin karıştığı nokta

Destekli öğrenme yöntemini kullanan iki bot birbirleriyle oyunu oynadığında, tanınabilir yani mantıklı cümleleri kullanmayı bıraktılar. Ya da Facebook araştırmacılarının teknik makalelerinde de ayrıntılı bir şekilde açıklamaları “Her iki aracının parametrelerinin güncellenmesinin insanın dilinden ayrılmasına yol açtığını tespit ettik” oldu, dokümanı okumak isterseniz buyrun.

ChatBot - Facebook Chatbotları KapatıldıChatbotların kullandığı cümlelerden bir örnek: 

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Türkçesi

Bob: Ben her şeyden önce ben alabilirim …..
Alice: topların bana sıfır yapması bana bana, benim için bana, benim için

Bu korkunç (!) ileri düzeydeki makine dili sizi de korkuttu değil mi?

Botların neden böyle konuşmuş olabilecekleri bilimsel olarak gerçekten bilinmese de, bir numaralı sebep ısrar gibi gözüküyor. Sonuçta botlar Facebook’un oyununda en yüksek puanı almak için oyunu oynuyorlardı. Bu botlar eğitilirken insanların binlerce konuşması örnek gösterilmişti ve insanlar da müzakerelerde sıkıştıklarında veya bir şeyi elde etmek istediklerinde ısrarcı olarak defalarca aynı kelimeyi kullanıyorlar.

Robotlar bizi öldürecek mi? - Facebook Chatbotları KapatıldıPeki sonuç?

Korkutucu haberlere ve Elon Musk şöyle dedi veya Stephen Hawking böyle uyardı lara inat, Facebook’un araştırma ekibinin deneyi özetle şunu gösterdi: Günümüzün yapay zekasının limitleri sınırlı ve machine learning (makine öğrenimi) kısıtlı şekilde çalışıyor. Yani yakın gelecekte yapay zekaların sizinle pazarlık yapması veya sizi kandırması veya arabanız otonom sürüşteyken sizden bir şeyler talep edip, istediklerini vermezseniz duvara çarparım diye tehdit etmesi mümkün gözükmüyor. Facebook’un ChatBot’ları Dünya’yı Ele Geçirmeyecek!

Kaynak: Wired