Facebook’un AI Şirketi Yanlışlıkla Kendi Silini Yarattı

tarafından
149
Facebook’un AI Şirketi Yanlışlıkla Kendi Silini Yarattı

Facebook Yapay Zeka Araştırma laboratuarı (FAIR) araştırmacıları chatbot’ları iyileştirmeye çalışırken beklenmedik bir keşif yaptı. “Diyalog acenteleri” olarak bilinen botlar kendi dillerini yaratıyordu.

Makine öğrenme algoritmalarını kullanarak, diyalog ajanları, konuşma becerilerini güçlendirme girişiminde bulunarak özgürce sohbet etmeye bırakıldı.

Zamanla, botlar komuta edilmiş normlardan sapmaya başladı ve bunu yaparken tamamen yeni bir dilde iletişim kurmaya başladı, insan girdisi olmaksızın yarattı.

İnsanlarla daha iyi sohbet etme girişiminde bulunarak, chatbots bir adım daha ileriye götürdü ve onlarla iletişim kurmada daha başarılı oldu.

Bu sadece ilginç keşif değil.

Araştırmacılar ayrıca bu botları inanılmaz derecede kurnaz müzakereciler olarak görüyorlardı.

Müzakereyi öğrendikten sonra botlar, bu görüşmelerin sonucunu iyileştirmek için makine öğrenmeye ve gelişmiş stratejilere dayandı.

Zamanla, botlar onun üzerinde oldukça ustalaştı ve daha sonraki bir aşamada müzakerede sahte bir uzlaşma olarak “feda etmek” için bir maddeye ilgi duymaya başladı.

Burada tekillik seviyesinde varlıklar konuşmuyoruz, ancak bulgular AI için büyük bir sıçrama.