Hayatımızı Kontrol Etmeye Çalışan Korkunç Algoritmalara Güvenmek

tarafından
148
Hayatımızı Kontrol Etmeye Çalışan Korkunç Algoritmalara Güvenmek

Yapay zekanın hakim görünümü, bazı gün makinelerin kendi başına yapabileceğimizden daha iyi kararlar almamıza yardımcı olacağı, hayatımızı geliştirdiğidir.

Bu görüş bize, AI kullanan kuruluşlara ürün ve hizmetler sunmak için güvendiğimizi varsaymaktadır. Ancak bu hatalı bir varsayımdır, çünkü çoğumuzun en iyi çıkarımızı akılda tutması mümkün değildir.

Bazı bilim insanları, birçok bilim kurgu meraklıları ve bir çok halk AI’nin mükemmel şekillerine inanır.

İnsanların dünyayı anlayabileceği, mantığının ve mükemmel kararlar verebilen benzeri makinelerin hemen köşededir.

Ben dahil olmak üzere diğerleri, on yıllar süreceklerini düşünüyor ve bazı bilim insanları asla güçlü AI bulamayacağımıza inanıyorlar.

Yüce bir AI figürüne inananlar, gelmesini çok hevesle bekliyor ancak bu arada, sahip olduğumuz şey, makine öğrenme algoritmaları ya da zayıf AI, dar bir görevi de yerine getirebilecek görünüşte akıllı bir makine olarak adlandırılan geçici bir adım.

Ya da insanlardan daha iyidir, ancak onu yöneten kuralların ötesine geçemez.

Hepimiz bu algoritmaları duyduk, çünkü Google ve Facebook gibi teknoloji devlerinin başarısının anahtarı olmuştur.

En basit biçiminde, bir bilgisayarın bir sorunu çözmek için kullandığı talimat setidir.

Facebook’u kullanan herhangi birimizin bildiği üzere, daha iyi bir çözüm üretmek için tekrar tekrar rafine edilebilirler ama kimin için?

Algoritma kaynaklı tehditler basit bir soruyu çözüyor: Onları geliştiren organizasyonlara, örgütlerin ürün ve hizmetlerini kullananlara veya kuruluşların öne sürdüğü gibi her iki tarafa fayda var mı?

Yanıtın şu olduğuna inanmaktayız: Bu algoritmaların ve hizmetlerin başlıca yararlanıcıları onları geliştiren kuruluşlardır.

Fakat konu, algoritmaların başlıca yararlanıcılarının ötesine geçiyor.

Sorulması gereken bir diğer soru şudur: Zarara neden mi? Ve birçoğu evet derdi.

Mükemmel AI , onlara aksini bulamayacakları bir dizi seçenek vereceğine inanıyor ve daha iyi bir yaşam elde etme yeteneklerini artıracağı için bu ek seçenekler iyi bir anlaşmadır.

Fakat algoritma tabanlı İnternet şirketlerinin ürün ve hizmetlerini kullanan daha fazla kişi, tercihlerimizi arttırmak yerine algoritmaların onları daralttığını fark ediyor.

Örneğin çevrimiçi haber akışlarını alın.

Çoğu gazetecinin doymayan bir merakı var ve her geçen gün geniş bir haber arıyor.

Ancak tanıştığım yaşlı bir gazeteci, sözde filtre balonuyla oldukça gerçek bir şekilde temasa girdi ve hem Yahoo hem de Google’ın haber yayınları ona her geçen gün çok dar bir hikaye menüsü veriyor. Sanki kendisini sansürlüyor gibi geliyor.

 

Birkaç yıl önce, Yahoo’nun haber alanına Trump, yenilenebilir enerji, birkaç başka konu hakkında hikayeleri doldurduğu ve başka hiçbir şeyin bulunmadığını keşfetti.

Açıkçası bunun nereden geldiğini söyledi.

Yahoo’nun algoritması, en çok ilgilendiği konuları okuma alışkanlıklarıyla saptadı ve istediği geniş yelpazede değil, aynı şeyden çok daha fazlasını verdi.

Yemini birkaç konuya indirene kadar kendi kendini güçlendiren bir sarmal.

İşyerinde, kültüründe, sanatında, seyahatlerinde ve bilmek istediği diğer konularda hikayeleri Yahoo duvarında olmayan hangi haberlerini kaçırdığını merak ediyor çünkü sinirli davranıyor.

Bu gazetecinin dünya görüşünün yanlışlıkla daraltılması, sadece Trump ve yenilenebilir enerjilerin ötesinde haberler için susuzluğunu gidermekle kalmaz, aynı zamanda kariyerini de etkileyebilir.

Amerikan politikası ve alternatif enerjiden başka konular, onları bilseler bile kapsayabilirdi.

Bu gazetecinin hikayesi, insanların seçimlerini genişletmek yerine onları daraltmak için kullanılan basit bir algoritma örneği.

Eğer bu daralmış seçenekler kariyerini etkiliyorsa, algoritmalar nötr bilgi kolaylaştırıcıları değil, aksine zarar verir.

Bu belirli gazeteci, algoritmaların seçimlerini daralttığını biliyordu, ancak bu konuda ne yapacağını bilmiyordu.

Ama bilmeyenlerle ilgili milyonlarca insan ne olacak?

Bu senaryoyu düşünün:

Kötü bir gün geçiriyorsun. Patronunuzla kavga ettiniz, karınız hırçın ve aracınızdaki başlangıç ​​görevlendirildi.

Google, çevrimiçi iletişimlerinizi okuyor ve gün içinde yaşamsal işaretlerinizi ve stres seviyelerinizi izliyor ve sizde çeşit bulunduğunu biliyor.

Eve döndüğünüzde, evdeki akıllı aydınlatmayı rahatlatıcı bir şey haline getirir ve sizin için sakinleştirici müzikler açar.

Doğal olarak kendini daha iyi hissetmeye başlıyorsun çünkü, evinizin rahatlığına geri döndünüz, çünkü karınız bir daha bir pasta açtınız veya Google’ın sizin için yarattığı farklı geçmişi nedeniyle sizi öptü?

Kendimizden aldığımız kararlardan veya bir algoritmanın yarattığı yapay bir ortamdan dolayı hoşnut olduğumuz için daha iyi hissettiğimizi anlayamadıkça büyük sıkıntı çekiyoruz. Çünkü o anda, dünyamızı genişleterek bizim için çalışan teknoloji yerine, onu daraltmak için elini altına aldı.

Web’de makine öğrenimi potansiyel olarak dünya görüşümüzü manipüle eder ve sıkıştırır. Gerçek dünyada, yine de, bedenlerimizi ve fiziksel durumumuzu manipüle eder, dünyamızın sınırlarını daraltıyoruz.

Şu anda İnternet’te bir çeşit filtreleme yapmamız gerekebilir çünkü aksi takdirde bir insanın işleme koyması için çok fazla bilgi olacaktır ve gazetecimiz sadece bir zorunluluk mağduru olabilir. Ama şimdi çevremizdeki tüm nesnelerin gittikçe artan ve birbirine bağlı hale geldiği yeni bir alana giriyoruz. Gerçek dünyaya gereksiz yere aynı tasarım ilkelerini ve algoritmaları uygularsak, daha geniş ve tehlikeli etkilere başlarız.

Algoritmaların bizi zararlı bir şekilde kontrol altına almasını nasıl önleyebiliriz?

Nasıl çalıştığını anlamaya başlayabiliriz, böylece olumsuz etkilerini önleyebiliriz.

Yaklaşık 30 yıl önce, insanlar, eğimli haberlerden kaynaklanabilecek olumsuz etkinin, medya okuryazarlığı hareketi olarak adlandırılan şeylere başlamasına neden olacağı konusunda endişeliydi.

Fikir, insanları haber hikayeleri hazırlayan kişi ve hikayelerin yazarların istediği izlenimler yaratmak için nasıl eğilebileceği konusunda eğitmekti. Bu hareket devam ediyor, bugünkü dengesiz ve sahte haberlerdeki dalgalanma göz önüne alındığında, her zamankinden daha fazla ihtiyaç duyuluyor.

Kullanıcıların algoritmaların düşüncelerini, alışkanlıklarını ve temel olarak hayatlarını nasıl etkilediğini öğrenmelerini sağlamak için benzer bir eğitime başlamalıyız.

Bu çabanın önemli bir itki, halkı bildirimleri, önerileri ve çevrimiçi olarak aldıkları algoritma tarafından üretilen diğer bilgileri sorgulamaya teşvik edecekti.

Mesajları kim gönderiyor, neden ve bana olumsuz etkisi olabilir?

Algoritmaların bu mesajları nasıl göndermelerine neden olan sebep genellikle çok basittir ve insanlar bu mesajları doğru bir şekilde öğrenirlerse kolayca anlayabilirler.

Bu çabanın her yaşı kapsamasına rağmen, çok küçük çocuklarla bile başlaması önemlidir.

Bu eğitim çabasıyla birlikte, teknoloji şirketlerini algoritma ile ilgili faaliyetlerini yöneten etik kurallarını formüle etmeye zorlamalıyız.

Teknoloji ürünlerinin ve toplumun kesişimini yöneten kuralları dikkate almak akıllıca olabilir.

Bu algoritmaların arkasındaki kişilere güvenmediğimi söylemiyorum.

Bu programcılar, insanların hayatlarını iyileştirmek için iyi şeyler yapmaya çalışıyorlar.

Sorun burada, insanların hayatlarını makine öğrenimi yoluyla iyileştirmeye çalışan bir yanlışlık aslında zıtlığa neden oluyor.

Bu kişileri, kendi algoritmaları sanki hayatımızı iyileştiriyor gibi görünebilir ve ölçümler bu şekilde görünebilir (yani, kullanıcılarımızın yüzde 30’u artık X özelliğini kullanıyor ve bunları Y zamanından kurtarıyor!) Diye suçlayamıyoruz .

Onları suçlamamak yerine onlarla bir söylem başlatmamız gerektiğine inanıyorum ve bu konuyla ilgili geniş kapsamlı bir tartışma görmek isterim bir algoritma okuma-yazma çabası.

Makine öğrenme algoritmaları zaman geçtikçe daha rafine hale gelecektir.

Kitabımda bu, kendi seçimlerimizi yapma kabiliyetim için gittikçe artan bir şekilde fark edilmemiş bir tehdit haline gelecekleri anlamına geliyor.

Bu nedenle halkı ve bu algoritmaları oluşturan kişileri bu konularda ne kadar çabuk eğitmeye başlarsak o kadar iyi olur.