İşte Bilim İnsanlarının Yapay Zeka hakkında Endişelenmeniz gerektiğini Düşünmeleri

Son birkaç ay boyunca, yapay zeka ile ilgili riskleri tartışarak Stephen Hawking'in ortak yazdığı bir makaleyi çevreleyen kapsama alanını okudunuz. Makale, AI'nın insan ırkı için ciddi bir risk oluşturabileceğini öne sürdü. Hawking orada yalnız değil - Elon Musk ve Peter Thiel, benzer kaygılarını dile getiren entelektüel halk figürleridir (Thiel, sorunu ve olası çözümleri araştırmak için 1,3 milyon dolardan fazla yatırım yaptı).

Hawking'in makalesinin ve Musk'un yorumunun kapsamı, çok iyi bir noktaya değinmek değil, biraz neşeli oldu. Ses tonu çok fazla oldu, 'tüm meraklıların endişelendiği bu tuhaf şeye bak.' Dünyadaki en zeki insanlardan bazıları sizi bir şeyin çok tehlikeli olabileceği konusunda uyarıyorsa, dinlemeye değer olabileceği fikrine az önem verilir..

Bu anlaşılabilir bir durumdur - dünyayı ele alan yapay zeka kesinlikle çok garip ve anlaşılmaz bir ses, belki de bilim kurgu yazarlarının bu fikre verdiği çok büyük ilgi nedeniyle. Peki, tüm bu nominal aklı başında olan, rasyonel insanlar bu kadar korktu?

Zeka Nedir??

Yapay Zeka tehlikesi hakkında konuşmak için, zekanın ne olduğunu anlamak faydalı olabilir. Konuyu daha iyi anlamak için, akıl yürütme teorisini inceleyen araştırmacılar tarafından kullanılan bir yapay zeka mimarisine bir göz atalım. Bu oyuncak AI AIXI denir ve çok sayıda yararlı özelliklere sahiptir. Hedefleri keyfi olabilir, bilgi işlem gücü ile iyi ölçeklenir ve iç tasarımı çok temiz ve anlaşılırdır..

Ayrıca, isterseniz, Pacman oyun gibi şeyler yapabilen mimarinin basit, pratik versiyonlarını uygulayabilirsiniz. AIXI, algoritmik zeka konusunda önde gelen uzmanlardan biri olan Marcus Hutter adlı AI araştırmacısının ürünüdür. Yukarıdaki videoda konuşan o.

AIXI şaşırtıcı derecede basittir: üç ana bileşene sahiptir: öğrenci, planlamacı, ve fayda fonksiyonu.

• öğrenci dış dünyayla ilgili girdilere karşılık gelen bit dizeleri alır ve gözlemlerini çıktı olarak üretenleri bulana kadar bilgisayar programları arasında arama yapar. Bu programlar bir araya gelerek geleceğin neye benzeyeceğine dair tahminler yapmasına olanak tanır, her bir programı ilerleterek ve sonucun olasılığını programın uzunluğuna göre (Occam Razor uygulaması).
• planlamacı aracının gerçekleştirebileceği olası eylemleri araştırır ve her birini alırsa ne olacağını tahmin etmek için öğrenci modülünü kullanır. Daha sonra bunları, öngörülen sonuçların ne kadar iyi ya da kötü olduğuna göre derecelendirir ve beklenen sonucun elde edilmesini beklenen olasılıkla çarparak beklenen sonucun iyiliğini en üst düzeye çıkaran eylem sürecini seçer..
• Son modül fayda fonksiyonu, dünyanın gelecekteki durumunu açıklayan ve bunun için faydalı bir puan alan basit bir programdır. Bu fayda puanı, sonucun ne kadar iyi ya da kötü olduğu ve gelecekteki dünya durumunu değerlendirmek için planlayıcı tarafından kullanılır. Fayda fonksiyonu keyfi olabilir.
• Birlikte ele alındığında, bu üç bileşen bir iyileştirici, Kendisini içinde bulduğu dünyaya bakmaksızın belirli bir amaç için optimize eden.

Bu basit model, akıllı bir ajanın temel bir tanımını temsil eder. Temsilci, ortamını inceler, modellerini oluşturur ve daha sonra istediği şeyi alma olasılığını en üst düzeye çıkaracak eylem akışını bulmak için bu modelleri kullanır. AIXI, yapısal olarak satranç oynayan veya bilinen kurallara sahip diğer oyunları oynayan bir AI ile benzerdir - ancak oyunun kurallarını sıfır bilgiden başlayarak oynayarak çıkarabilir..

Hesaplamak için yeterli zaman verilen AIXI, her ne kadar karmaşık olursa olsun herhangi bir sistemi optimize etmeyi öğrenebilir. Genelde akıllı bir algoritmadır. Bunun insan benzeri zekâya sahip olmasıyla aynı şey olmadığını unutmayın (biyolojik olarak ilham alan AI, OpenWorm'un Giovanni Idili'si: Beyin, Solucanlar ve Yapay Zeka Giovanni Idili'nin OpenWorm: Brains, Worms ve Yapay Zeka insan beyni kapalı bir yoldur, ancak açık kaynaklı bir proje bilime bilinen en basit hayvanlardan birinin nörolojisini ve fizyolojisini simüle ederek hayati ilk adımları atmaktadır.) Başka bir deyişle, AIXI herhangi bir kimseyi herhangi bir entelektüel görevde (yeterli bilgi işlem gücü verildiğinde) geride bırakabilir, ancak zaferinin bilincinde olmayabilir. Düşünme Makineleri: Sinirbilim ve Yapay Zeka Bize Bilinç Düşünme Makineleri Hakkında Bize Ne Öğretebilir? Sinirbilim ve Yapay Zeka Bize Bilinç Hakkında Öğretebilir Yapay olarak akıllı makineler ve yazılımlar inşa edebilir, bize bilincin çalışmalarını ve insan zihninin doğasını öğretir? .

Pratik bir AI olarak, AIXI'nin birçok sorunu var. Birincisi, ilgilendiği çıktıyı üreten programları bulmak için hiçbir yolu yoktur. Bu, kaba kuvvet algoritmasıdır, yani etrafta keyfi bir şekilde güçlü bir bilgisayara sahip değilseniz, pratik değildir. AIXI'nin herhangi bir fiili uygulaması zorunlu olarak bir yaklaşımdır ve (bugün) genel olarak oldukça kabadır. Yine de, AIXI bize güçlü bir yapay zekanın nasıl görünebileceği ve neden olabileceği konusunda teorik bir bakış verir..

Değerlerin Uzayı

Herhangi bir bilgisayar programlaması yaptıysanız Bilgisayar Programcılığının Temelleri 101 - Değişkenler ve DataTypes Bilgisayar Programcılığının Temelleri 101 - Değişkenler ve DataTypes Önce Nesneye Yönelik Programlama hakkında biraz bilgi verdim ve bu programın atasözünün nereden geldiğini biraz düşündüm. Programlamanın mutlak temellerini, dile özgü olmayan bir şekilde ele alıyoruz. Bu…, bilgisayarların iğrenç bir şekilde, bilgisel ve mekanik olarak değişmez olduğunu biliyorsunuz. Makine ne yapmak istediğinizi bilmiyor ya da umursamıyor: sadece söyleneni yapıyor. Makine zekası hakkında konuşurken bu önemli bir kavramdır.

Bunu akılda tutarak, güçlü bir yapay zeka icat ettiğinizi düşünün - verilerinizle eşleşen hipotezler üretmek ve iyi aday planlar oluşturmak için akıllı algoritmalar geliştirdiniz. AI'nız genel sorunları çözebilir ve modern bilgisayar donanımında verimli bir şekilde yapabilir.

Şimdi AI değerlerinin ne olacağını belirleyen bir yardımcı işlev seçme zamanı. Neye değer vermelisin? Unutmayın, makine küçümseyecek, en üst düzeye çıkarmasını istediğiniz işlevi ne olursa olsun durdurmayacak ve asla durmayacak - makinede ne kadar '' uyanma '' ve ne kadar faydalanmayacağına bakılmaksızın yardımcı fonksiyonunu değiştirmeye karar verecek bir hayalet yoktur. Kendi akıl yürütme için yaptığı verimlilik iyileştirmeleri.

Eliezer Yudkowsky bunu şöyle ifade etti:

Tüm bilgisayar programlarında olduğu gibi, AGI'nın temel zorluğu ve temel zorluğu, yanlış kodu yazarsak, AI'nın otomatik olarak kodumuzu incelememesi, hataları işaretlememesi, gerçekte ne demek istediğimizi çözmesi ve bunu yapmasıdır. yerine. Programcı olmayanlar bazen emirleri sorgulamadan takip eden bir hizmetçiye benzeyen bir AGI veya genel olarak bilgisayar programlarını düşünürler. Ancak bu AI kesinlikle değil itaatkâr koduna; aksine, sadece AI olduğu kod.

Bir fabrikayı işletmeye çalışıyorsanız ve makineye ataçlara değer vermesini söyleyin ve ardından fabrika robotlarının kontrolünü verin, ertesi gün diğer hammadde tükendiğini bulmak için geri dönebilirsiniz. tüm çalışanlarını öldürdü ve kalıntılarından ataç çıkardı. Yanlışını düzeltmek için makineyi basitçe herkesi mutlu etmek için yeniden programlıyorsan, ertesi gün telleri halkların beynine soktuğunu bulmak için geri dönebilirsin..

Buradaki nokta, insanların diğer zihinlerle dolaylı olarak paylaşıldığını varsaydığımız çok sayıda karmaşık değere sahip olmasıdır. Paraya değer veriyoruz, ama insan yaşamına daha çok değer veriyoruz. Mutlu olmak istiyoruz, ancak bunu yapmak için beynimize kablo koymak istemiyoruz. Diğer insanlara talimat verirken bu şeyleri açıklığa kavuşturma gereğini hissetmiyoruz. Ancak, bu tür varsayımları bir makinenin yardımcı işlevini tasarlarken yapamazsınız. Basit bir fayda fonksiyonunun ruhsuz matematiği altındaki en iyi çözümler genellikle insanların ahlaki açıdan korkutucu olduğu için karıştırdığı çözümlerdir..

Akıllı bir makinenin naif bir yardımcı işlevini en üst düzeye çıkarmasına izin vermek neredeyse her zaman felaket olur. Oxford filozofu Nick Bostom’un dediği gibi,

Bir süper-farkındalığın, insan-bilimsel merak, başkaları için hayırseverlik, ruhsal aydınlanma ve tefekkür, maddi elde edilebilirlikten vazgeçme, rafine bir kültür tadımı veya maddi edinim için feragat etme ile ilgili bilgelik ve entelektüel gelişim ile ilgili kalıplaşmış bir şekilde nihai değerlerden herhangi birini mutlaka paylaşacağını kabul edemeyiz. yaşamdaki basit zevkler, alçakgönüllülük ve bencillik, ve benzeri.

Sorunları daha kötü hale getirmek için, insanların değer verdiği her şeyin tam ve ayrıntılı listesini belirtmek çok, çok zordur. Sorunun bir çok yüzü var ve bir tanesini bile unutmak potansiyel olarak felakettir. Farkında olduklarımız arasında bile, bir makineye bir yardımcı fonksiyon olarak verebileceğimiz temiz denklem sistemleri olarak yazılmasını zorlaştıran incelikler ve karmaşıklıklar var..

Bazı insanlar, bunu okuduktan sonra, fayda sağlayan işlevlere sahip yapay zeka geliştirmenin korkunç bir fikir olduğu sonucuna varır ve onları sadece farklı şekilde tasarlamalıyız. Burada ayrıca kötü haberler de var - resmen, bir yardımcı program işlevine eşdeğer bir şey yapmayan hiçbir aracının gelecekle ilgili tutarlı tercihlere sahip olmadığını kanıtlayabilirsiniz..

Özyinelemeli Kendini Geliştirme

Yukarıdaki ikilemin bir çözümü, AI temsilcilerine insanlara zarar verme fırsatı vermemek: onlara sadece sorunu çözmeyi düşündükleri şekilde çözmek, onları yakından takip etmek ve fırsatlardan uzak tutmak için ihtiyaç duydukları kaynakları verin. büyük zarar ver. Ne yazık ki, akıllı makineleri kontrol etme becerimiz şüpheli.

Bizden daha zeki olmasalar bile, makinenin olma olasılığı var “çizme atkısı” - daha iyi donanım toplamak veya daha da akıllı hale getiren kendi kodunda iyileştirmeler yapmak. Bu, bir makinenin, insan kedilerini zekâsıyla aynı şekilde zekâsı yapan, zekâ seviyelerinde insan zekasını sıçramasına izin verebilir. Bu senaryo ilk önce II. Dünya Savaşı sırasında Alan Turing ile birlikte Enigma kripto analizi projesinde çalışan I. J. Good tarafından önerildi. O bir denir “İstihbarat Patlaması,” ve böyle bir konuyu tarif etti:

Ultra akıllı bir makinenin zeki, ancak herhangi bir erkeğin bütün entelektüel aktivitelerini aşabilecek bir makine olarak tanımlanmasına izin verin. Makinelerin tasarımı bu entelektüel faaliyetlerden biri olduğundan, ultra akıllı bir makine daha iyi makineler tasarlayabilir; daha sonra tartışmasız bir “istihbarat patlaması,” ve insanın zekası çok geride kalacaktı. Bu nedenle, ilk ultra akıllı makine, makinenin yeterince uysal olması şartıyla, insanın yapması gereken son buluştur..

Evrenimizde bir istihbarat patlamasının mümkün olduğu garanti edilmez, ancak muhtemel görünüyor. Zaman geçtikçe, bilgisayarlar daha hızlı ve istihbarat birikimi hakkında temel bilgiler edinir. Bu, genel, destekleyici zekaya son atlamayı yapmak için kaynak gereksiniminin aşağı ve aşağı düşmesi anlamına gelir. Bir noktada, kendimizi milyonlarca insanın Best Buy’a gidebileceği bir dünyada bulup, geliştirmiş olduğumuz, kendini geliştiren yapay bir zeka oluşturmak için ihtiyaç duydukları donanım ve teknik literatürü alacağız. çok tehlikeli. Sopa ve kayalardan atom bombaları yapabileceğiniz bir dünya hayal edin. Bu tartışacağımız türden bir gelecek..

Ve eğer bir makine bu atlamayı yaparsa, insan türünü entelektüel verimlilik açısından çok hızlı bir şekilde aşabilir, bir milyar insanın çözemediği sorunları çözebilir, aynı şekilde bir milyar kedinin çözebileceği sorunları çözebilir. t.

Güçlü robotlar (veya biyo veya nanoteknoloji) geliştirebilir ve dünyayı istediği gibi yeniden şekillendirme yeteneğini nispeten hızlı bir şekilde kazanabilir ve bu konuda yapabileceğimiz çok az şey olurdu. Böyle bir istihbarat, Dünya'ya ve güneş sisteminin geri kalanını çok fazla sorun yaşamadan, istediklerimizi yapmak için zorlaştırabilir. Böyle bir gelişmenin insanlık için felaket olacağı muhtemel görünüyor. Yapay bir zekanın dünyayı yok etmek için zararlı olması gerekmiyor, sadece felaketle ilgisiz.

Ne demişler, “Makine seni sevmiyor ya da nefret etmiyor, ama başka şeyler için kullanabileceği atomlardan oluşuyorsun.”

Risk Değerlendirmesi ve Azaltılması

Öyleyse, basit bir fayda fonksiyonunu en üst düzeye çıkaran güçlü bir yapay zeka tasarlamanın kötü olduğunu kabul edersek, gerçekten ne kadar sorun yaşıyoruz? Bu tür makineleri inşa etmemiz ne kadar zaman alabilir? Tabii ki, söylemesi zor..

Yapay zeka geliştiricileri ilerleme kaydediyor. Yapay Zeka Programcılığında En Son Görülecek 7 Şaşırtıcı Web Sitesi Yapay Zeka Programcılığında Son En Son Görülecek 7 Şaşırtıcı Web Sitesi Yapay Zeka 2001'den beri HAL değil: Space Odyssey… ama çok yaklaşıyoruz. Tabii ki, bir gün Hollywood tarafından çalkalanan bilim kurgu kazanlarına benzeyebilirdi… Yaptığımız makineler ve çözebilecekleri sorunlar giderek genişliyor. 1997'de Deep Blue, bir insan büyük ustasından daha büyük bir seviyede satranç oynayabilir. 2011'de IBM'in Watson'ı, açık uçlu bir soruda en iyi insan oyuncuları yenecek kadar derin ve hızlı bir şekilde yeterince bilgiyi okuyabilir ve sentezleyebilir ve on dört yılda çok büyük bir ilerleme kaydetti..

Şu anda, Google, daha basit sinir ağlarının zincirlerini oluşturarak güçlü sinir ağlarının inşasını sağlayan bir teknik olan derin öğrenme araştırmalarına büyük yatırım yapıyor. Bu yatırım konuşma ve görüntü tanımada ciddi ilerleme kaydetmesine izin veriyor. Bölgedeki en son kazanımları, yaklaşık 400 milyon dolar ödedikleri DeepMind adında bir Deep Learning kuruluşu. Anlaşmanın bir parçası olarak Google, AI teknolojilerinin güvenli bir şekilde geliştirilmesini sağlamak için bir etik kurul oluşturmayı kabul etti..

Aynı zamanda, IBM, görüntü ve video işleme ve sonuçları savunmayı savunan sistemler olan Watson 2.0 ve 3.0'ı geliştiriyor. Watson'ın aşağıdaki video demosunda bir konu hakkında ve aleyhindeki argümanları sentezleme kabiliyetine sahip basit ve erken bir demo yaptılar. Sonuçlar mükemmel değil, ama etkileyici bir adım.

Şu anda bu teknolojilerden hiçbiri tehlikeli değil: bir alan olarak yapay zeka küçük çocukların sahip olduğu yeteneklerle eşleşmeye çalışıyor. Bilgisayar programlama ve AI tasarımı çok zor, üst düzey bilişsel bir beceridir ve makinelerin yetkin olduğu son insan işi olacaktır. Bu noktaya gelmeden önce, her yerde araba kullanabilen makinelerimiz olacak. İşte, Sürücüsüz Otomobillerle Dolu Bir Dünyaya Nasıl Gidiyoruz? İşte, Sürücüsüz Otomobillerle Dolu Bir Dünyaya Nasıl Gidiyoruz? ve zorlu görev. Bir gün Google’ın sürücüsüz otomobil teknolojisi ile otomatik hale getirilebilir mi? , derin ekonomik sonuçları olan tıp, hukuk ve muhtemelen başka şeyler de uygulayabilir.

Kendimizi geliştirmenin çarpışma noktasına ulaşmamızın zamanı, sadece ne kadar hızlı iyi fikirlere sahip olduğumuza bağlı. Bu tür teknolojik gelişmelerin tahmin edilmesi meşhurdur. Yirmi yıl içinde güçlü yapay zeka geliştirmemiz makul değil, seksen yıl alabileceği da mantıklı görünmüyor. Her iki durumda da, en sonunda olacak ve bu gerçekleştiğinde, son derece tehlikeli olacağına inanmak için bir neden var..

Peki, bunun bir sorun olacağını kabul edersek, bu konuda ne yapabiliriz? Bunun cevabı, ilk akıllı makinelerin güvenli olduğundan emin olmaktır, böylece önemli bir zeka seviyesine ulaşabilirler ve daha sonra bizi daha sonra yapılan güvensiz makinelerden koruyabilirler. Bu 'güvenlilik' insani değerleri paylaşarak ve insanlığı korumaya ve yardım etmeye istekli olmakla tanımlanır..

Makineye gerçekte oturup insan değerlerini programlayamadığımız için, makinenin insanları gözlemlemesini, değerlerimizi çıkarmayı ve sonra değerleri en üst düzeye çıkarmayı gerektiren bir yardımcı fonksiyon tasarlaması muhtemelen gerekli olacaktır. Bu gelişim sürecini güvenli hale getirmek için, özel olarak tasarlanmış yapay zekaları geliştirmek de faydalı olabilir. değil fayda fonksiyonları hakkında tercihlerde bulunmak, gelişim sırasında yoldan sapmaya başlarlarsa, onları düzeltmemize veya direnmeden kapatmamıza izin vermek.

Güvenli bir makine zekası oluşturmak için çözmemiz gereken sorunların çoğu matematiksel olarak zordur, ancak çözülebileceklerine inanmak için sebepler vardır. Oxford'daki İnsanlık Enstitüsünün Geleceği ve Peter Thiel'in fon sağladığı Makine İstihbarat Araştırma Enstitüsü de dahil olmak üzere birçok farklı kuruluş bu konuda çalışıyor..

MIRI, Friendly AI oluşturmak için gereken matematiği geliştirmekle özellikle ilgileniyor. Yapay zekanın ön plana çıkarılmasının mümkün olduğu ortaya çıkarsa, o zaman bu tür 'Friendly AI' teknolojisini geliştirmek, başarılı olursa, insanların şimdiye kadar yaptığı en önemli şey haline gelebilir..

Yapay zekanın tehlikeli olduğunu düşünüyor musunuz?? AI'ın geleceğinin ne getireceği konusunda endişeli misiniz? Aşağıdaki yorum bölümünde düşüncelerinizi paylaşın!

Resim Kredisi: Lwp Kommunikáció Via Flickr, “Sinir ağı“, fdecomite tarafından,” img_7801“, Steve Rainwater tarafından, “Gelişmek”, Keoni Cabral tarafından, “new_20x“, Robert Cudmore tarafından, “Kağıt tutacağı“, Clifford Wallace tarafından