Küfürünüzü Kısıtlayın AI Cihazınızın Kötüye Kullanılması İşinize Nasıl Mal Olabilir?

Kelimelerinizi anlamadığınız için hiç Siri, Alexa veya Google’a küfrettiğiniz oldu mu? Yalnız değilsin. Bir ya da iki hakarete sadık kalmaktan suçlu olabiliriz Let's Face It: Amazon Echo's Alexa Aptal mı Yüzleşelim: Amazon Echo's Alexa Aptal mı Sesle kontrol edilen asistanların geleceği olduğuna şüphe yok, ama Alexa çözüm mü? Belki de değil. Bu yazıda, Alexa'nın aslında aptalca olduğunu iddia edeceğim. kendimizi.

Ama hepimiz dikkatli olmalıyız.

Hakaretinizin diğer ucunda gerçek bir kişi bulunmamakla birlikte, bu küfür sözleri de boşluğa kaybolmuyor. Bizim akılsız çubuklarımız ağ üzerinden uzaktaki sunuculara aktarılıyor. Dijital kişisel asistanlara nasıl davranırız onlara insanlığın en kötüsünü öğretebilir ve bazı firmaların bazılarımızı işe alınmayacak kadar bakmalarına neden olabilir..

Görünüşe göre, zararsız şaka olarak düşünebileceğimiz şey sonuçta çok zararsız değil.

Bizden Öğreniyorlar

Siri 2011 yılında sahneye çıktı, bir yıl sonra Google Asistan geldi. 2014'te Microsoft Cortana'ya sahipti. Aynı yıl, Amazon, insanların tezgahlarında bırakabilecekleri plastik bir tüpün içine Alexa adlı bir AI taktı. Google ve Apple o zamandan beri aynı şeyi yaptı. Teknoloji devleri, yapay zekayı tüketiciye hazır ürünlere dönüştürmenin yollarını hızla arıyorlar. Amazon Echo ile Google Home - Apple HomePod Amazon Echo - Google Home ile Apple HomePod - Bu makalede, Amazon Echo ile arasındaki farkları öğreneceksiniz. Google evi. Ayrıca bir Apple konuşmacısının hangi özellikleri içerebileceğini de inceleyeceğiz.. .

Bu dijital kişisel asistanlar olgun görünebilir. Bizi memnun eden anlar bile yaşayabilirler Alexa'ya sorabileceğiniz en komik sorular Alexa'ya sorabileceğiniz en komik sorular Alexa'yı mı arıyorsunuz? Bunlar Amazon Alexa'nıza sorabileceğiniz en komik sorular, artı 100 tane daha aldatan bir sayfa. . Ama onlar ergen. Çok okuryazar çocuklar. onlara sunduğumuz bilgilerden aktif olarak öğreniyorlar. Onları yapan şirketler de öyle.

Siri'nin arkasındaki ekip, konuşmacılara daha ayrıntılı yanıtlar vermek için Weather Underground ve Uber gibi üçüncü taraf hizmetleriyle entegre olan bir dijital asistan olan Viv (şimdi Samsung'un sahibi) üzerinde çalışıyor. Sahnede yapılan gösteriler, Viv'in makinelerin anlaması için uyarladığımız türden değil, başkalarına sorduğumuz sorulara cevap verdiğini gösteriyor. Bu, insanların dili kullanma şeklinden öğrenmenin bir sonucudur..

Dijital kişisel asistanlar, yapay zekanı resmederken çoğumuzun hayal ettiği şey değildir. 1960'lardan kalma, doğal dili simüle eden bir bilgisayar programı olan ELIZA'nın aksine (çevrimiçi olarak konuşmayı deneyebilirsiniz), bu AI'ler pek bir şey yapmıyor. “düşünme” kendileri için. Bu iş internet üzerinden tamamen boşalıyor.

Sürecin birkaç adımı var.

İlk bileşen konuşma tanıma. Cihaz doğrudan bir kayıt yükler veya kelimelerinizi uzak sunuculara (Apple’lar, Google’lar, Amazon’lar, kimin) gönderebileceği metne dönüştürür. Sihrin olduğu yer burası. Veya daha doğrusu, yazılım uygun bir cevap için bir veritabanını arar. Daha sonra bu bilgiyi kişisel asistana geri gönderir.

Kısacası: Biri size bir soru sorar, Siri'ye sorarsınız ve Siri daha sonra Apple sunucularına sorar. Sunucular Siri'ye bir cevap veriyor, size cevap veriyor ve hayal kırıklığınızı nasıl ele alacağınızla ilgili olarak mutlu ya da yalnız kaldınız Siri, Neden Beni Anlamıyorsunuz? [INFOGRAPHIC] Siri, Neden Beni Anlamıyorsun? [INFOGRAPHIC] Bir iPhone 4S ile ilgili en iyi şeylerden biri Siri konuşma tanıma uygulamasıdır, ancak gittikçe artan bir şekilde fark ettiğim gibi, benden ve İskoç aksanımdan hoşlanmıyor gibi görünüyor (birçok an… .

Bu veritabanları sadece cevap içermez. Bazıları, bilgisayarın farklı lehçelerimizin nüanslarında gezinmesine yardımcı olan ses kayıtlarını saklar. Bu bilgi sadece botların bizi anlamalarına yardımcı olmak için değildir. Facebook, Messenger sohbetlerine nasıl pazarlık yapılacağını öğretmek için iki kişi arasında binlerce doğal dil görüşmesi kullandı.

İyi Bir Örnek Oluyoruz?

Bunlar konuşma şeklimizden öğrenen tek AI'lar değil..

Geçen yıl Microsoft, Amerikalı bir genç kızı taklit etmek amacıyla Twitter, Kik ve GroupMe üzerine bir sohbet botu yayınladı. Birkaç saat içinde, “Tay” Hitler’le aynı fikirdeydi ve her türlü saldırgan retoriği destekledi. Microsoft gün dolmadan Tay’ı çevrimdışı çekti.

Tay başarısızlık yaparken, bu durum sohbetlerin çoğalmasını yavaşlatmadı. Bunları Facebook ve Snapchat gibi sosyal ağlarda, HipChat ve Slack gibi mesajlaşma istemcilerinde bulabilirsiniz. Bazıları sohbet etmek için buradalar. Diğerleri sizi hizmetlere bağlar. Bu botlardan bazıları daha güvenli çünkü onlar yapamaz doğal sohbeti taklit etmeye çalışın, çünkü şu anda, makinelerin konuşma tarzımızı taklit etmesi mutlaka iyi değil.

Tam olarak öğrenilecek botlar için en iyi örneği ayarlamıyoruz. Missouri Devlet Üniversitesi üniversite profesörü Sheryl Brahnam, üzerinde çalışılan etkileşimlerin yüzde 10 ila 50'sinin, insanlara küfürlü olduğu veya başka türlü bilgisayar asistanları (yani dijital kişisel asistanların yalnızca bir türü) olduğu anlamına geldiği sonucuna vardığı bir çalışma yaptı. Bu rahatsız edici derecede büyük bir sayı. Bazı ebeveynler, çocuklarının önünde tek bir kötü kelime söylemekten suçluluk duyarlar. Bu çok uzak bir çığlık yarım etkileşimlerinin negatif olması.

Daha önce bahsettiğim şu Facebook Messenger sohbetleri? Sadece doğal dili inceleyerek nasıl müzakere edileceğini değil, nasıl yalan söyleneceğini de öğrendiler..

Gelecekteki İşvereniniz İzliyor Olabilir

Gelecekte botlarla nasıl iletişim kuracağımızın bize işimize mal olacağı bir noktaya gelebiliriz. Harvard Business Review'e göre, bu kayma, kötü muamele görmüş bir botu kırık bir cep telefonu olarak ve daha çok tekme bir yavru kedi gibi görmeye başladığımızda olabilir.. Bir şirketin botuna saygısızlık yapmak potansiyel olarak kovulmanıza neden olabilir.

Image Credit: Shutterstock ile Chatbot Kavramı

Bu, çalışanların veya işverenlerin botları sevimli canlı varlıklar olarak görmeye başlayacağı anlamına gelmez. Ancak, onlara kötü muamele yapmalarının profesyonelce ve üretken görünmemeleri için yeterince duyarlı olabilirler. Yöneticiyseniz, AI'yi kötüye kullanmak sizi kötü liderlik için İK'dan önce arayabilir.

Bu ses çok varsayımsal mı? Bildiğimiz şeyin ne olduğunu düşünün. Bu asistanlara yazdığımız veya söylediğimiz her şey internet üzerinden gönderilir ve daha sonra ne olacağını gerçekten bilmiyoruz. Bu bilgilerin çoğu günlüğe kaydedilir. Bu bilgiler her zaman hesabınıza bağlı olmasa bile, hala saklanır.

Google bu konuda teknik olarak şeffaf, ancak bu açıkça belli değil. Veri toplama, kaydetmeden önce birinin rızasına sahip olma tanımını genişletiyorsa bu tür.

Toplanan veriler şu anda zararsız görünebilir, ancak teknoloji devlerinin sonunda, her birimiz için gelecekteki işverenlerin, bankaların ve diğer varlıkların, bir kredi raporu gibi, bizimle bağlantıya geçmeden önce kontrol edebileceği ayrıntılı portföyleri bir araya getirmelerini engelleyecek hiçbir şey yok..

Kanun Yürütülmesi de İzliyor

Arkansaslı bir adamın arkadaşını öldürmekle (eski bir polis memuru) öldürmekle suçlanan bir davada savcı, bir Amazon Echo'nun kayıtlarını delil olarak kullanmaya çalıştı. Amazon isteği reddetti, ancak bu sadece kısmen rahatlatıcı. Endişe verici olan şey, Amazon'un ilk etapta veri depolamış olmasıdır. Şüpheli o zamandan beri bu verilere erişim izni verdi..

Bu şirketlerden bahsettim could bizimle etkileşime girmeden önce veri kayıtlarımızı kontrol edin. Kanun yaptırımı söz konusu olduğunda, bu bilgiler hakkında zaten gözleri var. NSA gerçekten veri toplamak zorunda mı? NSA Verilerini Bulutta Saklıyor. Ama Güvenli mi? NSA Verilerini Bulutta Saklıyor. Ama Güvenli mi? Edward Snowden sızıntılarının ardından, Ulusal Güvenlik Ajansı (NSA) verileri için bulut depolamaya yöneliyor. Hakkınızda bilgi topladıktan sonra ne kadar güvenli olacak? Bu bilgileri onlar için toplamak özel sektöre güvenebilir mi? Her birimiz için bu kadar veriye sahip olan birine güvenmeli miyiz??

Verilere dahil edilenler yalnızca aradıklarımızı veya yayınladığımız komutları değil, Nasıl yaptık. Sadece ilgi alanlarımız ve eylemlerimizle ilgili fikir vermekten ibaret değiliz - başkalarına nasıl davrandığımıza dair bir göz atıyoruz. Alexa ile aranızda olanlar, Alexa ile aranızda kalmıyor.

Ne Demek Önemlidir?

Tay zaman aşımına uğramak zorunda kalırken, Microsoft farklı bir botla ezici bir başarı buldu. Adı Xiaoice. Çin ve Japonya'da, bu bot 40 milyondan fazla insanla etkileşime girmiştir. Xiaoice'nin kendi kendini yok etmemesi, kısmen kültürdeki bir farklılıktan kaynaklanıyor. Çin'de, belirli konuşma türlerine çevrimiçi olarak izin verilmiyor.

Şimdi botlar polisliği kendileri yapmaya başladı. Sosyal ağlar nefret söylemini azaltmak için bot kullanmaya başlıyor. Doğrudan bu botlarla konuşmuyor olabiliriz, ancak suiistimalin neye benzediğini öğrenmek için konuşmamızı hala çalışıyorlar..

Konuya nasıl yaklaştığınız önemli değil, ne söylediğimiz ve ne dediğimiz önemli. Botlar ve onları yapan şirketler dinliyor. Bir gün, işverenlerimiz onlara katılabilir. Ve eğer bilgisayarlar idi Gelecekte bizi değiştirmek, onların iyi olmalarını istemeyiz?

Dijital kişisel asistanlar başarısız olduğunda nasıl tepki verirsiniz? Onlara duyguları varmış gibi davranıyor musunuz? Birinin söylediklerinizle ilgili sekmeleri tutması umurunda mı? İleriye giden sorumlu olarak ne görüyorsunuz? Bir insan aşağıdaki yorumlarınıza dikkat edecektir.

Image Credit: deagreez1 / Depositphotos Yeni Esnek Planımızı Deneyin!