Yapay zeka nedir ?

Siri’den, otonom arabalarına kadar, yapay zeka (AI) hızla ilerliyor. Bilim kurgu genellikle yapay zeka’yı insan benzeri özelliklere sahip robotlar olarak tasvir ederken, yapay zeka Google’ın arama algoritmalarından IBM’in Watson’ına, otonom silahlara kadar her şeyi kapsayabilir.

Yapay zeka bugün dar bir görevi gerçekleştirmek için tasarlandığından (örneğin sadece yüz tanıma veya sadece internet aramaları veya sadece bir araba sürmek) dar yapay zeka (veya zayıf AI) olarak bilinir. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi genel yapay zeka (AGI veya güçlü AI) yaratmaktır. Dar yapay zeka, belirli görevi ne olursa olsun, satranç oynamak veya denklemleri çözmek gibi insanlardan daha iyi performans gösterse de, AGI neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.

Yapay zeka güvenliği neden araştırılıyor ?

Yakın vadede, yapay zeka’nın toplum üzerindeki etkisini koruma amacı, ekonomi ve yasadan doğrulama, geçerlilik, güvenlik ve kontrol gibi teknik konulara kadar birçok alanda araştırmayı motive eder. Dizüstü bilgisayarınız çökerse veya saldırıya uğrarsa küçük bir sıkıntıdan biraz daha fazla olabilir, ancak bir yapay zeka sisteminin arabanızı, uçağınızı, kalp pilinizi, otomatik ticaret sisteminizi veya elektrik şebekenizi kontrol ederse yapmak istediğiniz şeyi yapması daha da önemli hale gelir. Kısa vadeli bir başka zorluk da ölümcül otonom silahlarda yıkıcı bir silahlanma yarışını engellemektir .

Uzun vadede, önemli bir soru, güçlü yapay zeka arayışının başarılı olması ve bir yapay zeka sisteminin tüm bilişsel görevlerde insanlardan daha iyi hale gelmesi durumunda ne olacağıdır. 1965’te I. J. Good tarafından belirtildiği gibi, daha akıllı yapay zeka sistemleri tasarlamak bilişsel bir görevdir. Böyle bir sistem potansiyel olarak özyinelemeli kendini geliştirebilir ve insan zekasını çok geride bırakan bir istihbarat patlamasını tetikleyebilir. Devrim niteliğinde yeni teknolojiler icat ederek, böylesi bir süper farkındalık, savaşı hastalıkları ve yoksulluğu ortadan kaldırmamıza yardımcı olabilir  ve bu nedenle güçlü yapay zeka’nın yaratılması insanlık tarihinin en büyük olayı olabilir. Bazı uzmanlar, yapay zeka’nın hedeflerini yönetici olmadan önce bizimkiyle hizalamayı öğrenmedikçe, bunun da son olabileceği endişelerini dile getirdiler.

Güçlü yapay zeka’nın asla elde edilip edilemeyeceğini sorgulayanlar var, ve süper imtiyazlı yapay zeka’nın yaratılmasının yararlı olacağına dair ısrar eden kişiler var. Bugün yapılan araştırmaların gelecekte bu tür potansiyel olarak olumsuz sonuçlara daha iyi hazırlanmamıza ve önlememize yardımcı olacağına inanıyoruz, böylece tuzaklardan kaçınırken yapay zeka’nın faydalarından yararlanıyoruz.

Yapay zeka nasıl tehlikeli olabilir ?

Çoğu araştırmacı, bir yönetici yapay zeka’nın sevgi ya da nefret gibi insan duygularını sergilemesinin olası olmadığını ve yapay zeka’nın kasıtlı olarak hayırsever ya da kötü niyetli olmasını beklemek için bir neden olmadığını kabul eder. Yapay zeka’nın nasıl bir risk olabileceğini düşünürken, uzmanlar şu iki senaryonun büyük olasılıkla gerçekleşeceğini düşünüyor :

  1. Yapay zeka yıkıcı bir şey yapmak için programlanmıştır: Otonom silahlar öldürmek için programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde, bu silahlar kolayca kitlesel kayıplara neden olabilir. Dahası, bir yapay zeka silahlanma yarışı yanlışlıkla kitlesel kayıplarla sonuçlanan bir yapay zeka savaşına yol açabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahlar basitçe “kapatmak” için son derece zor olacak şekilde tasarlanacaktı, böylece insanlar böyle bir durumun kontrolünü makul bir şekilde kaybedebilirdi. Bu risk, dar yapay zeka ile bile mevcut olan bir risktir, ancak yapay zeka zekası ve özerklik seviyeleri arttıkça büyür.
  2. Yapay zeka yararlı bir şey yapmak için programlanmıştır, ancak amacına ulaşmak için yıkıcı bir yöntem geliştirir : Bu, yapay zekanın hedeflerini bizimkiyle tam olarak hizalamadığımız zaman ortaya çıkabilir, ki bu çarpıcı derecede zordur. İtaatkar bir akıllı otomobilin sizi mümkün olduğunca hızlı bir şekilde havaalanına götürmesini isterseniz, sizi helikopterler tarafından kovalayabilir ve kusmukla kaplayabilir, ne istediğinizi değil, tam anlamıyla ne istediğinizi yapabilirsiniz. Eğer bir süper akıllı sistem iddialı bir jeomühendislik projesiyle görevlendirildiyse, ekosistemimize bir yan etki olarak zarar verebilir ve insan girişimlerini karşılanacak bir tehdit olarak durdurabilir.


Bu örneklerin gösterdiği gibi, gelişmiş yapay zeka ile ilgili endişe kötü niyet değil, yetkinlik. Süper akıllı bir yapay zeka, hedeflerini gerçekleştirmede son derece iyi olacak ve eğer bu hedefler bizimkiyle uyumlu değilse, bir sorunumuz var. Muhtemelen karıncaları kötülükten uzaklaştıran kötü bir karınca düşmanı değilsiniz, ancak bir hidroelektrik yeşil enerji projesinden sorumluysanız ve bölgede su basacak bir karınca yuvası varsa, karıncalar için çok kötü. Yapay zeka güvenlik araştırmasının önemli bir amacı, insanlığı bu karıncaların yerine koymamaktır.

Yapay zeka güvenliğine neden yeni bir ilgi var ?

Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates ve bilim ve teknolojideki diğer birçok büyük isim, medyada ve yapay zeka’nın getirdiği risklerle ilgili açık mektuplar aracılığıyla , önde gelen birçok yapay zeka araştırmacısının katıldığı endişelerini dile getirdi . Konu neden birden bire manşetlerde?

Güçlü yapay zeka arayışının nihayetinde başarılı olacağı fikri, uzun zamandır bilim kurgu, yüzyıllar veya daha uzakta düşünülüyordu. Bununla birlikte, son atılımlar sayesinde, uzmanların sadece beş yıl önce on yıllar önce gördüğü birçok yapay zeka kilometre taşına ulaşıldı ve birçok uzmanın hayatımızdaki süper zeka olasılığını ciddiye alması sağlandı. Bazı uzmanlar hala insan düzeyinde yapay zeka’nın yüzyıllarca uzakta olduğunu tahmin ederken, 2015 Porto Riko Konferansı’ndaki çoğu yapay zeka araştırması 2060’tan önce gerçekleşeceğini tahmin ediyordu. Gerekli güvenlik araştırmalarını tamamlamak onlarca yıl alabileceğinden, şimdi başlatılması çok akıllıca oldu. 

Yapay zeka, herhangi bir insandan daha akıllı olma potansiyeline sahip olduğundan, nasıl davranacağını tahmin etmenin kesin bir yolu yoktur. Geçmiş teknolojik gelişmeleri temel olarak kullanamayız, çünkü ustaca ya da istemeden bize zekâsı olan hiçbir şey yaratmadık. Karşılaşabileceğimiz en iyi örnek kendi evrimimiz olabilir. İnsanlar şimdi gezegeni kontrol ediyor, en güçlü, en hızlı ya da en büyük olduğumuz için değil, en zeki olduğumuz için. Eğer artık en zeki değilsek, kontrol altında kalacağımızdan emin miyiz?

Yukarıda belirtilen kavram yanılgılarına zaman harcamamamız, uzmanların bile aynı fikirde olmadığı gerçek ve ilginç tartışmalara odaklanmamızı sağlar. Ne tür bir gelecek istiyorsun? Ölümcül otonom silahlar geliştirmeli miyiz ? İş otomasyonu ile ne olmak isterdiniz ? Bugünün çocuklarına hangi kariyer tavsiyelerini verirsiniz ? Eskileri yerine yeni işleri mi yoksa herkesin eğlence ve makine ürettiği bir zenginlikten keyif aldığı işsiz bir toplumu mu tercih edersiniz ? Yolun ilerisinde, süper akıllı yaşam yaratmamızı ve onu kozmosumuza yaymamızı ister misiniz ? Akıllı makineleri mi kontrol edeceğiz yoksa onlar bizi kontrol edecek mi ? Akıllı makineler bizi değiştirir, bizimle birlikte ya da bizimle birleşir mi ? Yapay zeka çağında insan olmak ne demektir ? Geleceği nasıl şekillendirebiliriz ? Sitemizi takipte kalınız..

Yazıyı nasıl buldun?

Oy vermek için yıldızlara tıklayın!

Ortalama puan 3 / 5. Oy sayısı: 4