Yapay zekâ alanındaki gelişmeler, sektörün yaratıcılarında bile büyük kaygı yaratıyor. Önce 6 ay durdurarak alınması gereken önlemleri konuşmayı talep eden 25.000+ imzalı bir çağrı yayımlandı. Hiçbir sonuç üretmeyen üç ay geçti. Mayıs sonunda sektörün en büyük iki ismi, Hassibis (DeepMind) ve Altman (Open AI), çok kısa, okuyunca ürperten bir deklarasyon yayımladılar: Yapay zekânın insanlığı yok etme riskini önlemek, salgınlar ve nükleer savaş gibi diğer toplumsal risklerle birlikte, küresel bir öncelik olmalıdır. Geçen hafta, New York’un havasını, Mars’ın kırmızı atmosferini anımsatırcasına solunamaz hale getiren, Kanada orman yangınları da iklim krizinin derinleşmeye devam ettiğini gösteriyordu.
Dikkatle bakınca genel yapay zekâ (GYZ) olasılığı ve iklim krizi gibi “uygarlık yıkabilecek” risklerin, derinlemesine bağlantılı olduğunu görüyoruz.
Yapay Zeka Nedir?
GYZ, insan zekâsını aşan bilişsel yeteneklere sahip, kendi kendine karar verebilen sistemleri ifade ediyor. YZ alanındaki gelişmeler, GYZ’ye doğru hızlanıyor. GYZ, sağlık hizmetlerinden ulaşıma kadar çeşitli sektörlerde devrim niteliğinde dönüştürücü potansiyele sahip bir üretim aracı olabilir. Buna karşılık, GYZ “doğduğunda” insanlığın, ilk kez kendisinden daha yüksek düşünme kapasitesine sahip bir “varlıkla” karşı karşıya kalacak olması, büyük bir varoluş kaygısını/krizini gündeme getiriyor yaratıyor.
Aşırı sıcaklar, aşırı hava olayları ve ekosistem bozulmalarıyla kendini gösteren iklim krizi de insanlık açısından bir başka varoluşsal tehdit oluşturuyor. İklim krizinin kaynağında fosil yakıtların tüketimine dayalı, ormanların yok edilmesine, yoğun tarımla metan gazı salımına yol açan bir enerji ekonomisi, yaşam tarzı, sermayenin, daha fazla kâr peşinde çevresini biteviye dönüştürmesi yatıyor. İklim krizi, gıda, su güvenliğinden, göç dalgalarına, jeopolitik istikrarsızlıklara kadar yaşamsal sorunlara yol açıyor.
GYZ ve iklim krizi örtüşmeye başladığında, bu iki gelişmenin getirdikleri riskler daha da büyüyor.
İlk olarak, GYZ’nin gelişmesi, işlemesi için gerekli sistemler, büyük enerji tüketimine, çıkarılması ve işlenmesi enerji yoğun, çevre zehirleme etkisi çok büyük “ender minerallere” dayanıyor. Bu dinamik de bugün karbon gazı üretimini artırarak, su kaynaklarını kirleterek iklim krizini ve etkilerini daha da ağırlaştırıyor. GYZ olasılığı, küresel CO2 salımının yüzde 48’inden sorumlu yüzde 10’un yaşadığı gelişmiş kapitalist ülkelerde güçleniyor.
Büyük miktarda veriyi analiz edebilme, tahminlerde bulunabilme, politika tercihlerini etkileyebilme kapasitesine sahip bir GYZ’nin, iklimle ilgili karar alma süreçleri ve adaptasyon stratejileri üzerindeki potansiyel etkisi göz ardı edilemez. Buna karşılık, GYZ biyolojik bir varlık değil, iklim krizinden insanlık gibi etkilenmeyecek. GYZ çevresini kendi enerji tüketimi gereksinimlerine göre optimize ederken, insanlığın bir yok olma sürecine girmesine kayıtsız kalabilir, daha kötüsü, insanlığı enerji tüketiminde kendisine rakip olarak görebilir. Ayrıca başlangıçta, henüz GYZ “doğmadan”, iklim krizine karşı YZ destekli çözümlere aşırı derecede bağımlı olmak insanlığın, iklim krizinin karmaşık nüanslarıyla başa çıkma becerilerini zayıflatabilir.
Bir GYZ olasılığı, iklim krizi birleşiminin oluşturduğu tehlikeler, küresel çapta en yüksek düzeyde bir işbirliği gerektiriyor. Bugün uygarlığın dinamikleri, bir işbirliğine yardım etmek bir yana, rekabet süreci her iki alanda da gelişmeleri hızla artık durdurulamaz bir noktaya taşıyor.
Ergin Yıldızoğlu
“Yapay Zeka İnsan Atasına Karşı” başlıklı yazımızı da okumanızı öneririz…
Dünyalılar editör notu:
Avrupa Parlamentosu (AP), ChatGPT gibi çeşitli yapay zeka teknolojilerine katı kurallar getirecek yeni yasanın içeriğini belirledi.
Strazburg’da gerçekleştirilen 14 Haziran 2023 AP Genel Kurul oturumunda, Avrupa’da yapay zekaya yönelik ilk kuralları içeren yasa taslağı görüşüldü.
AP milletvekilleri, yapay zeka yasası konusunda üye ülkelerle yapılacak müzakerelerde AP’nin pozisyonunu belirleyen belgeyi 499 “Evet”, 28 “Hayır” oyuyla kabul etti.
Buna göre, yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrım yapmaması, güvenli, şeffaf ve çevre dostu olması gerekecek.
Yapay zekaya risk temelli yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine bağlı biçimde kurallar ise katılaşacak.
İnsanların güvenliği açısından “kabul edilemez” düzeyde risk içeren yapay zeka sistemleri yasaklanacak. Bu kapsama, insanları sosyal davranışlarına veya kişisel özelliklerine göre sınıflandıran yapay zeka sistemleri de dahil olacak.
YÜZ TANIMA VERİ TABANLARI YASAKLANACAK
Halka açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemleri kullanımı da yasak kapsamına girecek.
Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim gibi çeşitli hassas özellikleri kullanan biyometrik sınıflandırma sistemleri, profil çıkarma, konum veya geçmişteki suç davranışına dayalı polis sistemleri, kolluk kuvvetleri, sınır idareleri, iş yerleri ve eğitim kurumlarında duygu tanımlama sistemleri, yüz tanıma veri tabanları oluşturmak için internet veya kapalı devre kamera sistemlerinden veri tabanı kurulması yasak olacak.
Yüksek risk yapay zeka sınıflandırması; insanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek biçimde genişletilecek.
Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemleri kullanımı yüksek risk kategorisine dahil olacak. Toplam kullanıcısı 45 milyonun üzerindeki büyük sosyal medya platformlarının kullandıkları sistemler de yüksek risk listesine girecek ve bu sistemler sıkı kurallara tabi olacak.