Guterres, yapay zekanın kuralların yetişebileceğinden daha hızlı geliştiği uyarısında bulundu

Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres, yapay zekanın hiç kimsenin hızına yetişemeyeceği kadar hızlı bir şekilde yaygınlaştırıldığına dikkat çekerek, özellikle çocuklar açısından oluşturabileceği potansiyel riskleri azaltmak amacıyla küresel düzeyde uyumlu kurallara ihtiyaç duyulduğunu vurguladı.

Yapay zekanın kontrolden çıkmış bir hızla ilerlediğini belirten Guterres, ekonomileri yeniden şekillendirebilen, çalışma dünyasını dönüştürebilen, seçimleri etkileyebilen ve güvenlik dengesini değiştirebilen bu teknolojinin, onu geliştirenler de dahil hiç kimsenin yetişemeyeceği kadar hızlı bir şekilde yaygınlaştırıldığını belirtti.

Guterres, "Yapay zeka güçlü olacaksa yönetilmelidir. Yapay zekaya güvenilecekse onu geliştirenler hesap verebilir olmalı. Yapay zeka küresel olacaksa adil olmalıdır. Yapay zeka geleceğe hizmet edecekse geleceği tüketmemeli." dedi.

Guterres, İsviçre'nin Cenevre kentinde bugün başlayan, İsviçre'nin ev sahipliğinde ve BM Genel Kurulu'nun girişimiyle hayata geçirilen "Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog" toplantısının açılış konuşmasını yaptı.

Guterres, toplumlar üzerinde plansız ve rızaları olmadan bir deney yürütüldüğünü, bunun sürdürülebilir olmadığına işaret ederek şunları kaydetti:

"Yapay zeka zaten dünyamızı dönüştürüyor. Soru şu; bu dönüşümü birlikte mi şekillendireceğiz yoksa onun bizi şekillendirmesine mi izin vereceğiz? Bugün bu sorunun cevabı Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog'da bulunuyor. İlk kez her ülke masada yer alıyor. Ortak bir kanıt tabanımız var. Bu sabah Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli Eş Başkanları ilk raporlarını sunacaklar. Her bölgeden ve her disiplinden 40 önde gelen uzman, herhangi bir hükümetten, şirketten veya kurumdan bağımsız olarak kişisel kapasiteleriyle hizmet veriyor." dedi.

İnternetin bir milyar insana ulaşmasının 15 yıl sürdüğünü ve yapay zekanın iki yılda bu noktaya ulaştığını hatırlatan Guterres, bu sistemlerin artık talimat bekleyen araçlar olmadığını, kod yazdığını, çevrimiçi hareket ettiğini ve giderek daha az insan gözetimiyle seçimler yaptığına değindi.

Guterres, "Kurumlarımız, komutları takip eden makineleri yönetmek için inşa edildi. Karar veren makineler için hazır değiller. Bazı sınırlar bir kez aşıldıktan sonra geri alınamaz." dedi.

Bilimin yapay zeka konusunda güçle ilgili uyarıları olduğunu da ifade eden Guterres, şunları söyledi:

"En gelişmiş sistemlerin arkasındaki bilgi işlem gücü, veri ve yetenek, bir avuç şirket ve ülkede yoğunlaşmış durumda. Gelişmekte olanlar dahil birçok ülke, geleceklerini şekillendirecek kararlarda söz sahibi olamadı. Ne kadar çok beklersek bu yoğunlaşma o kadar güçlenir. Güç dengesizlikleri teknolojiye kodlandığında eşitsizlik kodun bir parçası haline gelir."

Yapay zeka konusunda gerçekle ilgili uyarıların olduğunu da anımsatan Guterres, makine destekli bir yalanın artık gerçek kadar etkili bir şekilde ikna edebildiğinin ve gerçek kanıtların sahte olarak reddedilebildiğinin altını çizdi.

- "Hiçbir çocuk, denetimsiz yapay zeka için kobay olmamalı"

Guterres, "Bu sabah yapılacak Bilimsel Panel bize kanıtları sunuyor. Diyalog şimdi dünyaya yön vermeli. Bu hafta Cenevre'de Yapay Zeka İyilik İçin Zirvesi ve girişimleriyle tamamlanacak. Bunların hepsi, yapay zekanın her yerde insanlara hizmet etmesini sağlamaya yönelik entegre bir BM çabasının parçasıdır." diye konuştu.

Yapan zekanın önce çocukların hayatına, öğrenmelerine, arkadaşlıklarına ve en özel sorularına ulaştığına işaret ederek, bunun bedelinin şimdiden ödendiğini söyledi.

Guterres, şunları kaydetti:

"(Yapay zeka ile) Arkadaş gibi davranan makineler tarafından kandırılan çocuklar, kendine zarar vermeye yönlendirilen çocuklar. Bir düğmeye dokunarak oluşturulan istismar görüntüleriyle istismara uğrayan çocuklar. Hiçbir çocuk, denetimsiz yapay zeka için kobay olmamalı. BM, üye ülkeler ve diğerlerinin çalışmalarına dayanarak bugün bir Yapay Zeka Çocuk Güvenliği Taahhüdü çağrısında bulunuyorum."

Hiçbir şirketin, çocuklara özel güvenlik testleri ve bağımsız denetim olmadan erişebilecekleri bir yapay zeka sistemi kullanmaması gerektiğinin altını çizen Guterres, hiçbir şirketin yapay zekasının çocukların cinsel içerikli görüntülerini üretmesine izin vermemesi gerektiğini ve bunun takibini yapması gerektiğini kaydetti.

Guterres, "Yapay zeka asla insan onurunu zedelememeli veya ayrımcılığı pekiştirmemeli. Adalet ve sağlık gibi alanlarda her yüksek riskli kararda makineler bilgi verebilir ancak insanlar karar vermeli ve cevap vermeli." diye konuşu.

Geçen yıl yapay zeka altyapısına yapılan özel yatırımın yarım trilyon dolara yaklaştığını söyleyen Guterres, gelişmekte olan ülkeler için yapay zeka kapasitesine yapılan kamu yatırımının ise buna kıyasla çok küçük bir rakam olduğunu anımsattı.

- "Yapay zeka küresel olacaksa adil olmalı"

Guterres, şu değerlendirmede bulundu:

"Dijital uçurumun yapay zeka uçurumuna dönüşmesine izin veremeyiz. Yapay zeka uçurumunun bir kalkınma açığı, güvenlik ve bir egemenlik açığı haline gelmesine izin veremeyiz. Yapay zeka güçlü olacaksa yönetilmeli. Yapay zekaya güvenilecekse onu geliştirenler hesap verebilir olmalı. Yapay zeka küresel olacaksa adil olmalı. Yapay zeka geleceğe hizmet edecekse geleceği tüketmemeli. Bu, hükümetlerin acilen harekete geçmesini gerektirecek. Şirketlerin güçlerine eşit sorumluluk kabul etmelerini gerektirecek. Bilim insanları kanıtları gün ışığına çıkarmaya devam etmeli. Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog, küresel katılımın küresel eyleme yol açtığı bir yer haline gelmeli."

İnsanlığın ve makinelerin bir arada yaşama koşullarını belirleyebilecek son nesil olabileceklerine değinen Guterres, bugün Cenevre'de 193 BM üyesi ülkenin bu süreci birlikte yönetmek için adım attığını vurguladı.

Guterres, "Bu toplantı, yönetimin teknolojiye yetişmeye başladığı an olarak hatırlansın. Yapay Zeka Yönetişimi Üzerine İlk Küresel Diyalog, gelecek yıl New York'ta yeniden toplandığında, burada başlatılan çalışmanın yapay zekayı daha güvenli, adil, erişilebilir ve etik hale getirdiğini söyleyebilelim. İnsanlık tarafından, insanlıkla birlikte, tüm insanlık için bir yapay zeka geleceğinin inşasına yardımcı olmak görevimizin ölçüsüdür." ifadelerini kullandı.

Yapay Zeka Yönetişimi Üzerine Küresel Diyalog, BM Genel Kurulu tarafından başlatılan ve tüm ülkelerin yapay zeka standartlarını belirleme sürecinde eşit söz sahibi olmasını amaçlayan kapsayıcı bir BM girişimi olarak biliniyor.

Diyaloğun temaları ve yapısı devam eden küresel bir istişare süreciyle şekillenirken, yarına kadar devam eden toplantı kapsamında BM yetkilileri, üye ülkeler, akademi, özel sektör ve sivil toplum kuruluşları görüşlerini paylaşacak.