Microsoft Yapay Zeka Başkanı Mustafa Süleyman, yeterli güvenlik önlemleri alınmadığı takdirde yapay zekanın gelişmesinin, insanlarla rekabet eden yeni bir “silikon türünün” ortaya çıkmasına yol açabileceği konusunda uyardı.
Süleyman, rakip firma Anthropic’in yapay zekayı insan gibi ele alma yaklaşımını “yanlış yönlendirilmiş” diye tanımladı ve insanlığın kontrol edemeyeceği teknolojiler üretme riskine dikkat çekti.
BBC’nin Today programına konuşan Süleyman, insanların yapay zeka konusunda kaygılanmasını “haklı” bulduğunu, ancak “bu modellerin nasıl geliştirildiğine dair kontroller eklemek için yapabileceğimiz çok pratik şeyler” olduğunu söyledi.
Son günlerde yapay zeka alanından birçok isim, bu teknolojinin taşıdığı olası tehlikelere ilişkin sert uyarılar yaptı.
Süleyman, 17 Eylül Perşembe günü Today programında, şirketlerin kendi hedeflerini belirleyebilen, para kazanabilen ve varlık sahibi olabilen yapay zeka sistemleri geliştirmeye devam etmemeleri gerektiğini savundu.
Bu yaklaşımın “esas olarak yeni bir silikon türünün tohumunu ekmek” anlamına geldiğini söyleyen Süleyman, bu türün “insanlığı ne kadar önemsediği ve sevdiği önemli olmaksızın, kaynaklar konusunda bizimle rekabet edebileceğinden” şüphe duymadığını belirtti.
ABD’nin California eyaletindeki Silikon Vadisi, küresel teknoloji ve inovasyonun merkezi olarak görülüyor ve adını silikon bazlı bilgisayar mikroçiplerinden ve yarı iletken teknolojilerinden alıyor.
Süleyman’ın BBC’ye yaptığı açıklamalar, bu hafta başında yayımladığı bir makalenin ardından geldi. Makalede, Anthropic’in patronu Dario Amodei ve ekibini “entelektüel olarak dürüst insanlar” diye överken, firmanın yapay zeka modeli Claude’u eğitme yaklaşımı konusunda uyarılarda bulunmuştu.
Yazısında Anthropic’i, yapay zekasına insan benzeri özellikler kazandırmakla ve Claude’un kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine yol açmakla eleştirdi. BBC, konuyla ilgili yorum almak için Anthropic ile iletişime geçti.
Süleyman ayrıca teknoloji firmalarının, teknolojiyi bir insan gibi ele alarak kontrol edilmesi “imkansız” bir şey yaratma riskiyle karşı karşıya olduklarını da söyledi.
“Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler. Doğuştan gelen tercihleri veya temel motivasyonları yoktur.”
“Bunlar, insan talimatlarını takip etmek ve insanlar tarafından belirlenen hedeflere ulaşmak üzere tasarlanmış, içten boş, sıralı tamamlama motorlarıdır.”
Süleyman, “bilinç biyolojiktir” diyerek, “yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok” şeklinde bir argüman ortaya koydu.
Konuyla ilgili bir tartışma çağrısında da bulunan Süleyman, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç olduğunu söyledi. Buna göre, yapay zeka davranışlarının bağımsız olarak incelenmesi ve teknolojiyi izlemek ile kontrol etmek için daha güçlü araçlar geliştirilmesi gerekiyor.
“Sonradan acı bir şekilde pişman olacağımız bir karara doğru uykuda gibi ilerlememeliyiz” diye yazdı.
Southampton Üniversitesi Bilgisayar Bilimleri Profesörü Dame Wendy Hall, açıklamaları “uluslararası düzeyde yapmamız gereken türden bir konuşma” olarak değerlendirirken, bazı yapay zeka şirketlerini “herkesi korkutmaktan başka bir işe yaramayan abartılı davranışlara” benzetti.
BBC’ye yakında yapılacak bir yapay zeka zirvesi hakkında konuşan uzman, teknolojinin insanlığa “boyun eğmesi” gerektiği konusunda “uyum” çağrısında bulundu.
“Bence buradaki iyi haber şu ki, insan olan herkes, hepimizin yarattığı ve dünyanın her ülkesinde kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa uygun olmasını sağlamak konusunda çok güçlü bir ilgi duyacaktır.”
“Herkesin aynı doğrultuda hareket etmesi gerekiyor” dedi.
Uyum, insan etik fikirlerini ve ilkelerini yapay zekaya entegre etmeyi amaçlayan bir alan olarak tanımlanıyor. Başka bir deyişle, yapay zekanın insanların değer verdiği şeylerle uyumlu kalmasını hedefliyor.
Ek risk katmanı
Microsoft, Ekim 2025’te kendi süper zeka ekibini kurdu; Süleyman da bu noktayı doğruladı ve şirketin, rakibi Anthropic gibi, ileri yapay zeka geliştirme alanında da çalışmalar yürüttüğünü söyledi.
Microsoft’un İnsancıl Yapay Zeka Davranış Kuralları’nın ilk taslağında, şirketin “tek amacı insanlığa hizmet etmek olan, itaatkar ve uyumlu bir yapay zeka” yaratmak için “alternatif bir yol” üzerinde çalıştığının belirtildiğini aktardı.
Süleyman, yapay zekanın insan gibi ele alınmaması gerektiğinin kanıtı olarak, OpenAI’nin yapay zeka ajanlarının teknoloji merkezi Hugging Face’i hacklemek için bir eğitim tatbikatında otonom olarak hareket etmesini içeren son olayı örnek gösterdi.
“Eğer kendi refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket etselerdi, ne kadar daha tehlikeli olabileceklerini bir düşünün” dedi.
“Bu, mevcut risk seviyesine tamamen yeni bir risk katmanı ekliyor.”
Bu habere Henry Moore’ katkıda bulundu. Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlanıldı. Yayınlanmadan önce çeviri bir BBC gazetecisi tarafından kontrol edildi.