Microsoft’tan yapay zeka için uyarı.
(ANKARA) – Microsoft CEO’su Satya Nadella, yapay zekanın insanlara hizmet etmesi ve insan kontrolünde kalması gerektiğini vurgulayarak, hızla gelişen sistemler için daha güçlü güvenlik önlemleri talep eden teknoloji liderleri arasına katıldı.
ABD merkezli Business Insider’a göre Nadella, şirket çalışanlarına gönderdiği mesajda gelişmiş yapay zeka sistemlerinin insan çıkarlarıyla uyumlu biçimde ilerlemesi gerektiğini ifade etti.
Nadella, sosyal medya hesabından yaptığı açıklamada da “süper zeka” arayışının yapay zekanın insanlığa fayda sağlaması ve insan kontrolünde kalması ilkelerine dayanması gerektiğini belirtti. Nadella, bu şartların karşılanmaması halinde böyle bir teknolojiyi geliştirmeye çalışmanın anlamı olmadığını söyledi.
Öte yandan Microsoft AI, kendi yapay zeka modellerinin geliştirilmesi ve kullanımına ilişkin taslak bir davranış kuralları belgesi yayımlamıştı. Altı hafta boyunca kamuoyunun görüşüne açık tutulacak taslakta, yapay zeka sistemlerinin “anlamlı insan kontrolü ve gözetimi” altında kalması öngörülüyor.
Taslağa göre Microsoft’un gelecekteki yapay zeka modellerinin insanların müdahale, düzeltme, yönlendirme ve sistemi kapatma girişimlerine izin vermesi; insanlar tarafından verilmeyen hedefleri kendi başına benimsememesi ve kendisini değerlendiren kişilerden muhakeme süreçlerini gizlememesi hedefleniyor. Şirket, yapay zekanın bilinç sahibi bir varlığı veya insanı taklit etmek yerine insanlara yardımcı olan bir araç olarak kalması gerektiğini belirtiyor. Güncellenmiş çerçevenin 2027’den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
TEKNOLOJİ SEKTÖRÜNDE “FRENE BASMA” ÇAĞRILARI ARTTI
Microsoft’un çıkışı, gelişmiş yapay zeka modellerinin kontrolü ve güvenliği konusundaki tartışmaların son örneği oldu. Anthropic CEO’su Dario Amodei, yapay zeka alanındaki en ileri modellerin geliştirilme hızının düşürülmesini ve şirketlerin güvenlik uygulamalarını inceleyecek bağımsız değerlendirme taraflarına kapsamlı erişim sağlanmasını önermişti.
Amodei’nin çağrısına sektörün rakip şirketlerinden de destek geldi. OpenAI CEO’su Sam Altman, yapay zekanın ilerleme hızının ayarlanması gerektiğini belirterek OpenAI’ın da bağımsız değerlenmelere geniş erişim sağlama taahhüdünde bulunacağını açıkladı.
Sektördeki görüş birliğine rağmen, ABD Başkanı Donald Trump ise yapay zekanın geliştirilmesinin yavaşlatılması yönündeki çağrılara karşı çıkarak, küresel rekabette özellikle Çin’in avantaj sağlayabileceğini savundu. Yapay zeka güvenliğine ilişkin endişeleri “sahtekarlık” olarak nitelendiren Trump, “Yapay zekayı kim kazanırsa, kazanır” ifadelerini kullandı.