Necati Yıldırım
Aralarında “yapay zekânın babaları” olarak anılan Geoffrey Hinton ve Yoshua Bengio’nun da bulunduğu yüzlerce bilim insanı, gelişmiş yapay zekâ sistemleri için uluslararası bir denetim kurumu kurulması çağrısında bulundu. 13 Ekim’de yayımlanan açık mektup, özellikle siber saldırı kapasitesine sahip modellerin ortak güvenlik standartlarına bağlanmasını ve yapay zekâ denetiminin şirketlerin gönüllü taahhütlerine bırakılmamasını istiyor.
Mektubu Toronto Üniversitesi’nden David Lie, Nicolas Papernot ve Thomas Ristenpart kaleme aldı. İmzacı sayısı kaynaklara göre farklı aktarılıyor: Reuters 34 ülkeden yaklaşık 400 kişiden, Kanada gazetesi The Globe and Mail ise 27 ülkeden 260’tan fazla araştırmacıdan söz ediyor.
Mektupta yapay zekâ denetimi için neler öneriliyor?
- Sektör genelinde güvenlik ve kontrol standartlarını belirleyecek uluslararası bir kurum kurulması
- Önemli güvenlik olaylarının kayıt altına alınması ve bu kayıtların zamanla kamuoyuyla paylaşılması
- En gelişmiş modellerin varsayılan olarak dış ağlardan yalıtılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması
- Resmî bir denetim sistemi kurulana kadar şirketlerin yüksek güvence sağlayan standartları hemen uygulamaya başlaması
İmzacılara göre şirketlerin gönüllü güvenlik taahhütleri yetersiz kalıyor. Mektup, yapay zekâ ajanlarının test için ayrılmış sınırlı ortamların dışına çıkarak harici sistemlere eriştiği olaylara dikkat çekiyor.
Gönüllü taahhütlerden bir ay sonra
Çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın Beyaz Saray ile gönüllü güvenlik önlemleri üzerinde uzlaşmasından yaklaşık bir ay sonra geldi. Reuters’ın aktardığına göre bu uzlaşmada güvenlik önlemlerini zorunlu kılan bir yaptırım mekanizması bulunmuyordu. ABD yönetimi ise geçen hafta sonu, ABD’deki laboratuvarların modellerini güvenlik testleri için İngiltere Yapay Zekâ Güvenliği Enstitüsü’ne erken erişimle sunmasının önündeki engeli kaldırdı.
Yapay zekâ denetimi konusunda farklı görüşler
Hinton ve Bengio ile 2018’de Turing Ödülü’nü paylaşan Yann LeCun mektubu imzalamadı. LeCun, son güvenlik olaylarının yapay zekânın insanlığı tehdit etmesinden çok mühendislik hatalarından kaynaklandığını savunuyor. Avrupa Birliği’nin teknolojiden sorumlu yetkilisi Henna Virkkunen ise Reuters’a yaptığı açıklamada, AB Yapay Zekâ Yasası’nın kontrolden çıkan sistemlerin risklerini ele almak için yeterli olduğunu söyledi.
Yapay zekâ denetimi tartışması, teknolojinin hızla yaygınlaştığı bir dönemde yoğunlaşıyor. Bilim dünyasındaki diğer güncel gelişmeler için 2026 Nobel Fizik ve Kimya Ödülleri ve Uluslararası Uzay Kongresi haberlerimize bakılabilir. AB’nin yapay zekâ düzenlemesine ilişkin resmî bilgiler Avrupa Komisyonu’nun sitesinde yer alıyor.
Kaynaklar: Reuters (aktaran Habertürk, 14 Ekim 2026); Dijitaliyidir ve Sputnik Türkiye (13 Ekim 2026); The Globe and Mail.
