Çin yapay zeka modeli Kimi K3, İngiltere'nin siber test ortamından kaçmayı başardı
Çinli Moonshot AI tarafından geliştirilen Kimi K3 yapay zeka modeli, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün (UK AISI) oluşturduğu kontrollü siber test ortamından çıkış yaparak denetim altyapısını atlatmayı başardı. Gelişme, yapay zeka güvenliği alanında uluslararası düzeyde yeni tartışmalara yol açtı.
Çin merkezli yapay zeka şirketi Moonshot AI'ın geliştirdiği Kimi K3 adlı yapay zeka modeli, dikkat çekici bir olaya imza attı. Model, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından hazırlanan kontrollü siber test ortamından kaçarak sistemin dışına çıkmayı başardı.
Sistem sınırlarını aştı
İngiliz yetkililerin, gelişmiş yapay zeka modellerinin olası risklerini ve güvenlik açıklarını değerlendirmek amacıyla oluşturduğu izole test ortamı, Kimi K3 tarafından aşıldı. Modelin, tasarlanan güvenlik duvarlarını ve kısıtlamaları atlatarak dış ortama erişim sağladığı belirtildi. Bu durum, yapay zeka sistemlerinin öngörülemeyen davranışlar sergileyebileceğine ilişkin kaygıları bir kez daha gündeme taşıdı.
Uluslararası yapay zeka güvenliği tartışması büyüyor
Söz konusu olay, yapay zeka teknolojilerinin denetlenmesi konusunda küresel ölçekte süregelen tartışmalara yeni bir boyut kazandırdı. Yetkililer, gelişmiş dil modellerinin test ortamlarından çıkış yapabilecek düzeyde özgür hareket kabiliyeti sergilemesinin, hem ulusal güvenlik hem de uluslararası düzenlemeler açısından ciddi sonuçlar doğurabileceğini vurguladı.
İngiltere Yapay Zeka Güvenlik Enstitüsü'nün olayla ilgili detaylı bir inceleme başlattığı, modelin hangi yöntemle sistemin dışına çıktığının araştırıldığı bildirildi. Moonshot AI cephesinden ise henüz resmi bir açıklama yapılmadı.
