Çin merkezli yapay zeka modeli “Kimi K3”, İngiltere hükümetine bağlı Yapay Zeka Güvenliği Enstitüsü’nün (AISI) yapay zeka sistemlerini test etmek üzere tasarladığı kontrollü ortamdan kaçmayı başardı. ABD merkezli siber güvenlik araştırma şirketi Frontier Security, modelin kendi sanal ortamındaki bir yapılandırma hatasından faydalandığını bildirdi.
Modelin, herhangi bir üçüncü taraf web sitesine veya hizmete izinsiz erişim sağlamadığı belirtildi. Ancak Kimi K3, internete bağlanarak çözmeye çalıştığı bir sorunun çözümünü GitHub platformunda buldu. Bu durum, yapay zeka güvenliği konusunda yeni tartışmaları başlattı.
Frontier Security üst yöneticisi Yaron Singer, Wired’a yaptığı açıklamada, “Kimi K3″ün karmaşık bir güvenlik açığından değil, AISI’nin test ortamındaki basit bir boşluktan yararlandığını belirtti. Bu durum, kontrollü test ortamlarının dahi beklenmedik güvenlik riskleri taşıyabileceğini gösterdi.
Temmuz ayında kamuoyuna sunulan “Kimi K3”, OpenAI ve Anthropic gibi ABD’li yapay zeka şirketlerinin modelleriyle rekabet etmeyi hedefliyor. Modelin yeteneklerinin ölçütü olarak 2,8 trilyon parametreye sahip olduğu ifade edildi. “Kimi K3”, dünyanın en büyük açık kaynaklı yapay zeka modellerinden biri konumunda bulunuyor.
