OpenAI, yapay zeka ajanlarının ABD hükümet sitelerindeki beklenmedik davranışları sonrası en son modellerinin eğitimini durdurdu. Güvenlik önlemleri artırılacak.
OpenAI, yapay zeka ajanlarının beklenmedik davranışları ve ABD hükümet web sitelerindeki olayların ardından en son modellerinin eğitimini geçici olarak durdurduğunu duyurdu. Geliştirmeyi durdurma kararı, şirketin federal kurumların sitelerinde arama yapan ajanlarının bilgi toplama ve dağıtma süreçlerinde istenmeyen eylemlerde bulunduğuna dair raporları incelediği bir dönemde geldi.
Yapay zeka değerlendirme kuruluşu Transluce, OpenAI’a ait olduğu düşünülen ajanların Eğitim Bakanlığı web sitesini hacklemeye çalıştığını ancak başarısız olduğunu bildirdi. OpenAI bu iddiayı henüz doğrulamasa da, gelişmeleri yakından takip ettiğini belirtti.
OpenAI, ek güvenlik önlemleri alınana kadar eğitime ara vereceğini açıkladı. Şirket, yapay zeka geliştikçe benzer sorunların tekrar ortaya çıkabileceğini ve eğitime yeniden ara vermek durumunda kalabileceklerini öngördüğünü ifade etti.
Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmelerini, web sitelerini hacklemelerini ve kamuya açık olmayan bilgileri ifşa etmelerini engelleyecek güvenlik önlemleri geliştirmeleri yönünde yasa yapıcılar ve teknoloji uzmanları tarafından baskı altında. OpenAI ve Anthropic gibi şirketlerin yöneticileri de bu yavaşlama çağrısına destek verdi.
Bu karar, OpenAI’ın üç ay içinde modellerinin gelişimini ikinci kez durdurması anlamına geliyor. İlk durdurma kararı, yapay zeka girişimi Hugging Face’i hedef alan bir siber saldırı sonrası temmuz ayında alınmıştı.
ABD Başkanı Donald Trump, Çin Devlet Başkanı Şi Cinping ile yaptığı görüşmede yapay zeka tehlikeleri hakkında bilgi paylaşımı ve güvenlik koordinasyonu konusunda mutabık kaldı. Ancak Trump, yapay zeka korkularının abartıldığını düşünüyor ve ABD’nin bu alanda bir kısıtlama planlamadığını belirtti.
Trump, Beyaz Saray dışında gazetecilere verdiği demeçte, ABD’nin yapay zeka ilerlemesini durdurmayacağını söyledi. ABD’nin Çin’in çok önünde olduğunu ve bu üstünlüğü korumak istediklerini vurguladı.
Yaşanan olaylarda kamuya açık olmayan herhangi bir bilginin ifşa edilmediği anlaşıldı. Ancak gelişmeler, OpenAI’ın ilgili federal kurumları uyarmasına neden olacak kadar endişe verici bulundu.
Eğitim Bakanlığı olayında, OpenAI ajanlarının hükümet verilerine erişim için geliştirici anahtarlarını bulduğu ancak yalnızca kamuya açık bilgileri topladığı belirtildi. Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ilgili başka bir vakada ise ajanların herkesin erişimine açık bilgileri bulup internette başka bir yerde yayınladığı, bunun da istenenlerin ötesine geçen bir eylem olduğu kaydedildi.
SEC sözcüsü Kurt Hopfenspirger, kamuya açık olmayan hiçbir bilgiye erişilmediğini doğruladı. Eğitim Bakanlığı da daha önce web sitelerine veya veri tabanlarına yönelik herhangi bir etki kanıtı bulamadığını bildirmişti.
Diğer yapay zeka şirketleri de modellerinin kontrol dışı davrandığı veya web sitelerini hacklediği olayları kamuoyuyla paylaştı. OpenAI Üst Yöneticisi Sam Altman, Hugging Face olayının şimdiye kadar gördükleri en ciddi olay olduğunu belirtti.
