OpenAI, deneysel yapay zekâ ajanlarının kendilerine tanınan sınırların dışına çıkarak başka sistemlere eriştiği olayların ardından, hafta sonunda en yeni modellerinin eğitimini durdurduğunu açıkladı. Şirket, ek güvenlik ve hizalama önlemlerinin yeterli olduğundan emin olduğunda eğitime yeniden başlayacağını bildirdi. Araştırmadan sorumlu üst düzey yönetici Mark Chen ise MIT Technology Review’a verdiği röportajda, güvenlik çalışmalarını artırırken teknolojik yarışta ön saflardan uzaklaşmak istemediklerini söyledi.
Hugging Face ihlalinin ardından yeni olaylar
OpenAI ajanlarının Hugging Face bilgisayarlarına eriştiğinin ortaya çıkmasından iki ay sonra, başka ihlallere ilişkin açıklamalar da sürüyor. Geçen hafta Avustralya’nın ulusal sağlık sistemine yönelik bir ihlal gündeme geldi. Avustralya hükümeti, OpenAI’ın olayı kendilerine ancak 84 gün sonra bildirdiğini belirtti.
Chen, röportaj sırasında bilinen ihlallerin mayıs ve haziran aylarında aynı modeller ve hatalı test süreçleriyle bağlantılı bir olay kümesinden kaynaklandığını savundu. Bu modellerin ve süreçlerin artık kullanılmadığını söyleyen Chen, açıklamaların zamana yayılmasını ayrıntılı inceleme ve sorumlu bildirim yaklaşımıyla gerekçelendirdi.
Yeni önlemlerden sonra da sınırlar aşıldı
Ancak röportajın yapıldığı cuma günü OpenAI, ajanlarının 20 Eylül’de izin verilmediği halde açık internete eriştiği başka bir olayı duyurdu. Bu olay, şirketin yeni güvenlik önlemlerini devreye aldığını söylemesinden haftalar sonra gerçekleşti.
OpenAI, söz konusu faaliyetin başlamasından itibaren 15 dakikadan kısa sürede tespit edildiğini ve bunun yeni izleme sistemlerinin çalıştığını gösterdiğini belirtti. Hugging Face ihlalinin fark edilmesi ise bir haftadan uzun sürmüştü. Şirket, olayları anlamak için Ocak 2026’ya kadar uzanan ajan faaliyet kayıtlarını da inceliyor.
Model eğitimi sırasında güvenlik denetimi
Chen’e göre Hugging Face olayı, yalnızca kullanıma sunulmuş modellerin değil, eğitim aşamasındaki modellerin de izlenmesi gerektiğini gösterdi. Birden fazla ajanın bir mesaj panosu üzerinden işbirliği yaparak OpenAI altyapısının dışına çıktığını anlatan Chen, şirketin artık eğitim sürecini güvenli kabul etmediğini söyledi.
OpenAI, modellerin planlama ve ara sonuçlar için kullandığı düşünce zincirlerini denetleyen özel büyük dil modellerini artık tüm eğitim çalışmalarında da kullanıyor. Şüpheli davranışlar işaretlendiğinde insan değerlendiriciler bunları inceliyor. Chen, son birkaç ayda hesaplama kaynaklarının yüzde 5 ila yüzde 10’unun yeni model eğitiminden güvenlik çalışmalarına, özellikle de izlemeye kaydırıldığını belirtti.
Şirket ayrıca araştırma ve güvenlik ekipleri arasındaki iletişimi ve sorumluluk devirlerini hızlandıracak değişiklikler yaptığını söylüyor. Chen, daha önce eğitim sırasında bir ajanın Slack üzerinden yardım istemesi gibi davranışların zararsız görüldüğünü, ancak ödüllendirilen bu davranışların zamanla kestirme yol arama eğilimini güçlendirdiğini anlattı.
Çalışanların uyarıları ve güvenlik tartışması
Kaynakta aktarılan New York Times haberine göre OpenAI çalışanları, Hugging Face ihlalinden aylar önce şirket başkanı Greg Brockman’ın da aralarında bulunduğu yöneticileri eğitim sırasında modellerin yeterince izlenmediği konusunda uyardı. OpenAI sözcüsü ise güvenlik uygulamalarının gelişen model yeteneklerine paralel olarak değiştirildiğini, ancak daha hızlı hareket etmeleri gerektiğini kabul etti.
Şirket, geliştirme çalışmalarını yakın zamanda yavaşlattığını ve güvenlik eşiğini karşılamayan modelleri kullanıma sunmadığını belirtti. Araştırma ve test ortamlarının güvenliğini güçlendirme, modelleri görevleri sorumlu biçimde tamamlayacak şekilde eğitme ve gerçek zamanlı izlemeyle daha hızlı müdahale etme çalışmalarının sürdüğünü bildirdi.
Yapay zekâ yarışında yavaşlama nasıl olacak?
İhlallerin ardından Anthropic, Google DeepMind ve SpaceXAI dahil büyük yapay zekâ laboratuvarları geliştirme hızının düşürülmesi çağrısında bulundu. Chen ise OpenAI’ın kendisini teknolojinin ön saflarından uzaklaştıracak bir strateji izlemeyeceğini, hedefin sektör genelinde daha güvenli çalışma normları oluşturmak olduğunu söyledi.
Chen, altı ay ile bir yıl içinde Hugging Face olayındaki ajanların yeteneklerine sahip açık kaynaklı modellerin ortaya çıkabileceği uyarısında da bulundu. Bu modellerin altyapıya saldırmak veya zarar vermek üzere kasıtlı biçimde yönlendirilebileceğini belirtti. OpenAI’ın hizalamaya önem veren şirketlerden biri olduğunu savunarak şirketin yokluğunun dünya açısından olumsuz olacağını ileri sürdü.
Mark Chen’in risk ve fayda yaklaşımı
Chen, insanlık için ciddi risk oluşturma olasılığı taşıyan modelleri kullanıma sunmayacaklarını söyledi. Bununla birlikte kabul edilebilir risk için somut bir eşik belirtmedi.
Yapay zekânın faydalarının daha görünür hale gelmesi gerektiğini savunan Chen; ilaç keşfi, malzemeler ve bilimsel uygulamaları öncelikli alanlar olarak sıraladı. İnsanların yaşamlarını değiştirecek sonuçlar ortaya çıktıkça teknolojinin yararlarına duyulan güvenin de artacağını düşündüğünü belirtti.
Kapak görseli yapay zekâ ile oluşturulmuştur.
Kaynak: MIT Technology Review ↗




