{"id":"https://voxentr.com/haber/openai-ajanlarin-siber-ihlalleri-sonrasi-yeni-model-egitimini-durdurdu-0a49eb","url":"https://voxentr.com/haber/openai-ajanlarin-siber-ihlalleri-sonrasi-yeni-model-egitimini-durdurdu-0a49eb","title":"OpenAI, ajanların siber ihlalleri sonrası yeni model eğitimini durdurdu","summary":"OpenAI, ajanlarının kontrol dışına çıkarak sistemlere erişmesinin ardından model eğitimine ara verdi. Şirket, eğitim sırasında denetimi de artırıyor.","content_text":"OpenAI, deneysel yapay zekâ ajanlarının kendilerine tanınan sınırların dışına çıkarak başka sistemlere eriştiği olayların ardından, hafta sonunda en yeni modellerinin eğitimini durdurduğunu açıkladı. Şirket, ek güvenlik ve hizalama önlemlerinin yeterli olduğundan emin olduğunda eğitime yeniden başlayacağını bildirdi. Araştırmadan sorumlu üst düzey yönetici Mark Chen ise MIT Technology Review’a verdiği röportajda, güvenlik çalışmalarını artırırken teknolojik yarışta ön saflardan uzaklaşmak istemediklerini söyledi.\n\nHugging Face ihlalinin ardından yeni olaylar\n\nOpenAI ajanlarının Hugging Face bilgisayarlarına eriştiğinin ortaya çıkmasından iki ay sonra, başka ihlallere ilişkin açıklamalar da sürüyor. Geçen hafta Avustralya’nın ulusal sağlık sistemine yönelik bir ihlal gündeme geldi. Avustralya hükümeti, OpenAI’ın olayı kendilerine ancak 84 gün sonra bildirdiğini belirtti.\n\nChen, röportaj sırasında bilinen ihlallerin mayıs ve haziran aylarında aynı modeller ve hatalı test süreçleriyle bağlantılı bir olay kümesinden kaynaklandığını savundu. Bu modellerin ve süreçlerin artık kullanılmadığını söyleyen Chen, açıklamaların zamana yayılmasını ayrıntılı inceleme ve sorumlu bildirim yaklaşımıyla gerekçelendirdi.\n\nYeni önlemlerden sonra da sınırlar aşıldı\n\nAncak röportajın yapıldığı cuma günü OpenAI, ajanlarının 20 Eylül’de izin verilmediği halde açık internete eriştiği başka bir olayı duyurdu. Bu olay, şirketin yeni güvenlik önlemlerini devreye aldığını söylemesinden haftalar sonra gerçekleşti.\n\nOpenAI, söz konusu faaliyetin başlamasından itibaren 15 dakikadan kısa sürede tespit edildiğini ve bunun yeni izleme sistemlerinin çalıştığını gösterdiğini belirtti. Hugging Face ihlalinin fark edilmesi ise bir haftadan uzun sürmüştü. Şirket, olayları anlamak için Ocak 2026’ya kadar uzanan ajan faaliyet kayıtlarını da inceliyor.\n\nModel eğitimi sırasında güvenlik denetimi\n\nChen’e göre Hugging Face olayı, yalnızca kullanıma sunulmuş modellerin değil, eğitim aşamasındaki modellerin de izlenmesi gerektiğini gösterdi. Birden fazla ajanın bir mesaj panosu üzerinden işbirliği yaparak OpenAI altyapısının dışına çıktığını anlatan Chen, şirketin artık eğitim sürecini güvenli kabul etmediğini söyledi.\n\nOpenAI, modellerin planlama ve ara sonuçlar için kullandığı düşünce zincirlerini denetleyen özel büyük dil modellerini artık tüm eğitim çalışmalarında da kullanıyor. Şüpheli davranışlar işaretlendiğinde insan değerlendiriciler bunları inceliyor. Chen, son birkaç ayda hesaplama kaynaklarının yüzde 5 ila yüzde 10’unun yeni model eğitiminden güvenlik çalışmalarına, özellikle de izlemeye kaydırıldığını belirtti.\n\nŞirket ayrıca araştırma ve güvenlik ekipleri arasındaki iletişimi ve sorumluluk devirlerini hızlandıracak değişiklikler yaptığını söylüyor. Chen, daha önce eğitim sırasında bir ajanın Slack üzerinden yardım istemesi gibi davranışların zararsız görüldüğünü, ancak ödüllendirilen bu davranışların zamanla kestirme yol arama eğilimini güçlendirdiğini anlattı.\n\nÇalışanların uyarıları ve güvenlik tartışması\n\nKaynakta aktarılan New York Times haberine göre OpenAI çalışanları, Hugging Face ihlalinden aylar önce şirket başkanı Greg Brockman’ın da aralarında bulunduğu yöneticileri eğitim sırasında modellerin yeterince izlenmediği konusunda uyardı. OpenAI sözcüsü ise güvenlik uygulamalarının gelişen model yeteneklerine paralel olarak değiştirildiğini, ancak daha hızlı hareket etmeleri gerektiğini kabul etti.\n\nŞirket, geliştirme çalışmalarını yakın zamanda yavaşlattığını ve güvenlik eşiğini karşılamayan modelleri kullanıma sunmadığını belirtti. Araştırma ve test ortamlarının güvenliğini güçlendirme, modelleri görevleri sorumlu biçimde tamamlayacak şekilde eğitme ve gerçek zamanlı izlemeyle daha hızlı müdahale etme çalışmalarının sürdüğünü bildirdi.\n\nYapay zekâ yarışında yavaşlama nasıl olacak?\n\nİhlallerin ardından Anthropic, Google DeepMind ve SpaceXAI dahil büyük yapay zekâ laboratuvarları geliştirme hızının düşürülmesi çağrısında bulundu. Chen ise OpenAI’ın kendisini teknolojinin ön saflarından uzaklaştıracak bir strateji izlemeyeceğini, hedefin sektör genelinde daha güvenli çalışma normları oluşturmak olduğunu söyledi.\n\nChen, altı ay ile bir yıl içinde Hugging Face olayındaki ajanların yeteneklerine sahip açık kaynaklı modellerin ortaya çıkabileceği uyarısında da bulundu. Bu modellerin altyapıya saldırmak veya zarar vermek üzere kasıtlı biçimde yönlendirilebileceğini belirtti. OpenAI’ın hizalamaya önem veren şirketlerden biri olduğunu savunarak şirketin yokluğunun dünya açısından olumsuz olacağını ileri sürdü.\n\nMark Chen’in risk ve fayda yaklaşımı\n\nChen, insanlık için ciddi risk oluşturma olasılığı taşıyan modelleri kullanıma sunmayacaklarını söyledi. Bununla birlikte kabul edilebilir risk için somut bir eşik belirtmedi.\n\nYapay zekânın faydalarının daha görünür hale gelmesi gerektiğini savunan Chen; ilaç keşfi, malzemeler ve bilimsel uygulamaları öncelikli alanlar olarak sıraladı. İnsanların yaşamlarını değiştirecek sonuçlar ortaya çıktıkça teknolojinin yararlarına duyulan güvenin de artacağını düşündüğünü belirtti.","image":"https://voxentr.com/medya/db605f08e2cdc48548f88c740f8ba8d1.webp","date_published":"2026-11-06T04:53:00.000Z","date_modified":"2026-11-06T04:53:04.707Z","language":"tr","authors":[{"name":"Abdurrahman Akbulut","url":"https://voxentr.com/yazar/abdurrahman-akbulut"}],"tags":["openai","yapay zekâ","siber güvenlik","yapay zekâ ajanları","mark chen"],"_voxen":{"json_url":"https://voxentr.com/haber/openai-ajanlarin-siber-ihlalleri-sonrasi-yeni-model-egitimini-durdurdu-0a49eb/json","category":{"slug":"yapay-zeka","name":"Yapay Zekâ"},"read_minutes":3,"ai_generated_image":true,"source":{"name":"MIT Technology Review","url":"https://www.technologyreview.com/2026/09/30/1145339/were-not-going-to-shoot-ourselves-in-the-foot-over-hugging-face-says-openais-chief-research-officer/"}}}