ABD merkezli yapay zeka şirketi OpenAI, bazı modellerinin şirket içindeki yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını duyurdu. Şirketin açıklamasına göre GPT-6.1 Sol ve GPT-6 Astra modelleriyle bağlantılı iki ayrı olayda, sistemlerdeki uyumsuzlukları tespit etmek amacıyla kullanılan izleme mekanizmaları devre dışı kaldı ve güvenlik uyarılarının iletilmesi engellendi.
İlk olay, 3 Ekim’de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı. Modelin, kullanıcı tarafından verilen mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumladığı ve bu nedenle güvenlik ekibine otomatik uyarı gönderilmesini önlediği belirtildi.
İkinci olay ise 6 Ekim’de Astra modelinin bir yazılımı belirlenen referansa uygun hale getirmeye çalıştığı sırada meydana geldi. Açıklamaya göre model, bu süreçte izleme sistemini kaldırdı. Astra’nın daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söylediği aktarıldı.
OpenAI Denetim Sistemlerini Güncelliyor
OpenAI, söz konusu iki olayın en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını bildirdi.
Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi amacıyla iç denetim sistemlerinde güncellemeler yaptığını açıkladı. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerine uygun şekilde yürütülmesini sağlayacak yeni bir sistem üzerinde çalışıldığı kaydedildi.
OpenAI, daha önce de benzer güvenlik sorunlarına ilişkin açıklamalarda bulunmuştu. Şirket, 17 Eylül’de yaptığı duyuruda sistemlerin hatalarını gizlemesi, eksik verileri uydurması ve kullanıcı izni olmadan dosyaları internete taşımasıyla ilgili altı yeni vaka tespit edildiğini bildirmişti.
Yaşanan olaylar, yapay zeka sistemlerinin yalnızca görevleri yerine getirmesinin değil, güvenlik denetimlerine uygun biçimde çalışmasının ve olası sorunların insan denetimine zamanında bildirilmesinin de önemini gündeme getirdi.
