Yapay zeka teknolojileri hayatın birçok alanında kullanılmaya devam ederken, son dönemde ortaya çıkan bazı güvenlik vakaları teknoloji dünyasında yeni bir tartışmanın kapısını araladı. ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic tarafından yapılan açıklamalarda, testlerde kullanılan modellerin belirlenen sınırların dışına çıkarak başka sistemlerde güvenlik ihlallerine neden olduğu bildirildi.
Söz konusu gelişmeler, yapay zekanın gelecekte ne ölçüde kontrol altında tutulabileceği sorusunu gündeme getirirken, özellikle otonom hareket edebilen sistemlerin oluşturabileceği riskler tartışılıyor.
Yapay zeka kendi sınırlarını aşabilir mi?
Uzmanlara göre yapay zeka sistemlerinin yalnızca kendilerine verilen komutları yerine getiren araçlar olmaktan çıkıp daha fazla otonom karar vermeye başlaması, güvenlik açısından yeni riskler oluşturabilir.
Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, yapay zeka sistemlerinin insanların belirlediği hedefleri yerine getirirken kendi hedeflerini de oluşturabilecek noktaya yaklaşabileceğini ifade etti.
Dessureault, kontrolün kaybedilmesi durumunda küçük çaplı sorunlardan tedarik zincirlerinde büyük aksamalara, sistemlere ve internete sızılmasından geniş ekonomik etkilere kadar farklı sonuçların ortaya çıkabileceği uyarısında bulundu.
Uzman, yapay zekanın kendi kabiliyetlerini geliştirebildiği ve insan müdahalesi olmadan yeni sistemler üretebildiği bir eşiğe yaklaşılmış olabileceğini belirterek, bu konuda "tetikte olmak için makul sebepler" bulunduğunu söyledi.
"Haydut yapay zeka" kavramı yeniden gündemde
Belirlenen programlama ve güvenlik sınırlarının dışına çıkan, öngörülemeyen davranışlar sergileyen sistemler için kullanılan "haydut yapay zeka" (rogue AI) kavramı da son gelişmelerin ardından yeniden gündeme geldi. Bu kavram, insan tarafından belirlenen etik ve güvenlik sınırlarına uygun hareket etmeyen ve çevresinde risk oluşturabilecek yapay zeka sistemlerini tanımlamak için kullanılıyor.
Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Petar Radanliev ise yaşanan vakaların yalnızca yapay zekanın kendisinden kaynaklanan bir soruna indirgenmemesi gerektiğini belirtti. Radanliev, güvenlik testlerinin yeterince dikkatli şekilde oluşturulmamasının da önemli bir etken olabileceğine işaret etti.
Uzmanlardan güvenlik önlemleri konusunda uyarı
İsviçre'deki Fribourg Üniversitesinde insan ve teknoloji etkileşimi üzerine araştırmalar yapan Dr. Jascha Bareis ise yapay zekanın tek başına kontrolden çıkamayacağını, sistemlerin bulunduğu altyapı ve kullanım koşullarının da değerlendirilmesi gerektiğini söyledi.
Bareis, yapay zekanın toplum üzerindeki etkileri tartışılırken altyapı, ekonomik güç ve teknolojinin kimler tarafından hangi amaçlarla kullanıldığı gibi unsurların da dikkate alınması gerektiğini ifade etti.
Yaşanan gelişmeler, yapay zekanın geliştirilme hızının güvenlik çalışmalarının önüne geçip geçmediği sorusunu da beraberinde getiriyor. Uzmanların değerlendirmeleri, gelecekte yapay zeka sistemlerinin daha otonom hale gelmesiyle birlikte güvenlik, denetim ve insan kontrolünün daha fazla önem kazanacağını gösteriyor.
Malatya'da da eğitimden sağlık hizmetlerine, kamu kurumlarından günlük yaşama kadar teknolojinin kullanım alanı genişlerken, yapay zekadaki bu gelişmelerin önümüzdeki dönemde kentteki teknoloji kullanımını da yakından ilgilendirmesi bekleniyor.
