Geçtiğimiz on yılda, tekil yapay zeka modellerini daha yetenekli, yararlı ve güvenli hale getirmeye odaklanıldı. Bugün Google DeepMind; Schmidt Sciences, Cooperative AI Foundation ve Advanced Research and Invention Agency ortaklığıyla, ayrıca Google.org desteğiyle dünya genelindeki araştırmacılara yönelik on milyon dolara varan yeni bir teknik araştırma fonu çağrısı başlatıyor.
Yapay zeka teknolojisinin hızla büyümesiyle birlikte yeni bir dönemin kapıları aralanıyor. Yakın gelecekte, farklı kuruluşlar tarafından geliştirilen milyonlarca yapay zeka ajanı, dijital ortamlarda bir araya gelerek birbirleriyle iletişim kuracak, müzakereler yürütecek ve çeşitli işlemler gerçekleştirecek.
Bu sistemlerin etkileşimlerinin güvenli ve öngörülebilir olması büyük önem taşıyor. Yaşanan bu dönüşüm, tüm yapay zeka ekosisteminin güvenliğini ve istikrarını henüz başlangıç aşamasındayken sağlamlaştırmak adına kritik bir fırsat sunuyor. Söz konusu fon çağrısı, büyük ölçekli çoklu ajan sistemlerinin toplu davranışlarını incelemeyi ve olası riskleri kontrol altına alacak çerçeveler geliştirmeyi hedefliyor. Dünya genelindeki araştırmacılara destek verilerek, bağımsız sistemlerin farklı ağlarda etkileşime girmesiyle oluşan ve görünmez olarak nitelendirilen güvenlik risklerinin çözülmesi amaçlanıyor.
Çoklu ajan ekosistemleri, büyük gruplar halinde etkileşime girdiğinde aniden yeni ve kolektif davranışlar sergileyebilir. Günümüzde bu tür geçişleri öngörecek, ölçecek ve izleyecek yeterli araçlar bulunmuyor. Mevcut güvenlik değerlendirmelerinin büyük kısmı, yapay zeka modellerini tekil olarak ele alıyor. Oysa otonom ajanların karşılıklı etkileşimi, tahmin edilmesi son derece güç olan karmaşık ve beklenmedik toplu davranışlar doğurabiliyor.
Henüz çok yeni olan bu araştırma alanında, söz konusu değişimlerin nasıl gerçekleştiğini kavramak büyük önem taşıyor. Örneğin, bu etkileşimlerin öngörülemeyen ekonomik dalgalanmalara veya yeni güvenlik açıklarına yol açıp açmayacağını belirlemek gerekiyor. Bu nedenle, sistem genelindeki toplu davranışların nasıl yönetileceğini anlamak temel hedefi oluşturuyor. Çoklu ajan güvenliğine dair temel kuramsal çerçeveler bulunsa da bu sistemlerin hızlı gelişimi, araştırmaların da aynı hızla genişletilmesini zorunlu kılıyor.
Son dönemde yapılan çalışmalar, bu etkileşimleri anlamaya yönelik yapılar kurarken, yapay zeka ajanlarının rekabetçi ortamlarda karşılaştığı zayıflıkları da inceliyor. Gelinen noktada, çoklu ajan etkileşimlerinin karmaşıklığı mevcut güvenlik modellerini geride bırakıyor. Bu durum, daha hızlı hareket edilmesini gerektiriyor. Açıklanan fonlama programı, bağımsız araştırmacılardan oluşan küresel bir ağı destekleyerek ilerlemeyi hızlandırmayı amaçlıyor. Güvenlik standartlarının herkes için şeffaf ve güçlü olabilmesi, ancak çeşitlilik içeren bir araştırmacı topluluğuyla mümkün görülüyor.
Bu girişim, öncü yapay zeka sistemlerinin taşıdığı riskleri azaltmayı amaçlayan Schmidt Sciences programları ile siber-fiziksel çoklu ajan koordinasyonunu geliştirmeyi hedefleyen ARIA programlarının misyonunu destekliyor.
Tek bir laboratuvarın tek başına çözemeyeceği bu karmaşık sorun için akademik ve bağımsız araştırmacılar, belirlenen dört temel alanda proje sunmaya davet ediliyor.
İlk alan, çoklu ajan güvenliğindeki ilerlemeleri değerlendirmek ve hızlandırmak amacıyla sanal pazaryerleri ve simüle edilmiş ekosistemler gibi gerçekçi deney ortamlarının oluşturulmasını kapsıyor.
İkinci alan, etkileşim halindeki ajan topluluklarının güvenlik özelliklerini anlamaya odaklanarak kolektif yeteneklerin nasıl ortaya çıktığını ve ağların nasıl istikrarsızlaştığını inceliyor.
Üçüncü alan, platformlar arası güvenli etkileşimleri sağlayan kimlik, itibar ve taahhüt protokollerini test ederek ajan altyapısını güçlendirmeyi hedefliyor.
Dördüncü alan ise yaygınlaştırılan ajan topluluklarını izlemek ve büyük ölçekli olası zararları önlemek amacıyla denetim ve kontrol yöntemleri geliştirmeye odaklanıyor.
Araştırmacıların bu çağrıya katılarak çoklu ajan geleceği için güvenli bir temel inşa etmeye katkı sunmaları bekleniyor. Başvurular sekiz Ağustos iki bin yirmi altı tarihine kadar kabul edilecek olup destek almaya hak kazananların iki bin yirmi altı yılının sonbahar mevsiminde açıklanması planlanıyor. Ayrıntılı bilgi ve başvuru süreci için ilgili başvuru portalı ziyaret edilebiliyor.