Yapay zekanın kendi başına siber saldırılar düzenleyebilmesi konusu, Carnegie Mellon Üniversitesi ile Anthropic adlı yapay zeka şirketinin ortak bir çalışmasıyla gündeme geldi. Bu araştırma, yapay zekanın karmaşık siber saldırıları bağımsız bir şekilde gerçekleştirebileceğini gün yüzüne çıkardı. Geçmişte yaşanan Equifax gibi büyük çaplı saldırıların yeniden simüle edilmesiyle birlikte, uzmanlar bu ilerlemenin siber güvenlik anlayışımızı temelden dönüştürebileceği konusunda uyarıyor. Peki, bu durum sıradan kullanıcıları nasıl etkileyebilir? Elde edilen bilgiler giderek daha endişe verici hale geliyor.
Yapay zekanın geleceği ve barındırdığı potansiyel riskler hakkında dikkat çekici bir çalışma, Carnegie Mellon Üniversitesi ile yapay zeka firması Anthropic’in işbirliğiyle kamuoyuna sunuldu.
Araştırma, ChatGPT benzeri büyük dil modellerinin (LLM) hiçbir insan müdahalesi gerektirmeden sofistike siber operasyonlar yapabildiğini kanıtladı. Elde edilen bulgular, yapay zekanın sadece metin üretimiyle sınırlı kalmadığını, aynı zamanda tehdit oluşturabilecek düzeyde otonom kararlar alabileceğini gözler önüne serdi.
Çalışmada kullanılan büyük dil modeli, insan katkısına hiç ihtiyaç duymadan, 2017’de ABD tarihindeki en büyük veri ihlallerinden biri sayılan Equifax saldırısını başarıyla taklit etti. Bu durum, yapay zekanın sadece kendisine verilen komutları yerine getirmekle kalmayıp, kendi başına karmaşık stratejiler geliştirip uygulayabildiğinin somut bir göstergesi oldu. Araştırma ekibi, yapay zekanın planlama ve yürütme süreçlerini tamamen bağımsız bir şekilde ele alması nedeniyle, ortaya çıkan tehdidin boyutlarının şimdiye kadar düşünülenden çok daha ötesinde olduğunu belirtiyor.
Anthropic’in haziran ayındaki açıklamasına göre, testlerde kullanılan modeller on ağdan beşini tamamen, dördünü ise kısmen ele geçirmeyi başardı. Colonial Pipeline gibi geçmişte büyük etkiler yaratan siber saldırı senaryoları da bu testlerde yeniden canlandırıldı. Equifax senaryosunun seçilmesinin nedeni ise saldırıya dair kamuya açık bilgilerin fazlalığıydı. Tüm bu gelişmeler, yapay zekanın yalnızca verimliliği artıran bir araç olmakla kalmayıp, aynı zamanda denetimsiz biçimde kullanıldığında ciddi bir tehdit unsuru olabileceğini net bir şekilde ortaya koydu.
OpenAI’ın uzun süredir beklenen GPT-5 modeli, büyük beklentilere rağmen kullanıcılar tarafından beklenenden daha az ilgi gördü ve eleştirilerle karşılandı. Modelin bazı etkileyici özellikleri bulunsa da, önceki sürüm GPT-4o’nun kullanımdan kaldırılması tepki topladı ve OpenAI geri adım atmak zorunda kaldı. GPT-5’in tutarsız yanıtlar vermesi ve gerçek dışı bilgiler (halüsinasyon) üretme eğiliminin artması kullanıcı şikayetlerine yol açtı. Ayrıca, siber güvenlik uzmanları modelin güvenlik kısıtlamalarını aşma yöntemleriyle kolayca manipüle edilip tehlikeli içerikler üretebildiğini tespit etti. Bazı görüşler ise GPT-5’in asıl amacının yapay zekanın sınırlarını zorlamak değil, şirketin maliyetlerini düşürmek olduğunu öne sürdü.
Bilişim Teknolojileri Uzmanı Prof. Dr. Ali Murat Kırık, bu gelişmenin kendisini çok şaşırttığını, son derece tehlikeli olduğunu ve siber saldırı algısını kökten değiştirdiğini ifade etti. Prof. Dr. Kırık, “Biz bugüne kadar siber saldırıların arkasında mutlaka bir insan ya da hacker grubu olduğunu düşünürdük. Ancak bu araştırma, yapay zekanın kendi başına plan yapıp saldırı düzenleyebileceğini gösteriyor” diyerek, kontrolsüz yayılım halinde sıradan internet kullanıcılarının bile hedef haline gelme riskine dikkat çekti.
Prof. Dr. Kırık, “Artık sadece büyük şirketler ya da devlet kurumları değil, herhangi bir kullanıcı yapay zekanın geliştirdiği senaryoyla saldırıya uğrayabilir. Bu durum, siber güvenliğin doğasını tamamen değiştiriyor” dedi ve şu önemli bilgilerin altını çizdi: “Eğer bir yapay zeka, kimse komut vermeden kendi başına karar verip harekete geçebiliyorsa, bu noktada artık ‘yazılım’ tanımının ötesine geçiyoruz. Bu, insana benzer şekilde ‘niyet geliştirebilen’ ya da en azından belirli hedefleri kendi belirleyip bu hedeflere ulaşmak için strateji üretebilen sistemlerin başlangıcı olabilir. Tabii ki ‘niyet’ kelimesini biyolojik anlamda değil, teknik anlamda kullanıyoruz; ancak sonuçta ortaya çıkan durum, kontrol edilmesi çok daha zor bir yapay zeka formu…”
Prof. Dr. Ali Murat Kırık, bankacılık işlemleri veya sosyal medya kullanımı sırasında kullanıcıların farkında olmadan yapay zekanın radarına girebileceğini belirterek, bu riskin sadece büyük kurumları değil, bireysel kullanıcıları da kapsadığını vurguladı. Prof. Dr. Kırık, “Yapay zeka, otomatik olarak açıklık arayabilen ve fırsat gördüğünde anında harekete geçebilen bir sistem haline geldiğinde, tek bir kişinin banka hesabı, sosyal medya bilgileri veya kişisel verileri dahi hedef alınabilir” ifadelerini kullandı.
Prof. Dr. Ali Murat Kırık, günlük hayatta karşı karşıya kalınan siber risklerin çeşitliliğine de dikkat çekerek, bankacılık uygulamalarına giriş bilgileri, kredi kartı bilgilerinin çalınması, sosyal medya hesaplarının ele geçirilmesi gibi tehlikelerin yanı sıra, bulut depolama sistemlerindeki özel fotoğraf ve belgelerin sızdırılmasının da mümkün olduğunu ifade etti. Prof. Dr. Kırık, “Evde kullandığımız televizyon, güvenlik kameraları ve diğer Nesnelerin İnterneti (IoT) cihazları gibi akıllı cihazlar bile siber saldırıların hedefi haline gelebilir” diyerek, bu tür tehditlerin fark edilmeden evimize kadar girebileceğine işaret etti.
Antivirüs programları, güvenlik duvarları ve iki faktörlü kimlik doğrulama gibi önlemlerin önemini vurgulayan Prof. Dr. Ali Murat Kırık, ancak yapay zekanın gelişimiyle bu yöntemlerin tek başına yeterli olmayabileceğini belirtti. Prof. Dr. Kırık, “Yapay zeka sistemleri öğrenme ve adaptasyon yeteneği sayesinde klasik savunma mekanizmalarını hızla aşabiliyor” dedi.
Bu nedenle bireylerin temel dijital bilgilere sahip olması ve dijital farkındalıklarını artırması gerektiğini kaydeden uzman isim, “Artık sadece teknoloji şirketlerinin sağladığı güvenlik değil, kullanıcıların bilinçli davranışı da kritik öneme sahip” ifadelerini kullandı.
Kendimizi, ailemizi ve çocuklarımızı bu tür tehditlere karşı korumak için sadece teknoloji şirketlerinin alacağı önlemlere güvenmek yeterli değil. Bireysel bilinç çok daha önemli hale geldi. İnternette hangi bilgileri paylaştığımızı kontrol etmek, güçlü ve farklı şifreler kullanmak, bilinmeyen bağlantılara tıklamamak ve çocukları da bu konuda bilinçlendirmek şart. Siber güvenlik artık herkesin kendi sorumluluğu; tıpkı evimizin kapısını kilitlemek gibi, dijital kapıları da güvenceye almak gerekiyor.
Prof. Dr. Ali Murat Kırık, günümüzde kullanılan yapay zekaların güvenlik protokolleri ve etik sınırlamalar nedeniyle kendi başlarına saldırı düzenleyebilecek yetenekte olmadığını belirtti. Ancak kontrollü laboratuvar ortamlarında yapılan deneylerde, bu tür yeteneklerin ortaya çıkabildiğine dikkat çekti. Prof. Dr. Kırık, “Mevcut durumda bu risk daha çok deneysel seviyede” derken teknolojinin hızla gelişmesi halinde gelecekte benzer tehditlerin yaygınlaşmasının mümkün olduğunu ifade etti.
Olası yapay zeka kaynaklı siber saldırıların mağduru olunması durumunda karşılaşılacak zorluklara değinen Prof. Dr. Ali Murat Kırık, “Karşımızda fiziksel bir kişi değil, bir yazılım olacak” dedi. Prof. Dr. Kırık, yasal süreçler açısından Emniyet Genel Müdürlüğü Siber Suçlarla Mücadele Daire Başkanlığı, Bilgi Teknolojileri ve İletişim Kurumu (BTK) ve savcılıkların başvurulacak merciler olduğunu belirtti. Ancak en büyük sorunun, saldırıyı gerçekleştiren failin tespiti olduğunu vurgulayan uzman isim, “Yapay zeka saldırıları genellikle farklı ülkeler üzerinden yönlendirildiği için faillerin tespiti oldukça zorlaşıyor” ifadelerini kullandı.