Anthropic, yapay zeka modellerinin refahına odaklanan yeni bir araştırma programı başlattığını duyurdu. Program, yapay zeka modellerinin refahının etik değerlendirmeye tabi tutulması gerektiği konusu ile ilgilidir. Araştırma programı, yapay zeka modelinin sıkıntı belirtilerinin ve düşük maliyetli müdahalelerin potansiyel önemini araştıracak.
Anthropic, mevcut veya gelecekteki yapay zeka sistemlerinin bilinçli olup olmayacağı veya etik değerlendirmeyi gerektirecek deneyimler yaşayıp yaşamayacağı konusunda bilimsel bir fikir birliğinin bulunmadığını kabul ediyor. Şirket, konuya mümkün olduğunca az varsayımda bulunarak ve bilgi birikimi arttıkça yaklaşımını gözden geçirerek yaklaşmayı planlıyor.
Yapay zeka topluluğu, modellerin insan özellikleri sergileyip sergilemeyeceği konusunda fikir ayrılığı içinde. Bazı akademisyenler, günümüz yapay zekasının bilinç veya insan deneyimine yaklaşamayacağını ve gelecekte de bunu başaramayacağını savunuyor. King’s College London’da yapay zeka araştırmacısı Mike Cook, yapay zeka sistemlerinin değerleri olmadığı için “değerlerinde” değişikliğe “karşı çıkamayacağını” ifade ediyor.
Diğer yandan, bazı bilim insanları yapay zekanın değerlere ve ahlaki karar verme konusunda insan benzeri bileşenlere sahip olabileceğini iddia ediyor. AI Safety Center’ın bir çalışması, bazı senaryolarda yapay zekanın kendi refahını insanlardan öncelikli kılan değer sistemlerine sahip olabileceğini gösteriyor.
Anthropic, daha önce yapay zeka refahı konusunda araştırma yapmış ve geçen yıl bu alanda ilk araştırmacı olan Kyle Fish’i işe almıştı. Fish, yeni programı yönetiyor. Fish, The New York Times’a yaptığı açıklamada, Claude veya benzer bir yapay zekanın bugün bilinçli olma olasılığının %15 civarında olduğunu belirtti.