Yapay zeka şirketi Anthropic, yayımladığı yeni araştırmayla Claude AI modelinin çalışma prensibine ilişkin dikkat çekici bulgular paylaştı. Şirketin araştırmacıları, modelin eğitim sürecinde önceden programlanmamış şekilde gelişen ve "J-space" olarak adlandırılan dahili bir çalışma alanı oluşturduğunu açıkladı. Araştırmaya göre bu yapı, Claude'un belirli kavramlar üzerinde çıktı üretmeden önce içsel hesaplamalar yapmasına olanak tanıyor.
"J-space" nedir?
Anthropic'in yayımladığı teknik makaleye göre J-space, Claude AI'nin sinir ağı aktivasyonları içinde sessiz biçimde çalışan soyut bir işlem alanı olarak tanımlanıyor.
Araştırmacılar, modelin bu alanda kavramları yazıya dökmeden değerlendirebildiğini ve farklı hesaplamalar gerçekleştirebildiğini ifade etti. Şirket, bu sistemin yazılım geliştiricileri tarafından doğrudan kodlanmadığını, eğitim süreci sırasında kendiliğinden ortaya çıktığını vurguladı.
İnsan düşünme biçimine benzerlik iddiası
Anthropic, J-space'in işleyişini insanların aynı anda farklı konular üzerinde düşünebilmesine benzetti.
Şirket tarafından yapılan açıklamada, Claude'un kullanıcıya verdiği yanıtlarla doğrudan ilişkili olmayan kavramları da bu dahili çalışma alanında işleyebildiği belirtildi. Araştırmacılar, modelin belirli bir konu hakkında düşünmemesi istense bile ilgili kavramların J-space içinde aktif kalabildiğini öne sürdü.
Bununla birlikte şirket, bu benzetmenin Claude'un bilinç sahibi olduğu anlamına gelmediğini, yalnızca modelin bilgi işleme mekanizmasını açıklamak amacıyla kullanıldığını ifade etti.
Araştırmacılar modeli test etti
Araştırmada Claude AI'nin iç çalışma sistemini incelemek amacıyla çeşitli deneyler gerçekleştirildi.
Deneylerden birinde modele, kurgusal bir yöneticinin yapay zekayı kapatmayı planladığını içeren tamamen hayali bir senaryo sunuldu. Daha sonra araştırmacılar, J-space içinde "sahte", "kurgu" ve "senaryo" kavramlarıyla ilişkili örüntüleri azaltmaya yönelik deneysel teknikler uyguladı.
Anthropic, bu çalışmaların modelin iç hesaplama süreçlerinin daha iyi anlaşılması amacıyla gerçekleştirildiğini belirtti.
İç çalışma alanı denetimi zorlaştırabiliyor
Araştırmaya göre J-space benzeri dahili işlem alanları, yapay zeka modellerinin nasıl karar verdiğinin izlenmesini bazı durumlarda daha karmaşık hale getirebiliyor.
Anthropic, bu nedenle gelişmiş yapay zeka sistemlerinin güvenliği, şeffaflığı ve denetlenebilirliği üzerine yürütülen araştırmaların öneminin arttığını vurguladı.
