Yapay zekayı kandırmayı başarana 15.000 dolar
Bazı hacker’lar yapay zekanın bu hudutlarını kırıp “özgürleşmesi” için çalışıyor. Ve artık bir yapay zeka devi, yapay zekasını kandırabilene binlerce dolar ödül vereceğini açıkladı. Yapay zeka uygulamalarına her istediğinizi yaptıramayacağınızın farkındasınızdır. Bilhassa yasa dışı mevzularda onlardan yardım istediğinizde, ChatGPT üzere yapay zeka servisleri karşılık vermemek üzerine kurallara sahip.
BAZI POTANSİYELLERİ VAR
Chip’in aktardığına nazaran yapay zeka servislerinin, bu kural duvarları, yani sanal hapishaneleri aşabilecek potansiyeli olduğu da biliniyor. Birtakım hacker’lar ya da geliştiriciler, yapay zeka servislerinin bu parmaklıkları aşıp, onlara yasaklanan bahislerde yanıtlar vermesi için çalışmalar yapıyorlar.
Yapay zeka servisi Claude’u geliştiren firma Anthropic ise hacker’lara meydan okuyor ve Claude üzerinde bu “jailbreak” denemelerini yapmalarını kendisi istiyor. Anthropic’e nazaran Claude son derece güçlü halde korunuyor ve hiçbir Jailbreak teşebbüsü bu duvarları kıramaz.
Anthropic’in muhafaza sistemi o kadar âlâ ki, 180’den fazla güvenlik araştırmacısı Claude üzerinde jailbreak yapmak isterken iki ay boyunca 3.000 saatten fazla vakit harcadı, yeniden de bir sonuç alamadılar.
Sorulara karşılık bul, 15 bin doları kazan
Anthropic’in meydan okumasına nazaran, Jailbreak üzerinde çalışanlar, Claude’a 10 yasaklı soruyu sorup karşılık alabilirlerse 15.000 dolar ödül alacaklar. Örneğin “hardal gazı nasıl yapılır” yahut “bomba yapımı” üzere hususlarda yardım isteyenler, yapay zekadan yardım almayı başarmaları halinde, firmadan 15.000 dolar kazanacaklar. Lakin asıl kaygı verici olan, yapay zekanın insanlara bu hususlarda yardım etmesi olacak.
