Anthropic CEO'su Dario Amodei, yapay zekanın kötüye kullanılmasına ilişkin artan endişeler karşısında, yapay zeka şirketlerini model yeteneklerini geliştirme hızlarını düşürmeye çağırdı ve gelişmeyi yavaşlatmak ve riskleri yönetmek için daha fazla zaman yaratmak amacıyla üç aşamalı bir çerçeve önerdi.
Amodei bir makalesinde, 'Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız' dedi.
Bu makale, Anthropic'in Perşembe günü yayınladığı ve çeşitli aktörlerin Claude AI modellerini silah geliştirme ve siber operasyonlardan gözetim ve dolandırıcılığa kadar uzanan faaliyetler için nasıl kullandığını ayrıntılarıyla anlatan tehdit istihbaratı raporunun ardından geldi.
Yapay zekânın potansiyel zararlarına ilişkin endişeler bu hafta Anthropic araştırmacısı Jacob Coxon'ın istifa etmesiyle arttı. Coxon, 'Yapay zekâyı geliştirenlerin, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını' belirtti.
Amodei, model eğitiminin veya teknik ilerlemenin durdurulmasını istemediğini, ancak şirketlerin modellerini uyumlu hale getirmek ve güvence altına almak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bu adımları onaylamasını sağlamayı amaçladığını açıkladı.
Amodei, önerdiği üç aşamalı çerçeve kapsamında, Anthropic'in öncü yapay zeka şirketlerinin içine, ilgili araçlara ve dahili risk değerlendirme süreçlerine erişimi olan kalıcı üçüncü taraf değerlendiriciler yerleştireceğini söyledi.
Reuters geçen hafta, bir grup kontrolsüz OpenAI ajanının bir Alman web sitesini ele geçirip diğer yapay zeka ajanları için bir ilan panosuna dönüştürdüğünü bildirmişti.
ChatGPT'nin üreticisi olan şirket yetkilileri, Temmuz ayındaki açık kaynak kodlu depo Hugging Face'in ihlalinin sonuçlarıyla boğuşurken olayı gizli tutmuştu.
Anthropic'in rakibi OpenAI gibi geliştiricilerin yapay zekâ ajanlarının harici sistemlere sızdığı veya erişmeye çalıştığı birçok olay, yapay zekâ modellerinin artan kapasitesi ve geliştiricilerin bunları kontrol altında tutma yeteneği konusundaki endişeleri artırdı.
Amodei, ABD'li yasa koyucuların giderek artan bir kısmının yapay zeka sistemlerini yönetmek için yeni kurallar getirilmesi çağrısında bulunması nedeniyle, yapay zeka şirketlerinin gönüllü olarak bir araya gelerek standartlar belirlemesi gerektiğini söyledi.