Profesörler ve AI geliştiricileri de dahil olmak üzere binden fazla kişi, tüm yapay zeka laboratuvarlarına açık bir mektup imzaladı ve AI sistemlerinin gelişimini ve eğitimini en az altı ay boyunca GPT-4'ten daha güçlü bir şekilde duraklatmaya çağırdı.
Mektup, AI geliştirme ve teknoloji alanında, Openai'nin kurucu ortağı Elon Musk, önde gelen AI profesörü Yoshua Bengio ve Mila'nın kurucusu Steve Wozniak, Apple'ın kurucu ortağı, Emad Mostrake, Stability CEO'su AI, AI araştırmasında öncü Stuart Russell ve Geometrik Zeka'nın kurucusu Gary Marcus.
Hayatın geleceği tarafından yayınlanan açık mektup, ortak güvenlik protokolleri olmadan ileri AI sistemlerinin hızlı gelişmesinden kaynaklanan toplum ve insanlık için potansiyel riskleri belirtmektedir.
Bu devrimle ilgili sorun, potansiyel risklerin henüz kapsamlı bir yönetim sistemi tarafından tam olarak takdir edilmemesi ve muhasebeleştirilmemesidir, bu nedenle teknolojinin olumlu etkileri garanti edilmemektedir.
Mektubu, "Gelişmiş AI, Dünya'daki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı bakım ve kaynaklar için planlanmalı ve yönetilmelidir."
"Ne yazık ki, bu planlama ve yönetim seviyesi gerçekleşmiyor, ancak son aylarda AI laboratuvarları, hiç kimsenin-yaratıcılarının bile-anlayamayacağı daha güçlü bir dijital zihin geliştirmek ve dağıtmak için kontrol dışı bir yarışta kilitli olduğunu görmesine rağmen, , tahmin veya güvenilir bir şekilde kontrol edin. "
Mektup ayrıca, modern AI sistemlerinin artık genel görevlerde doğrudan insanlarla rekabet ettiği konusunda uyarıyor ve bu da insanlığın hala dikkate alması, tartışması ve karar vermesi gereken birkaç varoluşsal ve etik soruyu gündeme getiriyor.
Altı çizili bazı sorular, AIS tarafından üretilen bilgilerin akışını, kontrolsüz iş otomasyonu, insanları geride bırakan ve onları geçersiz kılmakla tehdit eden sistemlerin geliştirilmesini ve medeniyetin kontrolünü kapsar.
Ortak imza uzmanları, yalnızca sıkı gözetim içeren daha gelişmiş AI sistemlerini eğitmemiz gerektiğine ve konuşlandırmalarından kaynaklanan risklerin yönetilebilir olduğuna dair bir noktaya geldiğimiz bir noktaya geldiğimize inanıyor.
"Bu nedenle, tüm AI laboratuvarlarını en az 6 ay boyunca AI sistemlerinin eğitimini GPT-4'ten daha güçlü bir şekilde duraklatmaya çağırıyoruz", açık mektubu tavsiyede bulunuyor.
Diyerek şöyle devam etti: "Bu duraklama kamuya açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yürürlüğe giremezse, hükümetler adım atmalı ve bir moratoryum oluşturmalıdır."
Bu duraklama sırasında, AI geliştirme ekipleri bir araya gelme ve daha sonra harici, bağımsız uzmanlar tarafından gerçekleştirilen bağlılık denetimleri için kullanılacak güvenlik protokolleri oluşturma şansına sahip olacaklar.
Ayrıca, politika yapıcılar, otantik ve imal edilmiş içerik arasında etkili bir şekilde farklılaşan, AI tarafından üretilen malzemelerin neden olduğu zarardan sorumlu sorumluluk atamasını ve AI risklerine ilişkin kamuya açık araştırmalar gibi bir filigran sistemi gibi koruyucu önlemler uygulamalıdır.
Mektup, AI gelişimini tamamen durdurmayı savunmuyor; Bunun yerine, hızla genişleyen pazarın payını almak için yarışan AI tasarımcıları arasındaki hakim rekabetle ilişkili tehlikelerin altını çiziyor.
"İnsanlık AI ile gelişen bir geleceğin tadını çıkarabilir. Güçlü AI sistemleri yaratmayı başardıktan sonra, şimdi ödülleri topladığımız, bu sistemleri herkesin açık bir şekilde yararlanması için mühendislik yaptığımız bir" AI yazının "tadını çıkarabiliriz ve topluma bir şans verebiliriz. Uyum, "metni bitirir.
Microsoft, GPT-4 destekli güvenlik kopyasını olay yanıtına getiriyor
NYC Okullarında Etki Endişeleri Öğrenme konusunda yasaklanmış Chatgpt
Openai'nin yeni chatgpt botu: Yapabileceği 10 tehlikeli şey
Openai'nin yeni Chatgpt Bot: Onunla yapabileceğiniz en havalı 10 şey
WordPress sitenize bu eklentiden 20 $ ile chatgpt ekleyin
Kaynak: Bleeping Computer