Openai, ChatGPT gibi yapay zeka araçları kullanılarak giriş içeriğinin oluşturulup oluşturulmadığını tespit etmeye çalışan bir AI metin sınıflandırıcısı yayınladı.
Yeni bir Openai blog yazısı, "AI metin sınıflandırıcısı, AI tarafından AI tarafından ChatGPT gibi çeşitli kaynaklardan bir metin oluşturulmasının ne kadar olası olduğunu tahmin eden ince ayarlı bir GPT modelidir."
Openai, aracı bugün çok sayıda üniversite ve K-12 okul bölgesi, şirketin popüler ChatGPT AI chatbot'unu, öğrencilerin kitap raporları ve denemeleri yazma ve hatta programlama ödevlerini bitirme gibi tamamlama yeteneği nedeniyle yasakladı.
Businessinsider'a göre, ChatGPT NYC, Seattle, Los Angeles ve Baltimore K-12 devlet okulu bölgelerinde yasaklandı, Fransa ve Hindistan'daki üniversiteler de platformu okul bilgisayarlarından yasaklıyor.
BleepingComputer, Openai'nin yeni AI metin sınıflandırıcısını test etti ve çoğunlukla bunu oldukça sonuçsuz buldu.
Openai'nin AI metin sınıflandırıcısını kendi içeriğimizin çoğuna karşı test ederken, bir insanın makalelerimizi yazdığını doğru bir şekilde belirledi.
Ancak, ChatGPT ve You.com'un AI chatbot tarafından oluşturulan içeriği analiz ederken, metnin AI tarafından üretilip gelmediğini tespit etmek için birçok zorluk yaşadı.
Eğitimciler, öğrencilerin ödevlerini aldatıp aldatmadığını kontrol etmek için yeni AI metin sınıflandırıcılarını kullanacaklarından, Openai, akademik sahtekârlığı belirlemek için "tek kanıt parçası" olarak kullanılmaması gerektiği konusunda uyarıyor.
Openai, "Sınıflandırıcımız tamamen güvenilir değil," diye uyarıyor.
"İngilizce metinlerin bir 'meydan okuma setine ilişkin değerlendirmelerimizde, sınıflandırıcımız AI tarafından yazılmış metnin% 26'sını (gerçek pozitifler)' muhtemelen AI tarafından yazılmış 'olarak doğru bir şekilde tanımlarken, insan tarafından yazılmış metni% 9 olarak yanlış olarak etiketlerken zamanın (yanlış pozitifler). "
"Giriş metninin uzunluğu arttıkça sınıflandırıcımızın güvenilirliği tipik olarak iyileşir"
Sınıflandırıcının başarısı, zaman geçtikçe ve daha fazla veri ile eğitildikçe gelişecektir. Şimdilik, AI tarafından üretilen içeriği tespit etmek için güvenilir bir araç değil.
Openai'nin yeni chatgpt botu: Yapabileceği 10 tehlikeli şey
Openai'nin yeni Chatgpt Bot: Onunla yapabileceğiniz en havalı 10 şey
NYC Okullarında Etki Endişeleri Öğrenme konusunda yasaklanmış Chatgpt
Bu meyve suyu ile SEO optimize edilmiş blog yayınları oluşturun.
Trojan Bulmaca Saldırısı AI Asistanları Kötü Amaçlı Kod Önerme İçin Trenler
Kaynak: Bleeping Computer