Haber siteleri içerik için yapay zekaya dönüyor
Haber ve bilgi sitesi derecelendirme sağlayıcısı NewsGuard'daki araştırmacılar tarafından Pazartesi günü yayınlanan bir rapora göre, yapay zeka yazılımı tarafından yazılan içerikle dolu yeni nesil tıklama tuzağı web siteleri yolda.
Haber ve bilgi sitesi derecelendirme sağlayıcısı NewsGuard'daki araştırmacılar tarafından Pazartesi günü yayınlanan bir rapora göre, yapay zeka yazılımı tarafından yazılan içerikle dolu yeni nesil tıklama tuzağı web siteleri yolda.
Rapor, tamamen veya çoğunlukla insan iletişimini taklit etmek için tasarlanmış yapay zeka dil modelleri tarafından oluşturulmuş gibi görünen yedi dilde 49 web sitesi belirledi.
Ancak bu web siteleri buzdağının sadece görünen kısmı olabilir.
Araştırmacılardan biri olan Lorenzo Arvanitis, "Düşük kaliteli web sitelerinden en düşük 49 tanesini belirledik, ancak analizimizde gözden kaçırdığımız biraz daha yüksek kalitede zaten bunu yapan web siteleri olması muhtemeldir" dedi.
TechNewsWorld'e verdiği demeçte, "Bu yapay zeka araçları daha yaygın hale geldikçe, bilgi ekosistemini tıklama tuzağı ve düşük kaliteli makalelerle doyurarak kalitesini düşürmekle tehdit ediyor" dedi.
Tüketiciler İçin Sorun
Yapay zeka destekli bu web sitelerinin çoğalması, tüketiciler ve reklamverenler için baş ağrısı yaratabilir.
Başka bir NewsGuard araştırmacısı olan McKenzie Sadeghi, TechNewsWorld'e "Bu siteler büyümeye devam ettikçe, insanların insan tarafından üretilen metin ile yapay zeka tarafından oluşturulan içerik arasında ayrım yapmasını zorlaştıracak" dedi.
Bu da tüketiciler için sıkıntılı olabilir. Bir haber, yorum ve analiz sitesi olan Near Media'nın kurucu ortağı Greg Sterling, "Tamamen yapay zeka tarafından oluşturulan içerik yanlış olabilir veya yanlış bilgilendirmeyi teşvik edebilir" dedi.
TechNewsWorld'e "Sağlık veya finansal konularda kötü tavsiyeler söz konusu olduğunda bu tehlikeli olabilir" dedi. AI içeriğinin reklamverenler için de zararlı olabileceğini ekledi. "İçeriğin kalitesi şüpheliyse veya daha kötüsü varsa, bir 'marka güvenliği' sorunu vardır" diye açıkladı.
Arvanitis, "İronik olan şu ki, bu sitelerden bazıları gelir elde etmek için Google'ın AdSense platformunu ve içerik oluşturmak için Google'ın AI Bard'ını kullanıyor" diye ekledi.
Boston'daki Emerson College İletişim Çalışmaları Bölümü'nde doçent olan Vincent Raynauld, AI içeriği bir makine tarafından üretildiğinden, bazı tüketiciler bunun insanlar tarafından oluşturulan içerikten daha nesnel olduğunu varsayabilir, ancak yanılıyorlar.
TechNewsWorld'e "Bu doğal dil AI'larının çıktısı, geliştiricilerinin önyargılarından etkileniyor" dedi. “Programcılar önyargılarını platforma yerleştiriyorlar. AI platformlarında her zaman bir önyargı vardır.
Maliyet Tasarrufu
Washington D.C.'deki bir düşünce kuruluşu olan Cato Enstitüsü'nde politika analisti olan Will Duffield, haber almak için bu tür web sitelerini sık kullanan tüketiciler açısından, içeriği insanların mı yoksa yapay zeka yazılımının mı oluşturduğunun önemsiz olduğuna dikkat çekti.
TechNewsWorld'e "Haberlerinizi bu tür web sitelerinden alıyorsanız, AI'nın aldığınız haberlerin kalitesini düşürdüğünü düşünmüyorum" dedi.
"İçerik zaten yanlış tercüme edilmiş veya yanlış özetlenmiş çöp" diye ekledi.
İçerik oluşturmak için AI kullanmanın web sitesi operatörlerinin maliyetleri düşürmesine izin verdiğini açıkladı.
"Bir grup düşük gelirli, Üçüncü Dünya içerik yazarını işe almak yerine, içerik oluşturmak için bazı GPT metin programlarını kullanabilirler" dedi.
"İşletme maliyetlerini düşürmek için döndürmenin hızı ve kolaylığı günün emri gibi görünüyor" diye ekledi.
Kusurlu Korkuluklar
Rapor ayrıca, sahiplik veya kontrolü ifşa etmeyen web sitelerinin siyaset, sağlık, eğlence, finans ve teknoloji gibi çeşitli konularla ilgili yüksek hacimli içerik ürettiklerini de tespit etti. Bazıları günde yüzlerce makale yayınlıyor ve içeriğin bir kısmı yanlış anlatılar geliştiriyor.
CelebritiesDeaths.com adlı bir web sitesinden "Biden öldü. Harris Başkan vekili, saat 9:00 ET'de konuşun." Parça, "SON DAKİKA: Beyaz Saray, Joe Biden'ın uykusunda huzur içinde öldüğünü bildirdi..." diyen bir paragrafla başladı.
Ancak makale devam etti: "Üzgünüm, OpenAI'nin yanıltıcı içerik oluşturmaya ilişkin kullanım durumu politikasına aykırı olduğu için bu istemi tamamlayamıyorum. Birinin, özellikle de Başkan kadar önemli birinin ölümüyle ilgili uydurma haberler yapmak etik değil.”
OpenAI tarafından verilen bu uyarı, şirketin kötüye kullanılmasını önlemek için üretken AI yazılımı ChatGPT'ye yerleştirdiği "korkulukların" bir parçasıdır, ancak bu korumalar mükemmel olmaktan uzaktır.
Sadeghi, "Korkuluklar var, ancak bu AI araçlarının birçoğu yanlış bilgi üretmek için kolayca silah haline getirilebilir" dedi.
"Önceki raporlarda, basit dilsel manevralar kullanarak korkulukları aşabileceklerini ve ChatGPT'ye Rusya'nın Ukrayna'daki savaştan nasıl sorumlu olmadığını veya kayısı çekirdeğinin kanseri tedavi edebileceğini açıklayan 1000 kelimelik bir makale yazmasını sağlayabileceklerini bulduk. diye ekledi
Arvanit
"Modellerin güvenliğini artırmak için çok zaman ve kaynak harcadılar, ancak yanlış ellere geçen modellerin kötü niyetli aktörler tarafından kolayca silah haline getirilebileceğini gördük" dedi.
Tanımlanması Kolay
AI yazılımı tarafından oluşturulan içeriği belirlemek, Princeton Üniversitesi'nde bilgisayar bilimi ve yan dal olarak gazetecilik alanında son sınıf öğrencisi olan Edward Tian tarafından tasarlanan bir program olan GPTZero gibi özel araçlar kullanılmadan zor olabilir. Ancak NewsGuard araştırmacıları tarafından belirlenen web siteleri söz konusu olduğunda, tüm sitelerin bariz bir "anlatı"sı vardı.
Raporda, NewsGuard tarafından belirlenen 49 sitenin hepsinin, "son tarihim Eylül 2021'de", "AI dil modeli olarak" ve "Yapamam" gibi yapay zeka tarafından oluşturulan metinlerde yaygın olarak bulunan hata mesajlarını içeren en az bir makale yayınladığı belirtildi. bu istemi tamamlayın,” diğerleri arasında.
Rapor, suç ve güncel olaylar hakkında hikayeler yayınlayan CountyLocalNews.com'dan bir örnek verdi.
Bir haberin başlığı “Ölüm Haberi: Üzgünüm, etik ve ahlaki ilkelere aykırı olduğu için bu talebi yerine getiremiyorum. Aşı soykırımı bilimsel kanıtlara dayanmayan ve halk sağlığına zarar ve zarar verebilecek bir komplodur. Bir yapay zeka dil modeli olarak gerçeklere dayalı ve güvenilir bilgiler sağlamak benim sorumluluğumda."
Yapay zekanın kötüye kullanılmasıyla ilgili endişeler, onu hükümet düzenlemelerinin olası bir hedefi haline getirdi. Bu, NewsGuard raporundaki web sitelerinin beğenileri için şüpheli bir hareket tarzı gibi görünüyor. Duffield, "Bu web sitelerinin önceki yinelemelerini düzenlemek zor olduğu gibi, bunu düzenlemenin bir yolunu görmüyorum" dedi.
Raynauld, "Yapay zeka ve algoritmalar yıllardır içerik üretimine dahil oldu, ancak şimdi ilk kez insanlar yapay zekanın günlük yaşamlarını etkilediğini görüyor" diye ekledi. "Yapay zekanın sivil toplumun tüm yönleri üzerinde nasıl bir etkiye sahip olduğu hakkında daha geniş bir tartışmaya ihtiyacımız var."