Dolandırıcı Botlar Twitter'da Binden Fazla Sosyal Medyayı Taştı

ChatGPT, kötü aktörlerin artık eski adıyla Twitter olan X gibi sosyal medya platformlarında şüphelenmeyen kullanıcıları dolandırmak için kullandığı yapay zeka araçlarının ve botların geliştirilmesini teşvik etti.

Louisiana Üniversitesi'nden bilim adamlarının yaptığı araştırma, sahte kripto para birimlerini ve NFT'leri tanıtmak için X'te 1,000 spam botunun kullanıldığını ortaya çıkardı.

İkna edici metin

Bir göre göre Business Insider tarafından, hesaplamalı sosyal bilim araştırmacısı Kai-Cheng Yang ve bilgisayar bilimi profesörü Filippo Menczer, OpenAI'nin ChatGPT'si kullanılarak geliştirilen ve kulağa gerçek ve insana benzeyen metinler yazabilen botnet'leri keşfetti.

İkili tarafından keşfedilen belirli bir ağda, insanları sahte kripto ve NFT'lere yatırım yapma konusunda kandırmak için X platformunda kullanılan 1,000'den fazla aktif bot bulunuyordu.

Makale, botların birbirlerine mesaj gönderip yanıt vererek ikna edici görünen bir profil oluşturduğunu ve bazen insanların profillerinden çalınan selfie'leri yayınladığını ortaya koyuyor. ChatGPT'ler Üretken yapay zeka yetenekleri, diğer nedenlerin yanı sıra berbat dilbilgisi nedeniyle onları tespit etmenin kolay olduğu önceki yıllara kıyasla, dolandırıcılık botlarının ikna edici yanlış bilgi oluşturma biçimini geliştirdi.

Menczer'e göre sosyal medya ve yapay zeka araçlarındaki artış, kötü niyetli aktörlerin yanıltıcı içeriklerinden para kazanmak için platformlardan yararlanmalarını da kolaylaştırdı.

Yeni yapay zeka araçlarının "yanlış ancak güvenilir içerik üretme maliyetini daha da düşürdüğünü ve sosyal medya platformlarının zaten zayıf olan denetleme savunmasını yendiğini" söyledi.

Sosyal medyanın gelişimi ve yenilikleri ChatGPT Dolandırıcıların yalnızca süreçlerini otomatikleştirmelerine değil, aynı zamanda insan benzeri özelliklerini de geliştirmelerine yardımcı oldu.

Ayrıca okuyun: Tornado Kurucuları, Kuzey Koreli Hackerların 1 Milyar Doları Aklamalarına Yardım Etmekten Tutuklandı

Çok fazla sahte bilgi

Üretken yapay zeka araçlarının yaygınlaşmasıyla birlikte, yanlış bilgilerin ve derin sahtekarlıkların artmasıyla ilgili endişeler de ortaya çıktı; bu da düzenleyicileri yeniliği teşvik ederken teknolojiyi evcilleştirmeye çalışırken tetikte tuttu.

Louisiana Üniversitesi araştırmacıları ayrıca internetteki artan yanlış bilginin gelişmiş yapay zeka araçları tarafından körüklendiği yönündeki endişelerini de dile getirdi.

Üretken yapay zeka patlamasından önce, sosyal medya botları Örneğin COVID-19 hakkında yanlış bilgi yayan bilgiler mevcut. Ancak değişen "robotik davranışları ve inandırıcı olmayan sahte kişilikleri" nedeniyle bunların tespit edilmesi kolaydı.

Yang, Insider'a şunları söyledi: "Yapay zeka araçlarının gelişmesi, çevrimiçi bilgi fikrini kalıcı olarak çarpıtacak."

Sosyal medya uygulamaları çoğunlukla botnet'lerin ve sahte bilgilerin yayılmasının hedefi olsa da, tamamen OpenAI'nin GPT teknolojisi üzerine kurulu ve sahte haber yaymak için kullanılan web siteleri de var.

Göre Haber BekçisiHaber ve bilgi sitelerinin güvenilirliğini değerlendiren şirket, Nisan ayından bu yana yapay zeka tarafından oluşturulan ve yanlış bilgi yaymak için kullanılan 437 web sitesi buldu. Bu web siteleri, İngilizce, Arapça, Çince, Çekçe, Felemenkçe, Fransızca, Endonezce, İtalyanca, Korece, Portekizce, İspanyolca, Tagalogca, Tayca ve Türkçe gibi birçok dili kapsayan çok az insan gözetimi ile veya hiç insan gözetimi olmadan çalışır.

Yolda daha fazlası var

AB'nin emniyet teşkilatı Europol'e göre, İnternet içeriğinin %90'ı tahminlerine göre 2026 yılına kadar yapay zeka tarafından üretilecek.

Georgia Teknoloji Enstitüsü bilgisayar bilimi profesörü Wei Xu da Insider'a yaptığı açıklamada, daha vicdansız kişilerin yanlış bilgi yaymak için bundan yararlanması nedeniyle yapay zeka tarafından oluşturulan içeriği tespit etmenin daha zor olacağını söyledi.

“Plastik şişelenmiş suya benzer. Bunun çevre için bir felaket olduğunu biliyoruz, ancak büyük bir ceza olmadan ucuz olduğu sürece yaygın olarak var olmaya devam edecek" dedi Xu.

Profesörün yorumları, sahte içeriğin çoğalmasını caydıracak düzenlemelere duyulan ihtiyacın altını çizdi.  EU kullanıcıların bilinçli kararlar almasına olanak sağlamak için çevrimiçi platformlardan yapay zeka tarafından oluşturulan içeriğe filigran eklemelerini istedi.

ABD'de Google, Microsoft, Anthropic ve OpenAI gibi şirketlerden içeriği etiketle insan yapımı ve yapay zeka yapımı içerik arasındaki farkı anlatmak.

Spam içeriği tespit etme

İnternette bu yanlış bilgi botlarına yönelik artan bir risk olsa da, bu sahte bilgi araçlarından bazılarının ne zaman kullanıldığını tespit etmenin bir yolu var.

Yang ve Menczer'e göre ChatGPT, iç kısıtlamaları ve politikaları nedeniyle sıklıkla belirli bilgileri sağlayamadığına işaret eden yanıtlar veriyor.

Yaygın bir yanıt, "Üzgünüm ama bu isteği yerine getiremem." Araştırmacılara göre bu yanıtlar genellikle sahte sayfalardaki gönderilere ulaşıyor ve bu spam ağlarını bu şekilde tespit ediyorlar.

Ancak üretken yapay zeka araçları insan gibi tepki verme konusunda daha iyi hale geldikçe, gelecekte sahte botnet'leri bu şekilde tespit etmek biraz zor olabilir.

Teknoloji şirketleri ve hükümetler yapay zekayı kontrol altına alacak düzenlemeler ve yollar oluşturmaya çalışırken Yang, kötü oyuncuların her zaman korkulukları görmezden gelmesinden korkuyor.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• ChartPrime. Ticaret Oyununuzu ChartPrime ile yükseltin. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://metanews.com/scammy-bots-flood-social-media-over-a-thousand-on-twitter/