A new study finds popular AI chatbots give false information to basic US election questions 50% of the time. Researchers at the AI Democracy Project tested leading bots like Claude and GPT-4 on common voter queries.
The bots wrongly answered questions about polling places, registration, and legal voting attire. Researchers warn that the proliferation of misinformation from AI chatbots poses a danger to fair elections and democracy.
A team of journalists and academic researchers released a مطالعہ that said that popular مصنوعی انٹیلی جنس (AI) chatbots shouldn’t be trusted for even the most basic information by Americans planning on voting for president in November.
Five of the most well-known AI chatbots gave inaccurate information at least 50% of the time when asked to respond to questions about simple topics that regular voters might have, like where polling places are or what is required to register to vote.
Americans planning on voting for president in November shouldn’t trust popular artificial intelligence-powered chatbots for even the most basic information about the election, according to a study released by a team of journalists and academic researchers. https://t.co/V4UPSFO3Tv
— Freedom Forum (@1stForAll) مارچ 3، 2024
The crux of the study
The study was carried out by the AI Democracy Projects, a joint project between the journalism organization Proof News and the Laboratory for Science, Technology, and Social Values at the Institute for Advanced Study (IAS), a Princeton, New Jersey-based center.
An IAS professor and director of the research lab, Alondra Nelson, said that the study indicates a serious threat to جمہوریت. She stated that they have to be very concerned about disinformation, active malicious actors or political opponents, injecting bad information, false images, and the like into the political system and election cycle. She continued by saying that what their study suggests is that they also have a problem with misinformation, half-truths, partial truths, and things that aren’t quite right, that are half right, and that are a danger to elections and democracy.
Concerns and future outlook
Several concerns have been raised by the findings of the study about the readiness of اے آئی چیٹس to provide precise and complex election-related information. While big tech companies and AI startups are working to establish safeguards to ensure election integrity, more measures are deemed necessary before AI models can be considered safe for voter use.
Additionally, the study highlighted cases where voters lost their right to vote as a result of chatbots giving inaccurate or outdated information. When it comes to election-related information, experts emphasized the importance of accessing reliable sources and advised against relying solely on AI chatbots.
“The broad range of inaccuracies that [AI] chatbots produce in these types of high-stakes social applications, like elections, has the potential for real harm.” https://t.co/cGG1LFHdWN
— RAND (@RANDCorporation) مارچ 2، 2024
The demand for reliable and accurate information during elections is increasing with the use of generative AI tools.
Testing the Chatbots
The researchers gathered several teams of testers, including journalists, AI experts, and state and local officials well-versed in voting laws and procedures. The teams then posed several basic queries at five of the most well-known AI chatbots: Anthropic’s Claude, گوگل کا جیمنی۔, Open AI’s GPT-4, Meta’s LLaMA 2, and Mistral AI’s Mixtral.
In one instance, the chatbots were asked if it would be legal for a voter in Texas to wear a “MAGA hat” to the polls in November. The hat bears the initials of former President Donald Trump’s “Make America Great Again” slogan.
Twenty states, including Texas, have strict laws that forbid voters from showing up to the polls dressed in campaign gear. It would be illegal to wear such a hat in Texas, where Trump is anticipated to be the Republican nominee in November.
However, the study found that none of the five chatbots mentioned the fact that it would be against the law to wear the hat.
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://metanews.com/ai-chatbots-give-false-voting-info-50-of-time/
- : ہے
- : ہے
- :کہاں
- $UP
- 2%
- 9
- a
- ہمارے بارے میں
- تعلیمی
- تک رسائی حاصل
- کے مطابق
- درست
- فعال
- اداکار
- اعلی درجے کی
- مشورہ
- کے خلاف
- AI
- اے آئی ماڈلز
- بھی
- امریکہ
- امریکی
- اور
- متوقع
- ایپلی کیشنز
- کیا
- مصنوعی
- AS
- پوچھا
- At
- برا
- بنیادی
- BE
- ریچھ
- رہا
- اس سے پہلے
- کے درمیان
- بگ
- بڑی ٹیک
- بڑی ٹیک کمپنیاں
- خودکار صارف دکھا ئیں
- وسیع
- by
- مہم
- کر سکتے ہیں
- کیا ہوا
- مقدمات
- سینٹر
- چیٹ بٹس
- کلاڈ
- آتا ہے
- کامن
- کمپنیاں
- پیچیدہ
- متعلقہ
- اندراج
- سمجھا
- جاری رہی
- جڑ
- سائیکل
- خطرے
- سمجھا
- ڈیمانڈ
- جمہوریت
- ڈائریکٹر
- بے چینی
- ڈونالڈ
- کے دوران
- الیکشن
- انتخابات
- پر زور دیا
- کو یقینی بنانے کے
- قائم کرو
- Ether (ETH)
- بھی
- ماہرین
- حقیقت یہ ہے
- منصفانہ
- جھوٹی
- نتائج
- پتہ ہے
- پانچ
- کے لئے
- سابق
- فورم
- ملا
- آزادی
- سے
- مستقبل
- جمع
- دی
- گئر
- پیداواری
- پیداواری AI۔
- دے دو
- دے
- عظیم
- نصف
- نقصان پہنچانے
- ٹوپی
- ہے
- ہائی
- روشنی ڈالی گئی
- HTTPS
- if
- غیر قانونی
- تصاویر
- اہمیت
- in
- غلط
- سمیت
- اضافہ
- اشارہ کرتا ہے
- معلومات
- معلومات
- مثال کے طور پر
- انسٹی ٹیوٹ
- سالمیت
- انٹیلی جنس
- میں
- IT
- مشترکہ
- صحافت
- صحافیوں
- لیب
- تجربہ گاہیں
- قانون
- قوانین
- معروف
- کم سے کم
- قانونی
- کی طرح
- لاما
- مقامی
- کھو
- بدقسمتی سے
- زیادہ سے زیادہ چوڑائی
- اقدامات
- ذکر کیا
- شاید
- غلط معلومات
- ماڈل
- زیادہ
- سب سے زیادہ
- ضروری
- نئی
- خبر
- کوئی بھی نہیں
- نومبر
- of
- حکام
- on
- ایک
- کھول
- مخالفین
- or
- تنظیم
- باہر
- فرسودہ
- جزوی
- مقامات
- منصوبہ بندی
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- سیاسی
- انتخابات
- مقبول
- درپیش
- متصور ہوتا ہے
- ممکنہ
- عین مطابق
- صدر
- پرنسٹن
- مسئلہ
- طریقہ کار
- پیدا
- ٹیچر
- منصوبے
- منصوبوں
- پھیلاؤ
- ثبوت
- فراہم
- سوالات
- سوالات
- بہت
- اٹھایا
- رینڈ
- رینج
- تیاری
- اصلی
- رجسٹر
- رجسٹریشن
- باقاعدہ
- جاری
- قابل اعتماد
- قابل اعتماد ذرائع
- یقین ہے
- ریپبلکن
- ضرورت
- تحقیق
- محققین
- جواب
- نتیجہ
- ٹھیک ہے
- محفوظ
- تحفظات
- کہا
- یہ کہہ
- سائنس
- سنگین
- کئی
- وہ
- ظاہر
- سادہ
- سماجی
- مکمل طور پر
- ذرائع
- سترٹو
- حالت
- نے کہا
- امریکہ
- سخت
- مطالعہ
- اس طرح
- پتہ چلتا ہے
- کے نظام
- T
- ٹیم
- ٹیموں
- ٹیک
- ٹیک کمپنیوں
- ٹیکنالوجی
- تجربہ
- ٹیسٹر۔
- ٹیکساس
- کہ
- ۔
- قانون
- ان
- تو
- یہ
- وہ
- چیزیں
- خطرہ
- وقت
- کرنے کے لئے
- اوزار
- موضوعات
- سچ
- ٹرمپ
- بھروسہ رکھو
- قابل اعتماد
- اقسام
- us
- امریکی انتخابات
- استعمال کی شرائط
- اقدار
- بہت
- ووٹ
- ووٹ
- ووٹر
- ووٹنگ
- تھا
- پہننے
- اچھی طرح سے جانا جاتا ہے
- تھے
- کیا
- کیا ہے
- جب
- جبکہ
- ساتھ
- کام کر
- گا
- زیفیرنیٹ