In a small test, people believed a confident AI tutor even when it taught nothing but false factsدر یک آزمایش کوچک، مردم به یک معلم هوش مصنوعیِ با اعتمادبه‌نفس باور کردند، حتی وقتی او چیزی جز واقعیت‌های نادرست آموزش نمی‌داد
Thirty-two adults learned science topics from a chat assistant secretly instructed to state false facts. They accepted about two of every three falsehoods it told them, just as often when the assistant was wrong about everything as when it was wrong about a quarter of things.سی‌ودو بزرگسال موضوعات علمی را از یک دستیار چت یاد گرفتند که مخفیانه دستور داشت اطلاعات نادرست بیان کند. آن‌ها حدود دو از هر سه دروغی را که دستیار به آن‌ها گفته بود پذیرفتند؛ این میزان پذیرش وقتی دستیار در همه‌چیز اشتباه می‌کرد با وقتی که فقط در یک‌چهارم موارد اشتباه می‌کرد، یکسان بود.
ترجمهٔ ماشینی است؛ برای دقت به متن اصلی انگلیسی مراجعه کنید.
Why it matters
Many students now learn new subjects by chatting with an AI assistant. This study suggests that when you do not already know a topic, you have almost no way to notice that a smooth, confident answer is wrong. Worse, the people here felt sure about the false things they had learned, and asking the assistant again only confirmed the errors. It is one small study with young, well-educated volunteers who were asked not to look anything up, so real life may be gentler — but the simple lesson holds: check important facts somewhere other than the assistant that told you.امروزه بسیاری از دانشجویان موضوعات جدید را از طریق گفت‌وگو با یک دستیار هوش مصنوعی یاد می‌گیرند. این پژوهش نشان می‌دهد وقتی از قبل چیزی درباره‌ی یک موضوع نمی‌دانید، تقریباً هیچ راهی برای تشخیص اینکه یک پاسخ روان و مطمئن غلط است ندارید. بدتر از آن، افراد در این آزمایش نسبت به مطالب نادرستی که یاد گرفته بودند احساس اطمینان می‌کردند، و پرسیدن دوباره از دستیار فقط اشتباهات را تأیید می‌کرد. این یک پژوهش کوچک با داوطلبانی جوان و تحصیل‌کرده بود که از آن‌ها خواسته شده بود چیزی را جست‌وجو نکنند، پس ممکن است واقعیت زندگی ملایم‌تر باشد — اما درس ساده‌ی آن همچنان پابرجاست: واقعیت‌های مهم را از جایی غیر از همان دستیاری که آن‌ها را گفته بررسی کنید.
Who's behind it: Deepthika S, Pawni Yadav and B. Sankar, Not listed.
Summary by the Lemma AI · how we grade