AI writing tools often attach real reference numbers to the wrong medical papersابزارهای نگارش با هوش مصنوعی اغلب ارجاع‌های واقعی را به مقالات پزشکی اشتباه نسبت می‌دهند

Why it matters

AI chatbots are already used to help draft medical articles. A wrong citation is very hard to spot, because the reference number is real and opens a real paper — only it is the wrong paper. If nobody checks, false claims can slip into writing that doctors and students later trust. The researchers also tested an automatic checker that caught almost every bad citation, which is encouraging, but it was tried on one medical field only, and these AI systems change every few months.چت‌بات‌های هوش مصنوعی همین حالا هم برای کمک به نگارش مقالات پزشکی به کار می‌روند. تشخیص یک ارجاع اشتباه بسیار دشوار است، چون شماره ارجاع واقعی است و به یک مقاله واقعی هم باز می‌شود؛ فقط مقاله‌ی درستی نیست. اگر کسی این ارجاع‌ها را بررسی نکند، ادعاهای نادرست می‌توانند وارد متونی شوند که بعداً پزشکان و دانشجویان به آن‌ها اعتماد می‌کنند. پژوهشگران همچنین یک بررسی‌کننده‌ی خودکار را آزمایش کردند که تقریباً همه‌ی ارجاع‌های اشتباه را شناسایی کرد؛ این نتیجه امیدوارکننده است، اما این آزمایش فقط در یک حوزه‌ی پزشکی انجام شده و این سیستم‌های هوش مصنوعی هر چند ماه یک‌بار تغییر می‌کنند.