AI image tools rewrite your words before drawing — and add stereotypesابزارهای تصویرسازی هوش مصنوعی پیش از کشیدن تصویر، متن شما را بازنویسی میکنند — و کلیشه اضافه میکنند
Popular AI picture generators secretly edit your request before making an image. Across 8,960 test requests in 15 languages, that hidden edit inserted clichés: snow for Finland, pyramids for Egypt, sombreros for Mexico.ابزارهای محبوب تولید تصویر با هوش مصنوعی، پیش از ساخت تصویر، درخواست شما را مخفیانه ویرایش میکنند. در بررسی 8,960 درخواست آزمایشی به 15 زبان، این ویرایش پنهان کلیشههایی را وارد میکرد: برف برای Finland، اهرام برای Egypt، سومبررو برای Mexico.
ترجمهٔ ماشینی است؛ برای دقت به متن اصلی انگلیسی مراجعه کنید.
Why it matters
Millions of people use these tools for school, work and social media. If a tool adds a sombrero to every Mexican scene, it teaches a narrow picture of a whole country. The study also shows why fixing only the drawing step may not be enough, because the stereotype is already written into the text beforehand. The team tested 31 country-and-language combinations, so other places may behave differently.میلیونها نفر از این ابزارها برای مدرسه، کار و شبکههای اجتماعی استفاده میکنند. اگر ابزاری به هر صحنهی مربوط به Mexico یک سومبررو اضافه کند، تصویری محدود از کل آن کشور آموزش میدهد. این پژوهش همچنین نشان میدهد چرا اصلاحکردن فقط مرحلهی کشیدن تصویر ممکن است کافی نباشد، چون کلیشه از پیش در متن نوشته شده است. تیم پژوهشی 31 ترکیب کشور و زبان را آزمایش کرده، پس ممکن است جاهای دیگر رفتار متفاوتی داشته باشند.
Who's behind it: Aleksandra Urman and colleagues, A research team based in Switzerland. Funded by the Swiss National Science Foundation, with support from the Kone Foundation.
Summary by the Lemma AI · how we grade