An AI trained on taxi rides holds a real map of Manhattan — its wrong turns come from mistaking where it isهوش مصنوعی‌ای که با سفرهای تاکسی آموزش دیده، نقشه‌ای واقعی از منهتن در خود دارد — پیچ‌های اشتباهش از این‌جا می‌آید که موقعیت خودش را اشتباه تشخیص می‌دهد
A program trained only on taxi routes stored an accurate street map of Manhattan inside itself. Researchers read its current street corner out of its internal numbers correctly 99% of the time, and editing that stored corner changed its next turn.برنامه‌ای که فقط با مسیرهای تاکسی آموزش دیده بود، نقشه‌ای دقیق از خیابان‌های منهتن را در درون خودش ذخیره کرده بود. پژوهشگران توانستند تقاطع فعلی‌اش را از روی اعداد درونی برنامه، در 99% موارد به‌درستی بخوانند، و وقتی آن تقاطع ذخیره‌شده را دستکاری کردند، پیچ بعدی‌اش هم تغییر کرد.
ترجمهٔ ماشینی است؛ برای دقت به متن اصلی انگلیسی مراجعه کنید.
Why it matters
An earlier study saw this program give impossible directions and concluded it had never learned the city properly. Looking inside it tells a different story: the map was there, but the program used the wrong part of it at the wrong moment. That difference matters for anyone who has to fix an AI tool, because you cannot repair knowledge that is missing when it was never missing. This was a small program in a simple invented task, so much larger AI systems may behave differently.یک مطالعه‌ی پیشین دیده بود که این برنامه گاهی مسیرهای غیرممکن پیشنهاد می‌دهد و نتیجه گرفته بود که برنامه هیچ‌وقت شهر را درست یاد نگرفته است. اما نگاه‌کردن به درون برنامه داستان دیگری را نشان می‌دهد: نقشه وجود داشت، اما برنامه در لحظه‌ی اشتباه از بخش اشتباهِ آن استفاده می‌کرد. این تفاوت برای هرکسی که باید یک ابزار هوش مصنوعی را تعمیر کند اهمیت دارد، چون نمی‌توان دانشی را ترمیم کرد که اصلاً گم نشده بوده. این یک برنامه‌ی کوچک در یک تکلیف ساده‌ی ساختگی بود، پس ممکن است سیستم‌های هوش مصنوعی بسیار بزرگ‌تر رفتار متفاوتی داشته باشند.
Who's behind it: Pierre Beckmann, Matthieu Queloz and Andre Freitas, Not stated.
Summary by the Lemma AI · how we grade