AI systems can solve a task while getting the physics inside wrongسیستم‌های هوش مصنوعی می‌توانند یک تکلیف را حل کنند، در حالی که فیزیک درونش را اشتباه می‌فهمند
Three AI systems learned to swing a pole upright, yet their own predictions of what happens next drifted off within 0.6 seconds of simulated time. High scores on the task hid these faulty internal predictions.سه سیستم هوش مصنوعی یاد گرفتند میله‌ای را بچرخانند و آن را به حالت عمودی بالا نگه دارند، اما پیش‌بینی‌های خودشان از اتفاق بعدی، ظرف 0.6 ثانیه از زمان شبیه‌سازی‌شده دچار انحراف می‌شد. امتیازهای بالا در این تکلیف، این پیش‌بینی‌های درونی ناقص را پوشانده بود.
ترجمهٔ ماشینی است؛ برای دقت به متن اصلی انگلیسی مراجعه کنید.
Why it matters
Many AI companies say their systems build an internal model of how the world works, and they point to good scores as proof. This study shows that scoring well on a task is not proof at all. The systems were especially bad at working out how fast things were moving when they only saw pictures. The tests were small computer simulations, not robots or real video, so bigger systems might behave differently, but the warning about trusting scores is a fair one.بسیاری از شرکت‌های هوش مصنوعی می‌گویند سیستم‌هایشان یک مدل درونی از نحوه کار جهان می‌سازند و امتیازهای خوب را به‌عنوان مدرک این ادعا ارائه می‌کنند. این پژوهش نشان می‌دهد که کسب امتیاز خوب در یک تکلیف، اصلاً مدرکی برای این ادعا نیست. این سیستم‌ها به‌ویژه در تشخیص سرعت حرکت اشیا، وقتی فقط تصویر می‌دیدند، عملکرد ضعیفی داشتند. آزمایش‌ها شبیه‌سازی‌های کامپیوتری کوچکی بودند، نه ربات‌های واقعی یا ویدئوی واقعی، پس ممکن است سیستم‌های بزرگ‌تر رفتار متفاوتی داشته باشند، اما هشدار درباره اعتماد کردن به امتیازها، هشداری بجا و منصفانه است.
Who's behind it: Rodrigo Gonzalez Laiz and Steffen Schneider.
Summary by the Lemma AI · how we grade