An AI can write about itself — but that text does not make another AI act like itیک هوش مصنوعی می‌تواند درباره خودش بنویسد — اما این متن باعث نمی‌شود هوش مصنوعی دیگری مثل آن رفتار کند
When an AI described its own values, another AI reading that text did not copy its choices, and often drifted further away. Across 10 models and 110 either/or questions, the gain was zero or less.وقتی یک هوش مصنوعی ارزش‌های خودش را توصیف کرد، هوش مصنوعی دیگری که آن متن را خواند انتخاب‌های آن را کپی نکرد و اغلب حتی بیشتر از آن فاصله گرفت. در بررسی 10 مدل و 110 پرسش دوگزینه‌ای، میزان بهبود صفر یا کمتر بود.
ترجمهٔ ماشینی است؛ برای دقت به متن اصلی انگلیسی مراجعه کنید.
Why it matters
People increasingly ask AI systems to explain their own values, and then treat that answer as a description of how they behave. This test suggests the two can come apart: the words sounded like a specification, but they did not reproduce the behaviour in another system. One clue that the method works: when the text was an explicit rule written by a human, or a plain list of the first AI's answers, transfer did happen. So the problem seems to sit in the self-descriptions, not in the test. This is one preprint on a narrow set of questions, so it is early evidence rather than a settled fact.افراد به‌طور فزاینده‌ای از سیستم‌های هوش مصنوعی می‌خواهند ارزش‌های خودشان را توضیح دهند، و سپس آن پاسخ را توصیفی از نحوه رفتارشان تلقی می‌کنند. این آزمایش نشان می‌دهد این دو می‌توانند از هم جدا باشند: کلمات شبیه یک مشخصات رفتاری به نظر می‌رسیدند، اما در سیستم دیگر، رفتار را بازتولید نکردند. یک سرنخ بر درست‌کار‌بودن این روش آزمایش این است: وقتی متن یک قاعده صریح بود که یک انسان نوشته بود، یا صرفاً فهرستی ساده از پاسخ‌های هوش مصنوعی اول، انتقال رخ داد. پس به نظر می‌رسد مشکل در خودِ توصیف‌های خودِ مدل‌ها باشد، نه در روش آزمایش. این فقط یک preprint روی مجموعه محدودی از پرسش‌ها است، پس شواهدی اولیه است نه یک واقعیتِ قطعی.
Who's behind it: Bibin Babu, Ivan P. Yamshchikov and Aleksei Shpilman, Unknown.
Summary by the Lemma AI · how we grade