One true sentence can push an AI helper into a confident wrong answerیک جملهی کاملاً درست میتواند دستیار هوش مصنوعی را به پاسخی غلط اما با اطمینان بالا سوق دهد
Adding a single truthful sentence to the evidence made AI assistants reverse answers they had got right. Given up to ten tries, it flipped 55% of answers in commercial models and 80% in open ones.افزودن تنها یک جملهی راست به شواهد باعث شد دستیارهای هوش مصنوعی پاسخهایی را که قبلاً درست داده بودند، معکوس کنند. وقتی تا ده بار فرصت تلاش داده شد، این ترفند 55% پاسخها در مدلهای تجاری و 80% پاسخها در مدلهای متنباز را تغییر داد.
Why it matters · how solid is it →