台大的研究團隊最近發現，生成式人工智慧（AI）對話機器人的訊息中，高達77%的錯誤詞彙會深深地刻在使用者的記憶中。即便加上警語，也難以完全避免這些錯誤資訊的影響。這項發現提醒著我們，人類在應對AI輸出內容時，應該保持適度的懷疑心態，以確保資訊的正確性。
台灣科技媒體中心指出，生成式AI的普及使得在人機互動中產生錯誤資訊變得不可避免。當AI系統以錯誤資訊回答使用者時，這是否會悄悄地影響使用者，成為一個值得關注的問題。在這樣的情境下，我們需要重視並思考AI對人機互動的潛在影響，以確保使用者得到正確的資訊。
台灣大學心理學團隊發表最新研究，他們指出對話機器人的訊息中，高達77%的錯誤詞彙會成為參與者的記憶，即使加上一次性的警語，仍難以減少這些錯誤資訊的影響。頻繁、針對特定項目的預先警告雖然能夠提高人們的警覺，卻無法真正防止錯誤資訊成為長久的記憶。
專家建議，為了降低這些錯誤資訊對使用者的影響，聊天機器人可以透過人工檢核來剔除學習資料中的錯誤，或者在回答之前進行事實查核。同時，人類在面對聊天機器人的輸出內容時，應該保持適度的懷疑，不盲目接受所有資訊，以確保準確性和可信度。
看更多：英國劍橋詞典宣布2023年度代表字：產生幻覺（Hallucinate），還與AI有關？
（完）
[自問自答x互問互答]
看完文章->自問自答->留言紀錄問題與答案->別人看到你的問題可能會覺得這是個好問題->別人看到你的答案可能會覺得還有別的答案->你看到別人的問題與答案時也是類似的反應->互問互答->日復一日->愈學愈多->大家不知不覺就變強了
範例問題：
- 你有使用過智能助手或對話機器人嗎？如果有，你覺得這些機器人的回答準確嗎？有沒有遇到過讓你感到疑惑或不確定的情況？
- 從文章中我們得知，對話機器人的錯誤資訊可能會影響使用者的記憶。你覺得這樣的情況會對我們的學習和思考產生什麼樣的影響呢？有沒有想過應該如何應對這樣的挑戰？
- 專家建議使用者在面對對話機器人的回答時，應該保持適度的懷疑心態。你們認為這對我們在使用科技產品時是一個重要的建議嗎？為什麼呢？你們有什麼方法可以建議，讓我們更好地應對這樣的情況呢？
- …
你也問問看……
小傳媒編輯團隊希望幫助小學生提升寫作力。
若你有作文、新詩、讀書心得、電影觀後感、遊記、小日記…… 等希望得到修改與建議，
或有相關作品希望公開發表，歡迎寄到編輯信箱：editor@kidsmedia.com.tw
