美國紐約州州長侯可(Kathy Hochul)簽署新法案,禁止未滿18歲的兒童與青少年使用「陪伴型」人工智慧聊天機器人,這項做法是目前針對消費者使用AI模型中,範圍較廣的限制措施之一。新法關注的重點,是陪伴型AI聊天機器人可能長時間與使用者互動,兒少使用時需要更多安全保護。
AI聊天機器人是能用文字、語音或圖片和人互動的電腦程式。它可以回答問題、協助整理資料、練習語言,或陪使用者聊天。所謂「陪伴型」聊天機器人,通常更強調像朋友一樣持續對話、記住使用者喜好,或提供情緒上的陪伴感。雖然它能模擬自然對話,但它不是人,也不具備真正的感受、責任或判斷能力。
紐約州立法限制未滿18歲使用這類工具,反映政府擔心兒少可能過度依賴AI對話,或在網路上分享太多個人資料。聊天機器人的回答也可能出現錯誤、不完整或不適合的內容;當使用者遇到難過、害怕、被欺負或其他重要問題時,AI不能取代家長、老師、輔導人員或其他可信任的大人。
不同地區對AI的規範可能不一樣。有些地方會要求服務提供者加強年齡確認、隱私保護、內容安全或家長監護功能;有些地方則可能採取較嚴格的使用限制。政府制定新規則時,通常要在鼓勵科技創新、保護使用者安全、尊重隱私和保障兒少權益之間尋找平衡。
台灣的學生也可能接觸各種AI工具。AI可以協助學習,但使用方式要安全、有節制,也要知道哪些資訊不能隨便輸入,例如姓名、住址、學校班級、電話、密碼、照片或家人的私人資料。學校、家庭和科技公司都可以一起討論,如何讓兒少更安全地使用新科技。
未來紐約州的新法會如何執行、哪些服務會受到影響,以及其他地方會不會推出類似規定,仍有待後續資訊說明。法律限制不代表所有AI工具都不好,而是提醒人們要依工具功能、使用者年齡和可能風險訂定合適規則。
提醒小朋友:使用AI聊天工具時,不透露個人資料,也不把它當成唯一能求助的對象。若看到讓你不舒服或不確定的內容,要立刻停止對話並告訴家長、老師或信任的大人。
看更多:什麼是AI安全?如何管理?青少年使用AI要注意什麼?為何人工智慧平台開始推年齡限制?
(完)
[自問自答x互問互答]
看完文章->自問自答->留言紀錄問題與答案->別人看到你的問題可能會覺得這是個好問題->別人看到你的答案可能會覺得還有別的答案->你看到別人的問題與答案時也是類似的反應->互問互答->日復一日->愈學愈多->大家不知不覺就變強了
範例問題:
- 陪伴型AI和真正的朋友有哪些不同?
- 使用AI時,哪些個人資料不應輸入?
- 政府為什麼要為兒少使用科技訂規則?
…
你也問問看……
小傳媒編輯團隊希望幫助小學生提升寫作力。
若你有作文、新詩、讀書心得、電影觀後感、遊記、小日記…… 等希望得到修改與建議,
或有相關作品希望公開發表,歡迎寄到編輯信箱:editor@kidsmedia.com.tw
