人工智慧（AI）能回答問題、畫圖、整理資料，也能協助人們學習與工作。不過，AI本領再大，仍然可能答錯問題、洩漏資料，甚至被有心人士拿來騙人。為了讓大家安心使用，開發AI的公司、政府、學校和使用者，都需要建立並遵守適當的安全規範。
AI安全規範就像道路上的交通規則。汽車讓人更快抵達目的地，但也需要煞車、紅綠燈和駕駛規則。AI也是如此，除了追求速度與能力，還必須考慮使用過程是否安全、會不會傷害別人，以及出問題時該由誰負責。美國國家標準暨技術研究院（NIST）指出，值得信任的AI應兼顧可靠、安全、公平、隱私保護和透明等要求。
AI為什麼會出錯？以能寫文章、回答問題的生成式AI來說，它可能產生讀起來很通順、內容卻不正確的答案，甚至編出不存在的書名或資料來源。這種情況常被稱為「AI幻覺」，意思不是機器真的看見了幻象，而是它把不正確的內容說得像真的一樣。因此，AI回答得很有自信，不代表答案一定有根據；語氣再像老師，也可能把考卷寫錯。
如果只是生日卡片寫錯一個字，通常容易修改；但若錯誤出現在影響健康、人身安全或工作機會的判斷中，後果就可能嚴重得多。同一套AI還可能同時服務許多人，讓一個問題迅速擴大。因此，安全要求需要配合用途調整，可能造成的傷害越大，就越需要仔細測試與監督。
除了答錯問題，AI也可能被用來製造假消息。有些AI能模仿聲音、製作逼真的圖片或影片，這些能力可以協助創作，卻也可能被拿來冒充親友、詐騙或霸凌。例如，有人可能用假聲音讓別人誤以為家人正在求救。因此，防止冒充、欺騙和傷害，也是AI安全規範的重要部分。
隱私保護則關係到每個人的個人資料。當人們把住址、照片或私密文件交給AI服務時，也需要知道這些資料會如何被保存、使用，以及誰能看見。服務提供者應限制資料蒐集和存取，使用者也不應隨意輸入密碼、驗證碼，或未經同意提供別人的私密資料。UNESCO的AI倫理建議將隱私和資料保護列為重要原則。
公平同樣不能忽略。AI會從資料中學習，如果資料原本就存在偏見，AI也可能延續這些不公平。例如，公司用AI協助挑選求職者時，就需要檢查它是否對某些性別或族群做出不公平的判斷。使用電腦處理事情，並不會自動讓結果變公平；人們仍須檢查資料、設計和實際結果。
另一類規範重視透明與責任。人們應該知道自己是否正在和AI互動，也應了解它的用途與限制。如果AI參與重要決定，受到影響的人應有機會提出疑問，並透過適當管道要求人工檢查或更正。UNESCO強調，人類監督與人權保障是AI倫理的重要基礎，不能因為「電腦就是這樣判斷」，便讓問題無人處理。
兒童與青少年也需要受到特別保護。孩子可能還不容易分辨AI說的話是否可信，因此，提供給兒童使用的AI，應考慮內容是否適合年齡、會不會影響身心健康，以及個人資料是否受到保護。聯合國兒童基金會（UNICEF）的指引強調，這些責任必須納入產品設計，不能只靠孩子自己小心。
這些安全規範不一定都是法律。有些是政府的法律要求，有些是國際機構提出的倫理原則，也有些是公司的產品規則或學校的使用守則，它們的約束力各不相同。例如，NIST的AI風險管理框架，就是供組織自願採用的指引，協助人們在設計、開發和使用AI時管理風險。
對一般人與小學生來說，可以從日常習慣開始練習安全使用AI。看到重要資訊時，先查證來源；使用服務時，保護自己和別人的私密資料；製作圖片或文字時，不拿來冒充、欺騙或羞辱他人。寫作業時，可以請AI解釋題目、提供思考線索，再用自己的話完成答案，並遵守老師的規定。如果互動內容讓自己感到害怕、不舒服，或鼓勵危險行為，就應停止使用，找家長或老師協助。
AI安全規範無法保證所有問題都不會發生，但能幫助人們提早發現風險、減少傷害。未來，當AI越來越能替人寄信、操作工具或執行任務，安全設計也必須跟上，讓人們清楚知道它能做什麼、哪些事情需要先確認，以及出錯時如何停止和修正。
看更多：什麼是AI安全？如何管理？青少年使用AI要注意什麼？為何人工智慧平台開始推年齡限制？
（完）
[自問自答x互問互答]
看完文章->自問自答->留言紀錄問題與答案->別人看到你的問題可能會覺得這是個好問題->別人看到你的答案可能會覺得還有別的答案->你看到別人的問題與答案時也是類似的反應->互問互答->日復一日->愈學愈多->大家不知不覺就變強了
範例問題：
- 如果AI告訴你的答案和課本不一樣，你會怎麼判斷誰說得對？你會找哪些資料或請誰幫忙？為什麼？
- 如果同學用AI製作另一位同學的假照片，說「只是開玩笑」，你覺得可能造成什麼影響？怎麼做才能讓AI創作有趣，又尊重別人？
- 假如你是學校的「AI安全小隊長」，你最想訂下什麼使用規則？這項規則能保護誰，又如何讓大家繼續享受AI帶來的便利？
…
你也問問看……
小傳媒編輯團隊希望幫助小學生提升寫作力。
若你有作文、新詩、讀書心得、電影觀後感、遊記、小日記…… 等希望得到修改與建議，
或有相關作品希望公開發表，歡迎寄到編輯信箱：editor@kidsmedia.com.tw
