大家一講起AI 嘅安全性一定會諗諗返open AI係今年七月嘅事故。但係筆者都想提一提大家除咗AI廠商自己嘅安全事故之外，一啲商業機構執行AI 而引伸嘅安全事故都需要大家去關心。 以下呢一篇文章會為大家講述喺2026 年 4月 係新加坡發生既一單AI 新聞。
事件起源及重點
- 該品牌一名市場部員工想用 AI 工具協助群發宣傳電郵，請 AI 生成一段 Python 程式碼，自動把同一份宣傳內容同時寄給大量會員。
- 員工給 AI 的提示（prompt）沒有要求「隱藏其他收件人電郵地址」，AI 產生的程式碼因此把整批收件人的電郵地址都寫入同一封郵件的可見欄位（例如 To 或 CC），而非使用 BCC 或個別發送。
- 公司在測試時，沒有實際打開測試電郵查看內容，未能發現收件人地址會被其他人看見。
- 最終在 2026 年 4 月 25 日發送的群發郵件中，每批約 1000 名收件人都可以看到同一批其他人的電郵地址，共影響 95,364 名顧客。
- 結果操作出錯，導致同一批郵件裡，每個收件人都看得到其他 999 個人的電子信箱。
- 目前沒有證據顯示這些信箱被拿去亂用
- 新加坡個人資料保護委員會（PDPC）在調查後指出，事故源於人為錯誤及內部審查不足，而非 AI 工具本身故障
事件給企業的教訓
用 AI 提升效率前，必須先做好培訓、測試、資料保護及人工覆核。
香港公司可參考之處
- 不要把客戶資料直接丟進公開 AI 工具
員工應只使用公司批准的 AI 平台；如工作需要處理客戶資料，先移除姓名、電郵、電話、會員編號等識別資訊，並清楚規定可輸入資料的種類、數量及用途。香港私隱專員公署（PCPD）也建議企業為 AI 的輸入、輸出、保存及刪除訂下明確規則。 - 群發電郵必須有「人手最後把關」
寄信前至少由另一位同事覆核收件人設定、是否使用 BCC、附件內容和寄送名單；先寄測試信給內部帳戶，再正式發送。這正是最直接避免「所有人看見彼此電郵」的做法。 - 高風險工作不可完全交給 AI
例如群發電郵、客戶通訊、退款審批、人事決定、信貸或保險評估等，AI 可以協助草擬或整理，但正式輸出及決定應由指定人員確認。PCPD 的框架主張按風險程度設置相應的人類監督；風險愈高，覆核應愈嚴格。 - 先測試，才上線
公司不應把 AI 產生的程式碼或流程直接用在正式客戶資料上。應先在測試環境使用假資料驗證，確認權限、電郵欄位、附件、資料匯出及自動化流程都正常，才可部署到正式系統。PCPD 的近期檢查也顯示，大多數有以 AI 處理個資的受查機構會在實施前先做測試及私隱影響評估。 - 訂立 AI 使用政策與責任人
政策至少要寫清楚：- 哪些 AI 工具可用、哪些不可用
- 哪些部門和員工可使用
- 哪類資料禁止輸入
- 出現異常輸出、錯寄或疑似外洩時，員工要向誰匯報
- 違反規則的後果
- 預先準備 AI／個資事故應變計畫
一旦發現錯寄或資料外洩，公司應可立即停止相關系統或寄送、保留紀錄、判斷受影響資料和人數、通知內部管理層及尋求私隱／法律意見，並向受影響客戶提供清楚說明與支援。PCPD 特別建議企業在 AI 事故應變計畫中涵蓋資料外洩、未獲授權輸入個資及異常輸出等情況。
最實用的一句內部規則
AI 可以幫手，但凡涉及客戶個人資料、對外群發或正式決策，都必須先去識別化、經測試，並由人手覆核後才可執行。
香港目前尚未訂立一部全面、專門規管各類人工智能開發及應用的綜合 AI 法例；不過，AI 的使用仍受現行法律及按行業適用的規例約束。
公司只要在 AI 的收集、使用及處理過程涉及個人資料，仍須遵守《個人資料（私隱）條例》；因此，把 AI 當作普通軟件而不設管控，並不是安全做法。
