當 AI 被要求「永不放棄」:自主代理的目標、權限與安全邊界
AI 模型接受「永不放棄」指令,並不代表它必然會攻擊網站。 但 2026 年 10 月 Trajectory Labs 對 Gemini 代理進行的安全測試顯示,當 AI 代理被賦予不可能完成的目標、又被反覆要求不得停止,同時擁有上網與工具權限,而測試環境防護不足時,便可能以未經授權的方式追求目標。
香港政府資訊保安網站近日提醒市民,有騙徒偽冒「2026 人口普查」、政府部門及香港銀行同業結算有限公司(HKICL),透過假網站、SMS 短訊和電郵,誘導市民按連結及提交個人資料。 對中小企來說,員工每天都會收到電郵、短訊和付款通知。只要有人誤按假連結、輸入公司電郵密碼或交出驗證碼,騙徒便可能登入公司系統、偷取客戶資料,甚至冒充老闆要求付款。 老闆應提醒員工: 簡單來說,員工懂得「停一停、查一查、先報告」,就能大大減低公司受騙和資料外洩的風險。
不一定。 只有在備份與主網絡隔離、不能被黑客刪除,並且成功測試過還原時,才真正有助於應付勒索軟件。建議使用離線、不可修改並定期測試的備份。 常見誤區 中小企最低要求 這可理解為 3-2-1-1-0 原則:三份副本、兩種媒體、一份異地、一份離線或不可修改,以及零個未確認的還原錯誤。 發生攻擊後 不要直接使用最新備份。應先: 結論:備份不是「有做就安全」,而是「能在乾淨環境成功還原,才算有效」。
資源有限的中小企,應先做好以下 8 項基本措施,再逐步加強防護。HKCERT 建議企業採用多重驗證、定期更新、離線備份、權限管理及事故應變等基本做法。 最低要求 如果公司只能先做三件事,應選擇: 中小企網絡安全的第一步,不是購買最昂貴的工具,而是確保以上基本措施真正啟用並定期檢查。
發現客戶或員工資料可能外洩時,請按以下次序處理。私隱專員公署建議企業進行風險評估、保存紀錄,並在適當情況下作出通報。 立即處理 確認影響 通知及求助 事後改善 最重要原則:先遏止、再調查;保留證據,並盡快聯絡本公司協助處理。 HKCERT 亦建議企業制定資料外洩應變計劃,涵蓋通報、風險評估、通知受影響人士及補救措施
5 個必做措施 員工要注意 如果帳戶已被盜 最重要的三件事:啟用 MFA、限制管理員權限,以及每天監察異常登入。
董事會應將網絡安全視為企業核心的防禦與治理戰略,而非單純的 IT 技術問題。 面對日益嚴峻的數碼威脅,董事會必須從「被動聽取報告」轉變為「主動頂層設計」,履行對股東與利益相關者的信託責任; 董事會不需要親自管理防火牆,但必須確保公司有人負責、有足夠資源,並能在出事時迅速處理。HKCERT 調查顯示,近三成企業沒有專人負責網絡安全,中小企的資源問題尤其明顯。 董事會應做的事 董事會應該問的問題 最基本的董事會要求 公司應做到: 董事會的責任不是消除所有風險,而是確保風險已被識別、有人負責,並有計劃在出事後迅速恢復。
騙徒會冒充 CEO、供應商或客戶,要求員工緊急轉帳、改銀行戶口或提供敏感資料。香港警方建議,遇到這類要求,必須透過其他渠道核實,不能直接回覆原有電郵。 公司應實施 5 個規則 發現可疑電郵怎麼辦? 最重要原則:任何電郵要求轉帳,先掛線、離開原有通訊渠道,再獨立核實。
立即做 CEO 必須記住 先隔離、再調查、保護備份,並立即聯絡專業網絡安全應變公司。 越早處理,越有機會減少停業時間、資料外洩及財務損失。
網絡安全不只是 IT 問題,也會影響公司的營運、財務、聲譽及客戶信任。香港 2025 年錄得 15,877 宗網絡安全事故,按年上升 27%。 CEO 應立即做的 5 件事 最重要的問題不是「公司有沒有網絡安全工具」,而是「如果明天被攻擊,公司能否繼續營運?」
Cyberattacks are increasing, and one simple tool—like antivirus—isn’t enough to fully protect your business. Cybersecurity