如果公司沒有妥善管理 AI 工具，這些工具很快就可能變成資料外洩和資安風險的大漏洞。
很多員工會直接把公司的敏感資料貼到公開聊天機器人裡，或是自行安裝未經核准的 AI 助理，結果不知不覺就把大量權限和資料交了出去。
之前我們介紹過各種高風險 AI 系統，也分享過如何關閉各大平台內建的 AI 功能。這次則要進一步說明，公司該如何偵測和限制員工自行使用的 AI 工具，包括 ChatGPT、Grammarly，以及 Fireflies、Read AI 等會議助理。
如何偵測與限制 ChatGPT
目前全球最常見的未授權 AI 工具就是 ChatGPT。
不過要提醒的是，如果公司直接全面封鎖 ChatGPT，員工往往會轉而使用來路不明的第三方網站或聊天機器人。因此，在封鎖之前，最好先提供公司認可且安全的替代方案。
如何偵測
可以透過 NGFW（次世代防火牆）或網頁過濾器監控是否有流量連往：
- chat.openai.com
- chatgpt.com
- oaistatic.com
- oaiusercontent.com
- cdn.oaistatic.com
另外，也可以利用 EDR 或 EPP 工具檢查：
- 瀏覽器歷史紀錄
- 已安裝的應用程式
- 瀏覽器擴充套件
如何限制
利用應用程式控管阻止安裝官方桌面版（ChatGPT.exe 或 com.openai.chat）
在防火牆或網頁過濾器封鎖 AI 服務類別
透過 DNS 將 OpenAI 網域流量導向其他位置
禁止安裝 ChatGPT 相關瀏覽器擴充套件
建立允許清單（Allowlist），只允許核准的擴充套件
如何偵測與限制 Claude、Claude Code
如何偵測
監控連往以下網域的流量：
- claude.ai
- anthropic.com
- *.anthropic.com
- api.anthropic.com
也可透過 EDR/EPP 檢查是否安裝：
- claude.exe
如何限制
- 封鎖 AI 服務分類
- DNS 封鎖 Anthropic 網域
- 禁止 Claude 相關瀏覽器擴充功能
- 阻止安裝 Claude 桌面版
如何偵測與限制 Perplexity AI
如何偵測
監控：
- *.perplexity.ai
- pplx.ai
如何限制
- 封鎖 AI 服務類別
- DNS 封鎖相關網域
- 禁止第三方瀏覽器擴充套件
如果公司使用 Firefox，要特別注意新版 Firefox 已內建 Perplexity 功能。
可透過企業政策設定：
SidebarChatbot = blocked
直接在全公司停用。。
如何偵測與限制 DeepSeek
如何偵測
監控：
- deepseek.com
- chat.deepseek.com
- api.deepseek.com
- platform.deepseek.com
也可以分析 TLS 的 SNI（伺服器名稱識別）資訊提高準確度。
手機端則可檢查：
- com.deepseek.chat
如何限制
利用 MDM／EMM 限制手機 App 安裝
封鎖 AI 服務分類
DNS 封鎖相關網域
禁止瀏覽器擴充功能
如何偵測與限制 Mistral、Grok、Character.ai
管理方式與 DeepSeek 類似。
需要監控和封鎖的網域包括：
Mistral
- chat.mistral.ai
- mistral.ai
- console.mistral.ai
Grok
- grok.com
- x.ai
- api.x.ai
Character.ai
- character.ai
- beta.character.ai
- c.ai
特別注意
Grok 已深度整合在 X（原 Twitter）平台中。
如果要完全封鎖 Grok，通常也代表必須一併封鎖整個 X 平台。
如何偵測與限制 Slack AI
如何偵測
在 Slack 管理介面：
Analytics → Slack AI Usage
如果是企業版方案，也能搜尋：
ai_
開頭的事件紀錄。
如何停用
進入：
Workspace Settings → Roles & Permissions → Feature Access
將權限改成：
No one
額外建議
除了關閉 Slack AI 本身，也應該限制：
- 未授權第三方整合
- 外部 AI 工具存取 Slack 資料
避免透過 OAuth 權限把資料外流。
如何偵測與限制 Zoom AI Companion
如何偵測
如果公司使用 Zoom 企業版：
Admin Center → Reports → AI Companion Usage
即可查看使用狀況。
若員工使用免費帳號或參加外部會議，則較難掌握。
可以考慮透過郵件過濾器偵測包含：
- Meeting Summary
- Meeting Assets
等關鍵字的 AI 會議摘要郵件。
如何停用
進入：
Admin Portal → Account Management → Account Settings → Meeting → AI Companion
將功能關閉。
額外提醒
由於 AI Companion 已深度整合在 Zoom 裡，如果要完全避免使用，最直接的方法通常是直接禁止使用 Zoom。
如何偵測與限制 Grammarly
很多人以為 Grammarly 只是拼字檢查工具，但其實它也是企業資料外洩的常見來源之一。
如何偵測
監控：
- grammarly.com
- *.grammarly.com
- gnar.grammarly.com
並檢查：
- Grammarly Desktop.exe
- macOS 版 Grammarly
- Grammarly 瀏覽器擴充功能
如何限制
- 防火牆封鎖相關網域
- 禁止安裝桌面版
- 禁止安裝瀏覽器擴充功能
- 禁止 Word、Excel 外掛程式
如何偵測與限制會議機器人
包括：
- Fireflies
- Read.ai
- Tactiq
- Fathom
- Granola
這些工具會錄音、轉錄和分析會議內容，因此有很高的資料外洩風險。
如何偵測
檢查行事曆邀請：
- @fireflies.ai
- @read.ai
- @tactiq.io
- @fathom.video
- @granola.ai
也可查看 Zoom、Teams、Google Meet 的會議紀錄。
如何限制
由於無法控制外部合作夥伴的行為，因此建議：
- 禁止 OAuth 授權會議機器人加入
- 限制邀請外部參與者
- 關閉外部使用者錄影權限
其中「限制外部錄影權限」通常是最不影響業務運作的做法。
如何偵測與限制 AI 程式開發工具
例如：
- Cursor
- Windsurf
如何偵測
監控：
- cursor.exe
- windsurf.exe
以及：
- cursor.com
- windsurf.com
相關網路流量。
如何限制
- 根據數位簽章阻止安裝
- 建立軟體允許清單（Allowlist）
使用 EDR/EPP 阻止執行
如何偵測與限制本地 AI 工具
例如：
- Ollama
- LM Studio
- GPT4All
這類工具雖然資料不一定會上傳雲端，但仍可能被濫用或成為攻擊目標。
如何偵測
檢查：
- ollama.exe
- ollama serve
- lmstudio.exe
- LM Studio.app
- jan.exe
- gpt4all.exe
也可掃描：
- 1234 Port（Ollama、LM Studio）
- 8080 Port（WebUI）
以及大型模型檔：
- .gguf
- .bin
- .safetensors
如何限制
- AppLocker
- EDR／EPP
- 應用程式允許清單
如何偵測與限制自主 AI Agent
例如：
- OpenClaw
- NemoClaw
- NanoClaw
這類 AI Agent 擁有高度自主性，被認為是目前風險最高的 AI 類型之一。
如何偵測
監控：
- openclaw
- nemoclaw
- nanoclaw
- clawdbot
同時注意：
- Node.js 執行 Bash 或 Python 腳本
- 出現 ~/openclaw、~/nanoclaw、~/.claw* 等資料夾
以及連往相關 AI API 或服務的流量。
如何限制
最有效的方法是：
- 建立嚴格的軟體允許清單
- 禁止執行已知 Agent 程式
- 限制一般員工安裝 Node.js 和 Docker
因為大部分非開發人員其實不需要這些工具。
資料來源: The guide on blocking ChatGPT, Gemini, Claude, and other AI tools at work | Kaspersky official blog