ChatGPT 冒充者揭露了安全漏洞
員工使用詐欺性 AI
ChatGPT：採用速度快於任何應用程式，但有什麼後果？
ChatGPT 是 OpenAI 旗下一款流行的、基於 AI 的大型語言模型 (LLM) 應用程式，由於多種原因，它的使用者增長水平獨樹一幟。例如，它在發布後的五天內吸引了超過一百萬的使用者，這項成績甚至連 Facebook 和 Spotify 等史上最受歡迎的應用程式都難以企及。此外，ChatGPT 幾乎立即在商業環境中採用，因為組織尋求提高內容建立、程式碼產生和其他功能任務的效率。
然而，隨著企業爭相利用 AI，攻擊者也蜂擁而至。其中一個顯著的攻擊方式就是透過不道德或惡意的 LLM 應用程式。
遺憾的是，近期此類惡意應用的氾濫為企業的 AI 之旅帶來了風險。而且，相關風險並非僅靠單一策略或解決方案就能輕鬆解決。為了在不造成資料遺失的情況下釋放 AI 的價值，安全領導者需要重新思考如何更廣泛地洞察和控制企業應用程式。
詐欺性「GPT」的類型及其風險
惡意 LLM 應用程式分為多個類別，具有不同的風險，例如：
將員工鎖定在一項品質低劣的服務中並產生不準確的內容，從而阻礙組織的發展。2023 年 5 月，ZDNet 報導了一款據稱下載量很大的應用程式「ChatOn」，該應用程式將使用者鎖定在昂貴的訂閱中。同樣，一款名為「Genie」的應用程式聲稱由 ChatGPT 驅動，但其產生「幻覺」（指 AI 報告錯誤資料）的頻率比產生真實內容的頻率更高。這類模仿應用程式提供的服務品質很差。
竊取帳戶、清除資料和入侵網路。2023 年 3 月，發現一款假冒的 ChatGPT Chrome 擴充功能正在劫持 Facebook 企業帳戶、安裝後門程式、蒐集瀏覽器資訊、竊取 Cookie 等。這款假冒擴充功能透過 Facebook 廣告以「快速存取 Chat GPT [原文如此]」為名推廣，一度每天被安裝超過 2000 次。
安裝惡意程式碼。攻擊者難免會利用傳統的社交工程手法，假裝提供 ChatGPT 的使用權限來誘騙使用者。其中一場攻擊活動透過社群媒體貼文中的連結，引誘使用者安裝一個所謂的「ChatGPT 用戶端」。這些連結會導向一個看起來非常逼真的網頁，頁面上提示使用者下載該用戶端。一旦使用者點擊連結，就會安裝名為「Fobo」的特洛伊木馬程式，該程式會竊取儲存在瀏覽器中的帳戶認證，尤其是與企業帳戶相關的資訊。
虛假應用程式冒充真實應用來誘騙使用者下載惡意程式碼並非什麼新鮮事。幾十年來，攻擊者一直在試圖操縱使用者下載惡意軟體。但這些基於 ChatGPT 的攻擊卻暴露出一個更大的問題。
更大的問題：缺乏應用程式意識
對進入企業網路的应用程式缺乏可見性，自然會導致控制能力的不足，使企業容易受到詐欺性應用程式的威脅。
幾乎所有軟體都可以透過網際網路分發或透過雲端存取；這是新常態。員工通常能夠在幾秒鐘內在公司裝置上安裝未經核准的應用程式。
員工還可以使用各種雲端託管的軟體即服務 (SaaS) 應用程式。在大多數大型組織中，未經授權的雲端服務使用情況十分普遍，這種現象被稱為「影子IT」。影子 IT 非常普遍，一項調查顯示，80% 的員工表示會使用未經批准的 SaaS 應用程式。
這些風險持續存在，但當一種特定類型的應用程式（這裡指的是基於 AI 的 LLM）牢牢紮根於企業時代思潮時，危險性就更大了。那些本意想要提高效率的員工，最終可能會為攻擊者進入其組織網路提供立足點。
解決應用程式控制問題
網路安全意識訓練已成為組織網路復原能力的核心，但這是一個技術問題，需要技術解決方案。
多年來，防火牆在第 4 層（傳輸層）檢查網路流量。這些防火牆能夠封鎖來自或前往未經授權 IP 位址或連接埠的流量，從而阻止許多攻擊。然而，事實證明，傳統防火牆已無法滿足現代網路的安全需求，因為它們缺乏對第 7 層（應用程式層）的感知能力，因此無法判斷流量來自哪些應用程式。
下一代防火牆 (NGFW) 具有此功能。它們在第 7 層檢查流量，並且可以根據來源應用程式允許或拒絕。這種應用程式感知讓管理員能夠封鎖有潛在風險的應用程式。如果一個應用程式的資料不能通過防火牆，那麼它就不能將威脅引入網路。
然而，與傳統防火牆一樣，下一代防火牆 (NGFW) 仍假設企業擁有一個封閉且私有的內部網路——但這與當今的 IT 環境已不相符。如今的應用程式與資料分散於內部網路、私人雲端與公有雲端之間。現代網路具有分散式的特性，涵蓋了 SaaS 應用程式、Web 應用程式以及遠端使用場景。
因此，組織需要基於雲端的 NGFW 能力，能夠同時部署於企業內部網路與雲端環境之前，提供全面的保護。
但 NGFW 本身無法處理影子 IT。等到 NGFW 偵測到惡意應用程式使用情況時，可能為時已晚。應用程式控制必須與雲端存取安全性代理程式 (CASB) 整合，才能真正保護網路、裝置和使用者的安全。
除了其他功能外，CASB 還能夠發現「影子IT」，並讓管理員有能力加以防範與處理。它們可以部署 URL 篩選功能，確保無法載入網路釣魚網站與惡意應用程式，並防止惡意程式碼連線至已知的惡意網址，以避免從指令與控制伺服器接收指令。CASB 還能將經核准的應用程式加入允許清單，封鎖所有未獲授權的應用程式。此外，它們可運用反惡意程式碼技術，在惡意仿冒軟體進入網路（無論是企業內部網路還是雲端環境）時即時識別並攔截。
保護現在和未來的應用程式使用
ChatGPT 於 2023 年開始成為熱門，AI 工具可能會在未來幾年內發布。
SaaS 應用程式對於工作團隊協同合作至關重要，但是要保護其安全並不容易。Cloudflare 的 CASB 服務提供對 SaaS 應用程式的全面可見度和控制，讓您能夠輕鬆防止資料洩露和違規行為。透過 Zero Trust 安全可封鎖內部人員威脅、影子 IT、有風險的資料分享以及惡意執行者。
Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章，本文為其中之一。
深入探討這個主題。
閱讀《簡化我們保護 SaaS 應用程式的方式》白皮書，詳細瞭解 CASB 的運作方式。
重點
閱讀本文後，您將能夠瞭解：
應用程式普及後會產生的風險
3 種不同類型的惡意應用程式
應用程式可見度和控制的重要性
NGFW 和 CASB 如何一起保護現代組織