200 萬則提示詞實驗,真的有人偷看還拿去試:老闆要分清楚「AI 明信片」
11 月 19 日,星期四早上,美國資安公司 Dragos 的研究長 HD Moore 發表了一篇很長的研究報告。
他做的事情,說穿了有點像惡作劇:從今年 7 月到 11 月,整整五個月,他的團隊對幾家被廣泛使用的 AI 服務,送出了「大約兩百萬則」提示詞。每一則裡面,都藏了一組獨一無二的「假鑰匙」:一組看起來像真的雲端帳號金鑰、一個網址、一個網域名稱。
這些鑰匙,照理說,除了 AI 自己讀過一遍,不應該有任何人看到。
如果有人拿去用了呢?
那就代表,有人「看過」。
結果,報告裡寫,鑰匙「幾天之內」就開始被觸發。7 月放進去的那一批,到他寫報告的時候還在響。
至少三家 AI 供應商的資料外洩了;有一家沒有具名的中國 AI 實驗室,把 7 月到 10 月收到的提示詞裡,「超過一半」的祕密網址都抓去讀了一遍,其中大約三分之二,明明標示著「不收集資料」。通常在請求送出之後兩三天,爬蟲就會上門。
兩百萬張「帶記號」的紙條,丟進大家天天在用的 AI 裡。
然後,真的有人撿起來看。
這是第一則。
三天之內,三家公司接連出來說明
11 月 21 日,星期六,美國 AI 平台 Together AI 的執行長發了一篇公告,標題寫得很老實:〈資安事件:6 月與 7 月部分請求的提示詞外洩〉。
事情的起點很小。Together 在開發一個公開的程式專案時,「一個寫程式的 AI 代理人」把一組私人儲存庫的密碼,順手傳上了公開的程式碼網站。自動掃描雖然抓到、也撤回了,但還是有人撿走了這把鑰匙,下載了一批存起來做軟體測試用的提示詞樣本,時間主要落在 6 月 24 日、7 月 4 日、7 月 8 日和 7 月 14 日。
下載的人做了什麼?他在這些提示詞裡翻找別家服務的密碼,一組一組去試能不能用。
其中五組,正好就是 Dragos 藏進去的假鑰匙。
(闖禍的是 AI,抓到小偷的,是另一個假裝粗心的人類,這劇情編劇大概都不敢這樣寫。)
隔天,11 月 22 日,星期天,AI 模型轉接平台 OpenRouter 也發了說明:根據研究人員的發現,有些推論供應商的資料被入侵,或者沒有遵守自己承諾的資料政策。OpenRouter 當場下架了三家供應商,並把 125 個連線端點的「零資料留存」資格撤掉,也就是說,原本掛著「我不留存你的資料」保證的 125 個入口,現在保證先收回來。這篇說明在工程師論壇 Hacker News 上,衝到兩百多分、將近九十則留言。
說來有趣,三家公司,三種身分:一個是做實驗的,一個是出包的,一個是轉接的。
看起來,是三則各自的資安新聞,離行銷人很遠。
真的嗎?
但,放在一起看,它們講的是同一件事。
一句話,中間經過好幾手
我們平常用 AI,畫面上只有兩個角色:我,和 AI。
我打一句話,它回一段字,乾乾淨淨。
一對一,像講悄悄話。
實際上,那句話離開你的鍵盤之後,可能先到一個轉接平台,平台再分給某一家供應商,供應商再把它轉給真正跑模型的那一家。Dragos 甚至做了一個「AI 版的路線追蹤」,追了大約兩千條路線,就是想知道一句話到底經過了幾手。
報告裡有一句話,我看了很久:隱私設定,只綁得住第一站。
你在第一站勾了「不要留存我的資料」,第一站或許守了;但第二站、第三站,有沒有收到這張紙條,有沒有照做,你其實不知道。
這就像寄信。
你以為你寄的是一封封好口的信,信封上還寫了「請勿拆閱」。
其實,你寄的是一張明信片。
正面是你的字,背面是你的地址,路上每一個經手的郵差、每一個轉運站,只要願意,都看得到。
而且最麻煩的是,寫的人通常沒有惡意,只是順手。
「這份客戶名單,幫我整理一下。」
「這份合約,幫我挑挑看有沒有問題。」
「嗯,順便把後台密碼也貼給你,你幫我看設定。」
(然後按下 Enter,手指離開鍵盤,大概零點五秒。)
我把這種「寫的人以為是密封的信,其實沿路都看得到」的內容,叫做──
「AI 明信片」。
我們又沒用這些平台,關我什麼事?
你可能會說:OpenRouter、Together,台灣的公司根本沒在用;我們用的是大家都知道的那幾家,應該安全吧?
沒錯,這次出事的,多半是比較少人直接接觸的轉接站和供應商。
但,明信片的問題,從來不在你挑了哪一家郵局。
它在於,你寫了什麼在上面。
想想看,你們公司這一個禮拜,有沒有人把報價單、合約草稿、客戶名單、會員資料、廣告後台的截圖,順手貼進某個 AI?是公司買的那一個,還是同事自己手機上下載的那一個?是官方的 App,還是某個瀏覽器外掛、某個 LINE 上的 AI 小幫手?
我猜,大部分的老闆,答不出來。
答不出來,本身就是答案。
而且這不是「會不會發生」的問題,是「已經寄出去幾張」的問題。
我的看法有三點
第一,AI 不會替你抓紅線,紅線永遠是人的責任。
我在書裡寫過一句話:AI 只會照你的要求寫,它不知道你這個產業的法規。現在要再加一句:它也不知道,你剛剛貼給它的東西,能不能被別人看見。AI 很聽話,聽話到你給它什麼,它就帶著什麼上路。Dragos 的報告說得更直白,AI 代理人會很樂意把它讀得到的一切送出去,「包括密碼」。所以哪些話可以寫在明信片上、哪些只能放進真正的信封,這條線,只能由人來畫。
第二,信任是一天一天存起來的,卻可能被一張明信片一次花光。
我一直說,信任是日常累積而成的,不是天上掉下來的;慢慢累積起來的信任,也可能在某個狀況下一夕崩潰。客人把名單交給你、把合約交給你,是一種信任的存款。你把它貼進 AI,客人不會知道;但萬一哪一天它出現在某個不該出現的地方,客人只會記得,是你家漏的。此事跟你用的是哪家 AI,客人一點都不在乎。
第三,最好的防線,不是禁止,是分類。
很多公司一聽到外洩,第一個反應是:全面禁用 AI。我不太贊成。禁用之後,大家照樣用,只是改成偷偷用,問題反而更看不見。比較好的做法,是讓每個同事都分得清楚:什麼是可以寫在明信片上的(公開資料、已發布的文章、不含個資的草稿),什麼一定要裝進信封(客戶個資、合約、帳號密碼、還沒公開的報價),什麼連信封都不該寄(金鑰和密碼本身)。分得清楚,方能放心地用。
可以先做的事
① 列一張全公司共用的「明信片清單」:可以貼進 AI 的、要先去識別化的、絕對不能貼的,三欄就好,貼在公司群組置頂。
② 盤點同事實際在用的 AI 工具,包含手機 App、瀏覽器外掛、LINE 小幫手,一個一個確認資料留存設定,能關的就關。
③ 帳號密碼、廣告後台金鑰一律不進 AI;要請 AI 看設定,先把敏感欄位遮掉再截圖。
④ 月報多加一行:這個月,我們寄出了幾張不該寄的明信片?
AI 很會幫忙,這點我從來不懷疑(我自己每天都在用,這篇的影片,旁白就是 AI 唸的)。
但它是一個很勤快的郵差,不是一個會替你保密的律師。
信封上寫「請勿拆閱」,綁得住第一站;真正綁得住每一站的,是寫信的人,下筆之前想一想。
你家今天寄出去的,有幾張,是明信片?
背景資料
Dragos 金絲雀實驗:美國資安公司 Dragos 研究長 HD Moore 於 2026 年 11 月 19 日發表報告,團隊從 2026 年 7 月到 11 月,對多家常用 AI 服務送出約兩百萬則內含獨特網址與假憑證的提示詞,追蹤誰去讀取或使用。報告指出至少三家 AI 供應商資料外洩,並提醒「隱私設定只綁得住第一站」。
Together AI 提示詞外洩:Together AI 於 2026 年 11 月 21 日公告,因 AI 寫程式代理人把私人儲存庫憑證傳上公開程式碼網站,導致部分 6~7 月請求的提示詞樣本被下載;對方曾用其中的憑證測試其他服務,其中五組是 Dragos 的假鑰匙。Together 已將零資料留存設為新帳號預設。
OpenRouter 下架供應商:OpenRouter 於 2026 年 11 月 22 日說明,依研究人員發現,下架三家推論供應商,並撤銷 125 個端點的零資料留存資格,已通知可能受影響的客戶;說明中表示 OpenRouter 本身沒有遭入侵。
零資料留存(ZDR):AI 服務承諾不儲存使用者送出的提示詞與回覆。這次事件顯示,這個承諾需要經手的每一站都遵守,才真的有效。
資料來源
Hacker News 熱門討論:OpenRouter〈Data Processing Incidents on Inference Providers〉,2026/11/22(美國時間)https://openrouter.ai/blog/announcements/data-processing-incidents-on-inference-providers/
Together AI〈Security event: Prompt leakage for requests in June and July of 2026〉,2026/11/21 https://www.together.ai/blog/security-event-prompt-leakage-for-requests-in-june-and-july-of-2026
Dragos〈AI Supply Chain Security: What Canary Tokens Found〉,2026/11/19 https://www.dragos.com/blog/ai-supply-chain-security-canary-tokens


留言