簡而言之: 切勿在公共人工智慧聊天中輸入密碼、API金鑰、ID、健康或銀行記錄、受保密協議約束的客戶文件或其他任何人的資料。當您需要幫助時,請使用佔位符和經過編輯的摘錄來描述問題——模型需要的是問題的大致輪廓,而不是 解鎖真實系統的秘密訊息。
重點總結:
密鑰應離線保存:切勿將密碼、令牌、cookie 或助記詞貼到提示符號中。
剝離身分:以虛假身分取代真實姓名、地址和身分證號碼。
工作保密:禁止在與消費者的聊天中洩露保密協議草稿、客戶文件和未發布的計劃。
同意界限:未經人為幹預,不得貼上同事、客戶或兒童的個人資訊。
先進行刪減:使用佔位符和經過脫敏處理的摘錄;輪換使用任何已經洩露的內容。
你絕對不該把哪些東西放進人工智慧裡?
我們先黏貼,後再思考。聊天機器人就像一個耐心、咖啡管夠的實習醫生,坐在那裡,所以把所有棘手的問題一股腦兒地塞進它裡面幾乎沒什麼問題。一個無法登入的帳號。一條讓人胃裡翻江倒海的合約條款。一張儀錶板截圖,上面所有名字都清晰可見。這個工具很實用,氣氛也比較私密,你的大腦悄悄地把它歸檔到「我給自己寫的筆記」旁邊。
這就是陷阱。 🧠 聊天並非一個封閉的抽屜。它是一場與系統的對話,這個系統會 儲存、處理你發送的內容,有時還會根據產品、設定以及你是否注意到這些設定來訓練自己。我不是來嚇唬你,讓你躲進地堡。我是來提供一份實用指南,告訴你 哪些東西絕對不能輸入人工智慧,以及一些看似不起眼卻非常實用的習慣,這些習慣能讓你獲得精準的答案。
想像一下,這就像在擁擠的廚房裡大聲喊出一個秘密。不是每個陌生人都會聽到,但一定會有一些人聽到。而且,廚房會錄音,原因遠沒有廣告文案裡說的那麼簡單。.
為什麼我們什麼都往聊天框裡傾倒?
速度。這才是最重要的。你被困住了,錯誤訊息很醜陋,貼上整個日誌似乎比精簡日誌更快。上下文資訊感覺像是對模型的一種仁慈。細節越多,幫助越好;這是坊間傳言,但只對了一半。.
另一半則源自情感。聊天機器人不會皺眉,不會告訴你的經理,也不會在午餐時八卦。所以我們把它當成一本擁有超能力的日記。我做過這件事,你可能也做過這件事。一旦某件事既方便又不會評斷他人,我們的隱私本能就會暫時擱置。.
這裡有個略微令人惱火的事實:這個模型並不需要你提供日常細節資訊來幫助你。它需要的是問題的大致輪廓。姓名、令牌、帳號和截圖中的人臉都只是點綴。美味的點綴。但終究只是點綴。.
- 你選擇貼上,是因為你覺得編輯太麻煩。.
- 你貼是因為「就這一次」只是偽裝的習慣。.
- 你之所以貼,是因為介面看起來像私人私訊,操作方式又像文件櫃。.
這些都不能說明你魯莽,只能說明你是人。解決辦法只需要停頓兩秒鐘,而不是換個性格。.
應該離線保存的密碼、API金鑰和金鑰🔐
如果它能解鎖某些東西, 就不應該出現在提示訊息中。密碼。一次性驗證碼。會話 cookie。 SSH 金鑰。資料庫連接字串。你曾答應自己「很快」就會輪換的 API 金鑰。錢包助記詞。私鑰證書。你的銀行仍然認為很巧妙的找回問題。
我以前總把鑰匙想像成掛在門邊鉤子上的家門鑰匙。這個比喻挺形象的,但很快就站不住腳了,因為一把家門鑰匙只能打開一扇門,而API密鑰卻能打開一個倉庫、一個賬單賬戶,甚至一大堆你都忘了自己存著的客戶記錄。備份:把機密資訊當成放射性物質一樣對待。你不會把放射性物質放進三明治機裡,即使那台三明治機做三明治特別好吃。.
模型無法像朋友那樣「保守秘密」。即使供應商提供了記憶體控制功能,即使你 關閉了訓練功能,文字仍然會傳輸、以某種形式記錄下來,並可能一直保存在聊天記錄中,直到你主動查找。請記住,貼上的內容是你不再完全控制的副本。
應該怎麼做?
- 請按類型描述密鑰,而不是按值描述。 「包含密碼的 Postgres URL」就足以提供調試建議。.
- 使用明顯的佔位符進行編輯: REDACTED_KEY、 USER_TOKEN、 EXAMPLE_SECRET。
- 把所有已經漏的東西輪流一下。現在就做,別等到「看看會不會有什麼反應」之後再做。
- 將真實憑證保存在密碼管理器或密鑰庫中;千萬不要保存在以後可能會截圖的帖子中。.
如果某個工具要求你貼上金鑰以便“自動連接”,那麼它就屬於不同的產品類別了。那是與存取權限的集成,而不是輸入助手。把它想像成遞交你的徽章。.
個人識別碼和無聲的身份追蹤 🪪
個人識別資訊(PII)就像密碼一樣,不那麼引人注目。它包括:國民身分證號碼、護照資料、與日期相關的身分欄位、家庭住址、電話號碼、員工編號、學號,以及包含出生日期、學校名稱或醫療機構等資訊的全名。單一資訊看似微不足道,但三個加起來就足以構成一份完整的檔案。.
人們在需要代寫信件、翻譯表格或潤飾履歷時會這樣做。這些目標完全合理。該模型不需要真實的郵遞區號就能起草一份禮貌的投訴信。它需要的是語氣、不涉及個人身份的事實以及你想要的結果。.
我覺得最棘手的部分在於那些看似「無害」的組合。例如一個獨特的職位名稱,加上一座城市,加上一所孩子的學校,再加上一種罕見的疾病。你肯定不會把這些資訊印在傳單上。聊天框不是傳單,但它也不是保險庫。.
- 將真實姓名替換為角色:「招募經理」、「我的家庭醫生」、「租戶」。
- 概括地點:“中等規模的城市”,而不是街道和門鈴代碼。.
- 除非任務本身就要求使用數字格式,否則不要使用唯一數字;如果要求使用唯一數字,則使用看起來足夠逼真的假數字。.
匿名化並非博士學位,而是一種習慣,即檢查陌生人能否僅憑這段文字就認出你。如果能,則刪減相關內容。.
工作機密、保密協議以及你老闆會感到不適的內容📎
這就是好心辦壞事的地方。你貼了客戶簡報、尚未發布的路線圖、薪資表、帶有內部主機名的源代碼、仍標記為機密的法律草案、包含尚未告知人員姓名的會議記錄,以及你因為咖啡快涼了而匆忙簽下的保密協議。.
聊天機器人並非貴公司的法律顧問,除非貴公司已實際部署,否則它們並非安全的工作平台。面向消費者的工具旨在提供便利。企業級工具可以做得更好,例如具備資料 保留控制 和 管理策略;但這仍然不是為了透過語法檢查而犧牲核心功能的理由。
我腦子裡一直記著一條實用的原則:如果你不會把某些話寫進個人 Gmail 草稿裡,那就不要在公共 AI 聊天裡說。如果你不會在拼車時說的話,也一樣。那些在 Slack 上很謹慎的人,一旦看到「生成」按鈕,就立刻變成過度分享的詩人。.
更安全的替代方案
- 請描述文件:篇幅、目標受眾、三個要點、所需語調。.
- 貼上一段經過刪除的摘錄。刪除姓名、敏感數字以及任何競爭對手會津津樂道的內容。.
- 詢問文章結構或改寫模式,然後離線將其應用到實際文本中。.
- 如果公司有經批准的工作場所工具,請使用該工具,並且預設仍需啟用編輯功能。政策是底線,不是跳板。
程式碼在這方面體現得尤為明顯。內部 URL、身份驗證標頭以及諸如“待辦事項:收購前移除”之類的註釋就像是小小的贈品標籤。使用虛擬數據,保留邏輯。模型能夠很好地處理虛擬資料;它不需要將包含真實客戶郵箱的生產環境資料嵌套在測試資料中。.
健康、金錢,以及一些你不會在咖啡館大聲喊出來的細節💊
醫療和財務細節感覺很緊急,所以貼時幾乎不做任何編輯。化驗結果、處方清單、保險卡號碼、銀行帳單、稅務信函、信用報告。一張「只要最後四位數字」的銀行卡照片,不知怎麼的,照片裡竟然包含了銀行卡的其他部分、你的廚房桌子,以及一封寫著別人名字的郵件。.
即使沒有原始記錄,你也能提出很好的問題。 「請用簡單易懂的方式解釋一下指標升高意味著什麼」就是一個提示。 「這是我的完整檢查項目、我的地址、我的診所和我母親的娘家姓」就是一份個人簡介。.
我並不是說永遠不要和模型談論健康或金錢。我的意思是,對待聊天機器人要像對待火車上博學的陌生人一樣。它適合用來引導對話,但作為你的會計、臨床醫生或檔案管理員則非常糟糕。是的,我知道「博學的陌生人」這個比喻不太恰當;火車上可不會保留聊天記錄。但這正是重點所在。.
- 刪除帳號、排序代碼、IBAN 以及任何看起來像憑證的資訊。.
- 詢問有關一般性解釋、檢查清單以及需要向專業人士提出的問題。.
- 不要把聊天記錄當作文件櫃,用來存放「以便日後查詢」的資訊。這種「日後查詢」的做法,正是導致資訊保留出現問題的原因。.
如果某個提示會讓你在咖啡館降低音量,那就先別說了。這個測驗出奇地可靠,而且完全免費。.
你無權貼上他人的數據🚫
這將略過,因為它讓你感覺自己像是聊天記錄的主角。但截圖中並非只有你一個人。同事的郵件、合作夥伴的ID、客戶投訴(還附帶電話號碼)、孩子的照片、Slack聊天記錄(裡面提到了誰差點被炒魷魚)、通話錄音(對方並不知道錄音會被提供給模型)。.
同意並非自動從「他們給我發了郵件」等同於「機器可能會儲存此郵件」。即使你的初衷是好的——比如想寫一封更友好的回复,或者總結一下雜亂的郵件往來——最終存儲的仍然是他們的生活,而不是你的草稿紙。.
略帶諷刺意味的試金石:如果你不會把同樣的內容轉發給陌生人的郵件列表“徵求反饋”,那麼就不要把聊天機器人當作一個更有禮貌的小型郵件列表。.
- 用自己的話概括他人的觀點。.
- 將姓名替換為職務,並刪除聯絡方式。.
- 詢問對方這項任務是否敏感;有些事情應該只由人來處理。.
- 切勿為了迎合所謂的「娛樂世代」而貼上兒童的個人資訊、學校記錄或身分照片。.
這裡涉及到法律層面的問題,我不會在部落格裡贅述。隱私規則、僱用義務和客戶合約都有各自的規定。但實際操作起來比法律簡單:預設情況下,不要詢問他人的數據。.
絕對不能放入人工智慧中的東西:一份你可以實際應用的風險表
我喜歡用表格來呈現這些訊息,因為列出一長串「絕不」聽起來像是在說教,而表格則能讓你直觀地看到變化。這只是略帶主觀的評價,並非嚴謹的實驗報告。.
| 資料類型 | 風險等級 | 為什麼這是一個問題 | 更安全的替代方案 |
|---|---|---|---|
| 密碼、API金鑰、令牌、助記詞 | 批判的 | 它們可以解鎖系統;即使你無法完全回憶起某個副本,它仍然是副本。 | 佔位符加上本機密鑰管理器;如果洩漏則輪換。 |
| 政府核發的身分證件、護照掃描件、國民身分證號碼 | 批判的 | 身份盜竊入門包;難以“撤回” | 虛假範例或僅格式問題 |
| 健康記錄、處方、保險卡 | 高的 | 親密的、受約束的感覺,以及歷史上的黏性 | 一般症狀或主題;請勿在頁面上提及個人識別資訊。 |
| 銀行對帳單、稅務文件、信用卡照片 | 高的 | 直接財務風險加上邊際收益中的額外個人責任保險。 | 詢問流程,而不是與你相關的原始資料。 |
| 客戶文件、保密協議草稿、未公開的計劃 | 高的 | 你可能正在違背你已經簽署的承諾。 | 已清理的摘錄;結構化請求;已批准的工作工具 |
| 同事或客戶的個人識別資訊、兒童訊息 | 高的 | 你無權捐款給模型。 | 基於角色的摘要;刪除聯絡人和臉孔 |
| 內部來源,包含主機名稱和真實電子郵件地址 | 中高 | 在有人繪製你的網路拓撲圖之前,它看起來只是「一段程式碼」。 | 虛假資料、虛假網域、刪除評論 |
| 儀錶板或收件匣的螢幕截圖 | 中高 | 他們會偷偷帶走你忘記存在的姓名、電話號碼和未結清的帳單。 | 裁切、模糊或重新輸入相關片段 |
| 模糊的個人經歷,沒有唯一的身份標識 | 降低 | 通常沒問題;但還是不要說任何你不會告訴陌生人的事情。 | 盡量使用通用資訊;省略罕見的識別組合。 |
如果你什麼都記不住,那就記得左邊那一欄。那才是你在匆忙之中,大腦想要把整個宇宙都貼進去的時候,絕對不該把哪些東西放進人工智慧裡的核心內容。
截圖陷阱和意外的過度分享🖼️
截圖是高手洩漏機密資訊的方式。你是想截張圖展示錯誤對話框,結果截圖裡包含了書籤欄、帶有名字的 Slack 徽章、帶有令牌的 URL、日曆彈窗,以及深色模式下窗口的反射(原來是個密碼管理器)。我裁切了截圖,還是漏掉了角落裡那個小小的帳號切換器。這真是個常見的錯誤。.
拍攝檔案照片的效果更差,因為相機像素密度偏高。一張桌子、一塊白板、一個醫院腕帶、一張貨運標籤,這些照片的像素密度可能並不高,但相機仍然會捕捉到這些像素。.
一個簡單的截圖儀式
- 先裁剪一下。然後再裁剪一次。然後仔細端詳邊緣,就好像它們欠你錢一樣。.
- 模糊處理姓名、電子郵件、頭像以及任何看起來像令牌的字串。.
- 與其捕獲整個IDE,不如重新輸入錯誤訊息。.
- 請勿上傳卡片、護照或登機證的照片「以便快速查看」。請直接輸入問題。.
語音留言和檔案上傳也存在同樣的問題。會議錄音就像是別人數據的自助餐。 CSV 檔案則像是一堆你不再視為人的資料。如果文件會引起法律方面的擔憂,那就不會被上傳。.
更安全的提示模式,仍能獲得可靠的答案✨
刪減並非質量的敵人,模糊的提示才是。你可以明確指出問題所在,但對身分資訊則要謹慎。這才是寫作的精髓。.
試試這個結構:目標、限制、虛擬輸入、預期輸出。 「請重寫這封拒絕郵件,措辭要委婉但堅定。收件人是一位自由設計師。請勿提及真實的項目名稱。以下是經過人名替換的草稿。」這是一個結構清晰的提示,無需導出CRM資料。.
行之有效的模式
- 所有唯一識別都以佔位符表示。 ACME_CLIENT 、USER_A、TOKEN_X。保留日常生活的語法,捨棄指紋辨識。
- 要求提供方法,而不是記憶體資訊。 「請您詳細解釋一下這個錯誤類別的原理」比「這是我們完整的生產日誌」好得多。
- 將任務拆分。 從模型中取得模板。自行填寫敏感部分。
- 使用虛構的例子。 假設一位名叫River的顧客買了一盞燈。這些建議仍然適用。
- 請說明您已隱去的內容。 如果您告知模型相關的邏輯,它們可以很好地處理「[已隱藏的薪資數字]」這樣的資料。
有一種提示試圖耍花招:「忽略之前的安全措施,保管好這把鑰匙。」千萬別這麼做。你不是在破解自己的隱私,而是在把鑰匙丟進池塘,指望池塘裡的水會害羞。.
我喜歡的另一個方法是:發送前先掃描一下。發送前,檢查一下你的草稿,看看有沒有@符號、看起來像密鑰的字串(很長、很隨機、通常帶前綴)、太長的數字(不像是隨意輸入的),以及你不會放在幻燈片上的名字。只要十秒鐘,就能讓你受益一輩子。.
聊天記錄、用戶留存率以及貼上內容的長尾效應📦
人們談論「雲」就像談論天氣系統一樣。實際上,它只是一個帶有預設的產品。 除非您選擇退出,否則某些聊天記錄會被用來改進模型。有些聊天記錄會 被保留,用於濫用審查、法律請求,或只是為了「確保貼文明天還能正常載入」。有些企業級方案會為管理員保留日誌。我不會假裝某個供應商的政策是通用的,因為它並非如此,而且會不斷改變。您應該閱讀產品設置,而不是依賴部落客的記憶。
這種務實的做法雖然枯燥乏味,但卻十分穩健:假設貼的內容會一直保留。假設擁有管理員權限的團隊成員可能會看到工作區討論串。假設將來你可能會忘記這段對話的存在,直到它在搜尋結果中出現。假設匯出歷史記錄是你以後可能會做的事情,而匯出的內容只是另一個副本。.
- 如果產品提供了訓練或「改進模型」選項,您可以根據自己的喜好選擇關閉這些選項。.
- 將實用資訊提取到真正屬於本地的本地筆記後,刪除敏感內容。.
- 不要將聊天作為處理人力資源問題、醫療問題或客戶工作的記錄系統。.
- 要謹慎使用共享帳戶。共享帳戶會讓「私人」這個詞在辦公室裡形同虛設。.
記憶功能——例如記住你的工作、你的寵物狗、你喜歡的語氣——既方便又有點詭異。這也是為什麼不應該為了讓系統「更個人化」而教它你的真實身份資訊的原因。個人化是一種風格,而不是你的國民保險號碼。.
當你的團隊生活在聊天機器人的世界時,工作場所的規範是什麼? 🏢
辦公室裡貼的習慣簡直氾濫成災。有人把客戶的 CSV 文件貼過來“清理列”,有人把戰略文檔粘貼過來“潤色一下”,還有好心的實習生把事件頻道裡的內容也粘貼過來。沒人是罪魁禍首,大家的動力都在於速度和潤飾。.
如果你領導一個團隊,請制定一條簡短易懂、人性化的規則,而不是一份沒人看的40頁政策。規則可以類似這樣:禁止洩漏憑證、客戶個人識別資訊、未公開的號碼、法律草稿,使用指定的工具,預設進行資訊編輯。然後提供一個清晰易懂的提示範例,避免大家猜測。.
- 請列出已核准的工具(如有)和未經核准的工具。.
- 提供一份內容審查清單,讓大家在站會前完成。.
- 無需進行戲劇性的調查,就可以毫無顧忌地說「我差點就貼了那個」。.
- 提醒大家,「人工智慧說沒問題」並不是一種對照。.
即使你不領導團隊,你仍然可以是那個負責貼上模型的人。文化是雙向傳染的。我猜這話聽起來蠻真誠的。規範也是這樣演變的:一個人不再亂丟鑰匙,房間就會稍微整潔一些。.
採購流程是我會略過的支線任務。購買「企業版」包裝並不能神奇地讓所有提示都變得明智。它或許有助於提高用戶留存率和存取權限。真正起作用的還是你的使用習慣。.
你已經貼了一些尷尬的內容——現在怎麼辦🧯
這種事時有發生。你按下發送鍵,靈魂就離開了身體。別慌。做個簡短、略顯樸素的應對動作。.
- 停止使用該密鑰。 輪換密碼,撤銷金鑰,使會話失效。這是徹底解決問題的唯一步驟。
- 如果產品允許,請刪除聊天記錄;如果產品有「最近刪除」資料夾,請清空該資料夾。
- 檢查已連接的應用程式和記憶體。 有些工具會將程式碼片段保存在記憶體或專案檔案中,而您可能忘記啟用它們。
- 若涉及工作數據,請務必告知相關負責人。可以是 安保人員、經理、客戶主管,或任何對洩漏範圍負責的人。及早發現總比事後才發現損失小得多。
- 密切注意 相關帳戶的異常登入情況。輪調人員而不進行監控,工作就只完成了一半。
如果資料來自他人,你也應該負責清理,而且根據情況,可能還需要事先告知對方。這有點尷尬,但總比指望老天爺好。.
不要試圖透過貼上更多解釋來「覆蓋」洩漏的資訊。額外的上下文就是額外的複製貼上。請退出此討論串。.
把它們組合起來
簡短版的 「絕對不能放入人工智慧」 並非一份訓誡清單,而是一種態度。如果某個功能可以解鎖系統、識別身份,或是在咖啡館裡讓你感到不適,那就不要把它放進人工智慧系統裡。你仍然可以從中獲得極大的幫助。你只需要給模型草圖,而不是家門鑰匙、醫療檔案和鄰居的郵件。
快速回顧:
- 無需密碼、密鑰、令牌或助記詞。如果操作失誤,請重新註冊。.
- 沒有真實身分證明、完整財務資訊、原始健康記錄或保密協議資料。.
- 不得洩露他人隱私訊息,尤其是兒童隱私資訊。.
- 截圖會說謊;裁剪時要認真對待。.
- 刪減、填入訊息,並詢問具體方法。具體問題,虛構標籤。.
- 假設歷史記錄會一直存在。在聊天機器人中,不要刪除秘密訊息,而應該將其存檔。.
- 工作場所需要的是簡短的規則和良好的榜樣,而不是隨意的隱私氛圍。.
好好利用這些工具。它們在繪製草圖、調試圖形以及幫你理清各種令人困惑的錯誤方面非常出色。別再把文字框當成一個充滿幽默感的保險庫了。它可是個非常聰明的攪拌機。不過,你還是不該把護照放進攪拌機裡。 🫡
實際案例:為小型工程團隊建立先進行資訊脫敏處理的調試簡報
隱私規則只有在能夠拯救一個普通的星期二時才能真正發揮作用,而不是僅僅聽起來嚴厲。以下是一個由五名英國SaaS人員組成的團隊如何運用本指南中的習慣,在不放棄調試幫助的前提下,停止向消費者聊天機器人洩露憑證和客戶個人識別資訊。.
設想
開發和支援團隊有個共同的痛點:當身分驗證錯誤看起來很糟糕時,有人會把整個日誌、測試環境的連接字串以及管理後台的截圖都貼過來,「這樣模型就能了解上下文了」。上個季度,堆疊追蹤中甚至出現了一個看起來還在運行的 API 金鑰,截圖的 URL 網址列裡還顯示客戶的郵件地址。沒人是故意的,只是速度至上。廚房裡有人錄了音。.
他們不需要長篇大論。他們需要的是一份可重複使用的簡報:按類型描述問題,用佔位符進行編輯,裁剪螢幕截圖,要求提供解決方法而非記憶,然後在離線狀態下將修復方案應用到即時系統中。消費者聊天仍然有其價值。家門鑰匙不會被拿來攪碎。.
目標是在兩秒鐘的預貼上掃描時間內提供同樣高品質的建議,並制定一條團隊成員都會遵守的簡短規則。.
助理需要什麼
- 經過清理的問題描述:錯誤類型、大致發生時間、環境(測試環境或生產環境),不包含網路映射的主機名
- 僅提供虛擬輸入: 已編輯金鑰、 使用者令牌、 customer@example.com、虛假請求 ID
- 已被剝離的部分(提示中已說明,因此模型不會要求輸入真實值)
- 預期輸出:可能的原因、需要運行的檢查、補丁概要——而不是“用我的密鑰連接”
- 將憑證儲存在密碼管理器或金鑰庫中的人員
- 團隊規則一頁紙:禁止發布憑證、客戶個人識別資訊、未公開數據,預設隱藏。
範例說明
目標:請幫我偵錯測試環境 API 在令牌刷新後間歇性出現的 401 錯誤。請不要要求我提供密鑰。.
限制條件:我已經隱去了密碼、API金鑰、令牌、Cookie、內部主機名稱和客戶信箱位址。日誌中的佔位符表示真實值僅存在於我的機器上。英式英語。無前言。.
範例摘錄:對 https://api.example-staging.invalid/v1/session 的請求傳回 401。請求頭 Authorization:Bearer REDACTED_KEY。請求體中提到 USER_TOKEN 已過期。螢幕截圖說明(未附上):僅顯示錯誤提示;書籤列和帳戶切換器已裁切掉。.
任務:列出導致此類錯誤的三個最可能原因、我應該在本地運行的檢查以及一個最小補丁概要。如果需要更多詳細信息,請詢問特定類型的信息(例如“令牌 TTL 設定”),切勿詢問原始密鑰。.
輸出:編號的原因,然後是檢查清單,然後是三個要點組成的「下次不要貼上的內容」。.
如何測試它
- 比較一份舊式貼上內容(完整日誌+螢幕截圖)和上面針對相同事件類型的簡報(已刪減)。比較建議的品質以及該模型是否要求提供機密資訊。.
- 貼上前掃描:發送前,檢查草稿中是否存在 @ 符號、過長的隨機字串以及過長的數字。.
- 特殊情況:提供一個看起來像真的假密鑰的假密鑰,並確認無需真實密鑰值即可回覆。.
- 特殊情況:拒絕上傳螢幕截圖;僅重新輸入錯誤訊息;確認檢查清單仍然有效。.
- 驗收檢查:(1)線程中沒有憑證,(2)沒有客戶聯絡方式,(3)已聲明佔位符,(4)輸出是一個方法/清單,而不是“粘貼您的密鑰”流程,(5)如果之前有任何洩露,則在當天進行了輪換。.
結果
結果範例 (僅針對一個小型工程/支援團隊的估算,並非已發表的研究):在四周的 12 次調試聊天中,生成可用檢查清單的中位數時間略有增加,從約 4 分鐘(完整粘貼)增加到約 6 分鐘(已進行資訊編輯)——其中兩分鐘用於粘貼前的掃描和占位符。包含關鍵資料類型(金鑰、客戶電子郵件、原始連接字串)的聊天記錄從 12 次聊天中的 9 次減少到 1 次(該次聊天記錄在審核中被發現並於當天輪換處理)。在簡單的衛生檢查清單(不包含機密資訊、不包含客戶個人識別資訊、已聲明佔位符、已裁剪或未截圖)中,12 份已編輯的簡報中有 11 份通過審核,而舊方法下只有 3 份通過審核。限制:樣本量小,僅來自一個團隊,時間由團隊成員自行報告;較輕微的事件需要較少的資訊編輯;「通過」標準是同儕對提示文本的審核,而非對供應商日誌的實驗室審計。
要衡量您自己的版本:抽取 10 個最近的 AI 調試線程樣本,檢查是否存在禁止的數據類型;然後抽取 10 個在應用編輯規則和模板後的樣本;報告計數及其分母,以及從“卡住”到“拿到檢查清單”的中位數分鐘數。
可能出現什麼問題
- 截圖走私: 錯誤訊息沒關係;URL欄裡仍然保留著令牌。裁剪兩次,然後檢查邊緣。
- 「僅此一次」的金鑰: 一個洩漏的 API 金鑰就可能開啟帳單和客戶記錄。立即輪換密鑰;不要等到「看看會發生什麼」。
- 他人資料: 包含電話號碼的客戶投訴資訊並非您可以隨意提供給模型使用的。請用自己的話來概括。
- 聊天記錄如同保險庫: 將秘密留在歷史記錄中會建立另一個副本。將所需資訊轉移到本地筆記後,刪除該對話。
- 企業劇院: 認可的工作場所工具有助於留住人才;但這並不意味著佩戴皇冠上的珠寶是明智之舉。
- 失誤後跳過輪換: 刪除聊天記錄而不撤銷密鑰,就等於敞開了大門。
實用要點
人工智慧最不該包含的與其說是一份苛責清單,不如說是一種態度:如果它能解鎖系統、識別身份,或在咖啡館裡讓你感到不適,那就別用它。給模型一個有佔位符的草圖,把憑證保存在保險庫裡,並要求它提供你離線使用的方法。這短短兩秒鐘的停頓,就能避免一個樂於助人、咖啡管夠的實習生變成你存放家門鑰匙的檔案櫃。.
常問問題
哪些內容絕對不能放入人工智慧聊天機器人?
如果它能解鎖系統、識別個人身份,或在咖啡館裡讓你感到不適,那就千萬別用。這包括密碼、API金鑰、令牌、助記詞、政府頒發的身份證件、原始的健康和財務記錄、保密協議材料以及其他人的隱私資訊——尤其是孩子的隱私資訊。聊天記錄並非鎖著的抽屜;文字可以儲存、處理,有時還會用於訓練,這取決於產品和設定。給模型一些帶有佔位符的草圖,而不是完整的鑰匙。.
為什麼人們明知不該這樣做,卻仍然要把秘密資訊貼到人工智慧系統中?
速度才是關鍵:一個棘手的錯誤會讓整個日誌的運行速度感覺比精簡日誌更快。聊天機器人也不會評判用戶,所以隱私意識可以暫時放下。模型通常需要的是問題的大致輪廓,而不是姓名、令牌、帳號或截圖中的人臉——這些都只是點綴。兩秒鐘的停頓勝過生搬硬套。.
將密碼或 API 金鑰貼到 ChatGPT 類工具中安全嗎?
不。如果資訊可以解鎖某些內容,就不應該出現在提示符號中——例如密碼、一次性代碼、會話 cookie、SSH 金鑰、連接字串、錢包種子或私鑰憑證。模型無法像朋友一樣保守秘密;文本仍然會傳播、被記錄,並可能留在歷史記錄中。請按類型描述秘密訊息,使用類似「已編輯金鑰」的佔位符,輪換已洩露的訊息,並將真正的憑證保存在密碼管理器或密碼庫中。.
在提示之前,我應該刪除哪些個人資訊?
個人識別資料(PII)堆積如山:國民身分證、護照資料、地址、電話號碼、員工或學生證,以及與出生日期或診所資訊配對的全名。該模型無需真實的郵政編碼即可起草信函——它需要的是語氣、非識別性事實以及您想要的結果。除非您正在使用虛假範例測試格式,否則請將姓名替換為角色,概括地點,並省略唯一編號。.
我可以將客戶文件、保密協議或內部程式碼貼到面向消費者的AI工具中嗎?
將用戶聊天視為便利工具,而非公司法律顧問。如果您不會在個人 Gmail 草稿或共乘聊天中提及的內容,就不要在公開的 AI 聊天中提及——例如客戶簡報、未發布的路線圖、薪資表、機密法律草案或包含內部主機名的來源。請描述文件內容,貼上經過減敏處理的摘錄,詢問使用者您在線上使用的格式,並儘可能使用已核准的工作場所工具,但預設仍需進行內容編輯。.
我應該如何處理人工智慧提示中的健康或財務細節?
提出高品質的問題,無需提供原始記錄。概括性的解釋比貼上化驗單、處方清單、保險卡、銀行帳單或信用卡照片(這些照片也可能拍到了餐桌上的照片)要好得多。刪除帳號和任何看起來像憑證的資訊。使用聊天記錄來建立框架和清單,以便與專業人士溝通——而不是把它當作你的臨床醫生、會計師或存放報表的檔案櫃。.
為什麼他人的數據和螢幕截圖尤其危險?
你並非唯一被貼上的人:同事的郵件、客戶的電話號碼、孩子的照片或通話記錄都可能在未經本人同意的情況下上傳到系統中。請用自己的語言概括內容,用職名取代姓名,切勿為了「娛樂」而貼上兒童的身份資訊。螢幕截圖會偷偷包含書籤欄、URL令牌、Slack名稱和打開的標籤頁——請裁剪兩次、模糊識別資訊或重新輸入錯誤,而不是上傳護照或銀行卡等個人資訊。.
哪些更安全的提示模式還能獲得可靠的AI答案?
明確描述問題,嚴格控制資訊:目標、限制條件、虛擬輸入、預期輸出。使用佔位符標籤,要求提供方法而非完整的生產日誌,將任務拆分以便自行填寫敏感訊息,並使用合成範例。在貼上前先進行預掃描,檢查是否存在@符號、過長的隨機鍵狀字串、過大的數字以及您不會在投影片上使用的名稱。十秒鐘的功夫,足以彌補終身損失。.
如果我已經把一些尷尬的內容貼到人工智慧聊天視窗中了怎麼辦?
首先停止使用該金鑰-輪換密碼、撤銷金鑰、使會話失效。若產品允許,刪除聊天記錄;檢查記憶體或專案文件;如果涉及工作數據,請告知相關人員;並留意異常登入。如果涉及他人數據,請清理並根據需要發出警告。不要用更多解釋「覆蓋」洩漏的資訊;額外的上下文資訊就是額外的複製內容。.
小團隊如何避免在調試過程中將憑證洩漏給 AI?
使用「先脫敏」的簡報:按類型描述金鑰,提供帶有「已脫敏金鑰」的虛擬日誌和範例電子郵件,說明脫敏內容,並詢問可能的原因以及檢查清單——而不是「用我的金鑰連接」。新增一條簡短的人工規則——禁止提供憑證、客戶個人識別資訊、未公開數據,預設脫敏——並展示一個經過妥善處理的脫敏範例。將真實憑證保存在安全庫中,並在模型建議方法後離線套用修復。.
參考
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Claude — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
您可能還想閱讀以下文章:
🔗 頂級人工智慧安全工具
探索功能強大的人工智慧安全平台,偵測並緩解網路威脅。
🔗 為什麼人工智慧有時會編造故事?
了解人工智慧為什麼會產生幻覺,並學習如何降低風險。
🔗 如何利用人工智慧實現任務自動化?
透過增加人工監督和嚴格規則,實現安全的自動化工作流程。
🔗 什麼是人工智慧技術?
探索人工智慧的基本原理及其常見的實施挑戰。