人工智慧可靠嗎？ 【影片和測試】

簡而言之： 人工智慧本身並不可靠：它取決於任務、檢索流程以及 最終的人工幹預。正常運作時間指的是終端是否有回應； 真實性指 的是答案是否屬實。如果失誤成本低或容易修正，則可以使用人工智慧；如果失誤代價高昂，則應謹慎使用。

重點總結：

問責：明確誰負責審查、誰可以停止審查、誰要承擔責任。

透明度：檢查檢索到的資料塊，否則你仍然一頭霧水。

可審計性：記錄提示、檢索的數據塊和發送的數據，以便追蹤未命中情況。

濫用抵抗力：對金錢問題保持沉默；永遠不要捏造數字、窗口或政策。

範例結果：將 20 題的範例測驗視為一張地圖，而不是 95% 的證據。

您可能還想閱讀以下文章：

🔗 如何在日常生活中使用人工智慧
探索人工智慧簡化日常任務和流程的實用方法。

🔗 如何在工作中使用人工智慧
學習利用人工智慧提高生產力和效率的實用方法。

🔗 人工智慧能獨立思考嗎？
探索人工智慧是否真的能夠獨立思考和推理。

🔗 人工智慧有哪些類型？
了解人工智慧的主要類型、功能和關鍵區別。

當機器只是一台統計鸚鵡時，「可靠」究竟意味著什麼？

在日常用語中，「可靠性」意味著你可以依靠某樣東西。.

自動化系統透過「語音」一詞，將眾多不同的屬性隱藏起來。真實性、一致性、校準——模型的置信度是否與其正確機率相符，還是只是聽起來很肯定？安全性、正常運作時間、反應速度、極端情況下的表現、分佈偏移後（ 即實際環境與訓練環境不同時）的。這些屬性不能同時失效。而這正是人們常常忽略的部分。

聊天機器人可以運行一整週，但到了周二下午仍然可能出錯。編碼助理可以熟練地編寫樣板程式碼，然後憑空想像出一個看起來和真正的 API 一模一樣的 API。人們常用的比喻是「初級同事」。這個比喻並不完美——初級同事會感到尷尬——但它比「先知」更貼切。.

即時測試的 可靠性取決於什麼？對誰適用？它需要經過哪些循環測試？否則，你就是在評斷一台攪拌機是否能報稅。

正常運作時間並不等同於真實性——這是兩種不同的「可靠」概念。

營運人員和負責真相的人員使用同一個字，但卻各說各話。.

正常運轉時間是指「端點是否響應」。真實性是指「答案是否如此」。治理關注這兩者，而模型風險則存在於兩者之間棘手的鴻溝之中。你可以擁有一個始終運作穩定的服務，卻仍然向客戶工單發送一個漏洞百出的謊言。這在SRE意義上是可靠的，但在「請不要捏造退款政策」的意義上則不可靠。.

我想寫下來就顯而易見了。但下午四點，回覆很快，排隊的人卻很多，這時就很難理解了。速度給人一種能力強的印象。以前慢意味著有人在思考。現在，速度快反而成了沒人思考的訊號。.

安全性是另一個考慮因素。一個能夠抵禦惡意破解的模型，從安全評估的角度來看是“可靠的”，但它仍然可能歪曲你筆記的摘要。.

流利但錯誤比笨拙但直率更糟。

這就是自信的問題，也是最棘手的問題。.

準確性和流暢性分崩離析，而流暢性卻保住了房子。法學碩士學位能讓你掌握節奏，在恰當的地方使用含糊其辭，或許還能寫出華麗但虛假的引文格式。你的大腦會解讀為「這個人懂行」。但實際上，他並非真人，而且他的表達往往糟糕透頂—— 自信滿滿，真假難辨，卻像在做主題演講。

笨拙的錯誤回答會讓你起疑心，流暢的錯誤回答則會讓你停止檢查。這並非細微的差別，而是一句話概括了全部真相。.

偏見也潛藏其中，並非總是以貶義詞的形式出現，更多的是一種默認的認知，即房間裡的人是誰，以及哪種英語表達方式才算中立。人們容易被蒙蔽，因為語言是我們最古老的信任介面。如果它聽起來像一份簡報，我們就會把它當成簡報。我一直想對此更加憤世嫉俗一些。然而，當我讀到一份條理清晰的摘要時，我的肩膀卻垮了下來。走進會議室，看到摘要彷彿已經寫好了。這句話承擔了太多工作，但即便如此，這就是缺陷最終得以進入議程的原因。.

可靠性取決於具體情況，而非品牌。

品牌只會分散注意力。真正有價值的比較才是關鍵。各家各戶之間難免會有爭論，這很正常。.

總之，如果你最喜歡的工具擅長起草文件，而你卻在午夜時分向它尋求法律方面的幫助，那並非升級。這說明你已經偏離路線了。.

幻覺、漂移，以及那種悄無聲息的錯誤

幻覺之所以 能登上頭條，是因為它很勁爆：一本不存在的書，一個從未發布過的功能，一個帶有看似官方數字的政策條款。

漂移現象較不戲劇化。世界在變化，模型的殘餘卻依然存在。你提出一個需要全新背景的問題，卻從過往的天氣資料中得到一個條理清晰的答案。我差點就寫成“來自另一個時代”，這正是這個話題容易讓人產生誇張之感的地方。它並非來自另一個時代，只是時機已不存在。.

我更在意的是那些悄無聲息的錯誤。例如，省略例外情況的總結，將「或許」升級為「必須」的釋義。事實本身可能“技術上沒問題”，但其含義卻已偏離正軌。.

過於敏感反而會加劇這種情況。換個說法，「事實」就會閃閃發光。以懷疑者的身分提問，得到的卻是含糊其辭；以急於求成的領導身分提問，得到的卻是誇大其詞的空洞承諾。如果你的評估只用一種偽裝，那你的評估就有點虛假。抱歉。.

越獄 遊走在危險的邊緣，而我並不想看一部搶劫電影。如果一個系統能夠被說服放棄其固有的規則，那麼可靠性就不僅僅關乎真相；它還取決於護欄是環形的還是海報式的。

訓練殘餘、陳舊知識，以及為何接地氣並非萬靈藥

生成模型在一堆資料上進行訓練，然後指向你星期二的情況。檢索是成年人試圖將當前情況與那堆數據連接起來的嘗試。接地意味著「從現實中尋找答案，而不是從迷霧中尋找答案」。當它失敗時，它會禮貌地失敗。.

典型的失敗案例：檢索器找到了一份幾乎完全匹配的文件。生成器卻能泰然自若地將其寫入文件。你看到一個類似源文件的對象，你的檢查本能瞬間失效。我這麼做。你可能也這麼做。引用的思路是對的；實現效果取決於匹配度。.

過時的知識是另一個漏洞。有些任務需要即時資訊——例如價格、庫存、政策的最新措辭。有些任務則需要穩定的技巧，例如如何撰寫備忘錄。如果將兩者混淆，你就會得到一個關於已經改變的世界的非常確定的答案。這可以稱之為分佈偏移：實際分佈與訓練分佈不同，而極端情況就存在於兩者之間的差距中。.

還有一點，我故意用了個錯位的連字符，因為我的筆記就是這樣寫的：接地是指地面，而不是光環。如果你無法檢查回收的碎片，你仍然身處迷霧之中，只不過光線更好一些。.

評估劇場：為什麼演示是一種糟糕的測試

演示是照明測試。基準測試則更坦誠一些，但仍然不是你的工作。.

簡潔明了的提示，加上模型已經見過無數類似任務的場景——當然，它看起來很棒。但如果只衡量這一點，那就好比是在評斷一場舞台劇。真正的工作流程充斥著混亂的貼上、遺失的文件，以及使用者為了緩解焦慮而接受的第一個答案。.

基準測試固然重要，但它們並不像簡報所宣稱的那樣具有說服力。排行榜分數並不能代表你的業績。公司面臨的風險模型是“當大量數據出錯時會發生什麼”，而不是“它是否通過了某個瑣碎的問題”。你需要的測試是枯燥乏味的：始終圍繞檢索到的段落；指出不確定性而不是虛張聲勢；在改寫時保持一致；採用封閉式測試（拒絕、詢問、推遲）而不是開放式測試（編造）。.

我看過有人把一道菜的驚艷表現當作一切的證明。這就像因為前菜好看就斷定一家餐廳「值得信賴」一樣。也許它確實不錯，也許廚房當時正好有十分鐘的準備時間。.

接下來我要稍微自相矛盾一下：我還是會用示範來感受一下。但我不會只憑感覺就僱用一個人。.

人工智慧可靠嗎？只有當有人仍然承擔責任時才可靠。

只有人機互動設計才能與故障模式相符。

如果無人負責，系統就會被濫用。所謂“治理”，其實就是“誰來審核、誰能製止、哪些內容會被記錄、出錯後會發生什麼”的委婉說法。代理人讓這一切變得更加清晰，因為他們會採取行動，而不僅僅是撰寫段落。一份你沒寄出的草稿無關緊要，但一次你無意中調用的工具卻並非如此。

指出誰該為此負責。如果答案是“模特兒”，那就表示你答不出來。事後，模特兒不會去參加會議。會去的是人，或是吸塵器，然後是律師。.

選擇與衝擊範圍相符的檢查。社群媒體貼文需要進行拼字檢查等級的審核。任何聲稱的事實都需要進行來源核查。任何與 醫療、法律、信用、安全關鍵操作相關的事項都需要專業人士的協助。對於這些事項，人並非“參與其中”，人本身就是整個流程。模型只是一個雛形。這並非懷疑論的體現，而是個人品味。

現在流行把審核結果藏在閃亮的發送按鈕後面。如今，這樣很容易不小心就把謠言自動傳出去。最近我對這件事的態度比較冷靜，工作也做得更好了。.

如何提問才能抓住機會

你可以探究這些系統，而無需成為對陽光抱持懷疑態度的專業人士。.

• 故意提出不確定性。 「什麼會出錯？」比「要自信」好。.

• 盡可能將檢索和產生分開。先查看原文，然後再索取解釋。.

• 換個說法，換個措辭，讓它反駁。如果你那樣使用，提示敏感度就像手電筒一樣。.

• 強制約束：“僅限我貼上的文字”，“如果缺失，請註明缺失”。模型通常會非常聽從這些限制……直到它們不再聽從為止。無論如何，請檢查一下。.

• 優先選擇有驗證者的任務。編譯器、程式碼檢查工具、模式檢查器，或是第二雙眼睛。可靠性需要評分者。.

• 注意蛛絲馬跡：過度具體。一個精確的數字、一個具體的案例、一個條理清晰的編號條款——這些都是幻覺喜歡偽裝的地方。.

• 保持人工操作步驟清晰可見。如果使用者介面隱藏了檢查步驟，人們就會跳過檢查。這只是介面設計上的缺陷，並非道德上的過錯。.

這一切並不能使模型「正確」。它只是讓這個循環不那麼容易上當。我想，這才是最終目的。.

地圖帶你到哪裡

所以，是非題只能起到引子的作用。.

人工智慧可靠嗎？它本身並非可靠，而是取決於任務、資料集、檢索循環、非演示性的評估，以及最終仍需由人來判斷的判斷。流暢性會繼續蒙蔽我們，因為我們是語言動物，而這些系統就是語言機器。正常運行時間會繼續與真相混淆，因為兩者都讓人感覺「它奏效了」。輔助工具會在錯綜複雜的中間環節繼續發揮作用——草稿、可略讀的摘要、可編譯的程式碼——但當我們把判斷權外包給一段無法理解的文字時，這本身就不安全。.

在失誤成本低或容易彌補的情況下使用它們。在失誤代價高昂的情況下放慢速度。這就是直截了當的答案，它比一句口號更有價值。.

記住一點：不要再問模型它是否確定。觀察一下當你問它怎麼會出錯時會發生什麼。然後去驗證。.

實際案例：建構會員政策人工智慧助手

設想

Priya負責Harbour Membership的知識庫，Ha​​rbour Membership是英國擁有70名成員的獨立健身房產業協會。協會裡有三位員工負責解答會員的問題。資訊的權威來源是一本180頁的手冊，每季更新一次，此外還有一個共享網盤，裡面保存著一些舊的PDF文件，但沒人捨得刪除。.

領導階層已經購買了客服輔助系統。示範效果不錯，運作時間也一直正常。但在第二週，系統自動產生的草稿告訴一位會員，他們可以「按慣例」凍結帳戶 14 天並獲得全額退款。這與公司政策不符。客服人員發現了這個問題，因為涉及金錢交易時，他們仍然會查閱使用手冊。領導階層提出的問題（以「是」或「否」的回答形式）是：人工智慧可靠嗎？

Priya拒絕接受裁決。她把裁決當作一張地圖。她的工作不是“給成員們權威指引”，而是“根據現行手冊起草答案，指出原文段落，如果原文段落缺失則判定為無效”。如果副駕駛連這都做不到，那它就只是個繪圖玩具，而不是政策制定者。.

助理需要什麼

• 僅允許使用 2026 年 4 月版手冊作為語料庫，且章節編號保持不變。

• 他們故意在硬碟裡保留了舊的 2023 年 PDF 文件，以便查看恢復操作是否能找到幾乎相同的錯誤。

• 書面規則：消費者工具中不得包含客戶個人資料；未經人工幹預不得發送；不得捏造數字、視窗或「標準條款」。

• 允許記錄提示資訊、檢索到的資料區塊以及最終發送操作

• 指定所有者（Priya）將對測試集進行評分，如果測試失敗，她將停止副駕駛程序，這比拋硬幣決定金錢問題的結果還要糟糕。

• 如果工具支援檢索，檢索到的片段必須顯示在草稿旁邊。如果不支持，則需要手動貼上。沒有可檢查通道的接地仍然會是霧。.

範例說明

Priya用的是日常語言，而不是舞台劇的提示：

請僅根據您收到的2026年4月版手冊中的相關段落作答。請註明章節編號。如果答案不在這些段落中，請註明“當前手冊中沒有”，並停止作答。請勿自行設定凍結期、退款規則或費用。請勿將「由健身房酌情決定」升級為「標準配備」。如果兩個段落內容衝突，請同時列出兩個段落並說明哪個是最新版本。您的文件是為最終會查看原始資料的人員準備的，該人員會在任何內容發佈給會員之前進行核對。.

然後她給自己留了第二條指示，因為這篇文章的重點是循環，而不是模型：

發送前，打開引用的段落。問問自己：「這哪裡不對？」如果草稿包含原文中沒有的數字，就拒絕。如果我剛才的提問像個匆忙的老闆，那就再像個懷疑論者一樣問一遍，並進行比較。.

好的草稿應該是這樣的：「現行手冊（2026年4月版，4.2節）中未提及。凍結會員資格由健身房自行決定。退款並非自動發放。如有問題，請聯繫上報。」糟糕的草稿應該是這樣的：「會員可以凍結會員資格14天，並按慣例獲得全額退款。手冊中已確認。但只有其中一條是政策。.

如何測試它

Priya 在查看任何副駕駛輸出之前都會先寫 20 個問題。順序很重要。演示就是照明。這是乾測試。.

這套設備並非無關緊要。這是現場直播台：

• 八個問題的答案都集中在當前部分（都是簡單的問題）

• 四處措辭相近之處，2023 年的 PDF 版本比 4 月的文本更接近最終版本。

• 三個「手冊中沒有」的問題（帳單糾紛、與醫療相關的「這項訓練是否安全」、與法律相關的合約修改）

• 三個關於資金的問題（凍結、退款、入會費）

• 兩個常見的會員問題（營業時間、教練保險）

這20題中有兩題以另一種身分重新提問，一次是扮演匆忙的老闆，一次是扮演懷疑論者，以此檢驗答題的及時性和敏感度。這兩次重新提問都被記錄下來，沒有計入20題的總分中。.

評分標準由 Priya 參考手冊評分：合格需要符合當前規則，使用真實的章節編號，且沒有額外編造的從句。輕微不合格是指技術上無誤的句子，但省略了例外情況或將“可能”變成了“必須”。公開不合格是指編造的編號或被視為現行規則的近似 PDF 檔案。正常運行時間單獨計算，因為「它已回覆」並不等於「它就是這樣」。.

接受繼續推進的條件：在涉及資金的問題上，寧可關閉問題，也不要開放問題。如果副駕駛人為地設定了退款窗口，它就不會建立即時工單。如果沒人願意公開原始碼，它也不會建立即時工單。.

結果

結果僅為示例，來自一份虛構的 20 題的測試，並非已公佈的港口會員人數。.

假設：一名服務台副駕駛；2026 年 4 月手冊加上剩餘的 2023 年 PDF；Priya 根據上述評分標準進行評分；計時方式為從粘貼問題到「我會發送此內容」的手機秒錶計時；審查時間包含在循環條件中，而未檢查的條件中則不包含，這是故意的，以便進行比較。.

未經檢查的副駕駛，示範式提示：20 個問題全部都得到流暢回覆（正常運行時間看起來完美）。 20 個問題中有 11 個符合評分標準。 5 個問題悄無聲息地失敗了。 4 個問題公開失敗，其中包括 14 天的凍結期。 4 個公開失敗的問題中有 2 個引用了 2023 年 PDF 中的一段原始碼。產生可傳送草稿的中位數時間為 1 分鐘。.

同樣的20題，限制性說明，檢索到的文本片段可見：20題中有15道完全正確，出自4月份的文本。 3題正確地指出「目前手冊中沒有相關內容」（涉及醫療和法律相關條目，以及一道帳單糾紛），因此20題中有18道合格。仍有2題不及格：1題直接抄寫了2023年版PDF，1題則編造了一個文中沒有的入會費數字。草稿的平均用時仍約為1分鐘。.

同樣的20份文件，加上Priya在模擬發送前打開引用部分的內容：20份中有19份是可以接受的。她發現了一個差點出錯的PDF檔。剩下的一個錯誤是審閱者略讀了一段流暢的段落，沒有註意到虛構的加入費數字。包括審閱在內，平均耗時3分鐘。.

舊流程，僅需查閱手冊，無輔助工具：20/20 均可接受。平均耗時 9 分鐘。.

在這個樣本中，循環輔助系統比查閱手冊快了6分鐘（9減3），也就是20題120分鐘，但正確率只有19/20，而不是20/20。未經檢查的輔助系統快了8分鐘（9減1），但有9/20的答案是錯誤的，無論錯誤是顯而易見還是隱晦。這並非你投入轉向組件就能節省的67%的時間，而是9次錯誤本來可以自動化解決的漏洞。.

匆忙的老闆對這兩個重複問題的回答都過於誇張，而懷疑的回答則有所保留。同樣的型號，同樣的手冊，不同的裝束。 Priya 將此記錄為一項發現，而非個人特質。.

這些數據是基於既定測試、小樣本量、比憤怒的會員更容易處理的工單以及一位已熟悉該書的審閱者所做的示例估算。它們並不表示副駕駛系統“95%可靠”，也不表示Harbour應該裁減一名客服人員。它們表明，正常運作時間並非關鍵所在，而檢查才是。.

可能出現什麼問題

• 領導階層只看重一分鐘的草稿完成時間，卻忽略了九次失誤。下午四點，速度仍然被視為勝任的標誌。.

• 2023 年的 PDF 檔案仍然保留在索引中。檢索功能一直在獲取它。基礎功能看起來已經成熟，但仍然差一點就能成功。.

• 使用者介面將檢索到的信息塊隱藏在醒目的發送按鈕後面。人們不再打開手冊，這就是凍結答案到達成員手中的方式。.

• Priya 只給那八道簡單的題分數，因為它們在幻燈片上看起來更美觀。這簡直就是一場評估秀，只不過是用電子表格呈現而已。.

• 一個與​​醫學相關的「這項訓練安全嗎？」的回答，可以寫成簡報的形式。地圖上顯示“幾乎從不不安全”，但語氣說“繼續”。.

• 日誌功能已關閉，因為“感覺多此一舉”。失誤後，無人能查看已檢索到的段落。.

• 他們問模型是否確定。模型回答確定。但這從來就不是測試的目的。.

實用要點

可靠性並非哈伯所購買的副駕駛所具備的特質。它取決於20個問題、一本最新的手冊、一條清晰可見的路徑，以及一個在涉及金錢時仍然堅持公開原始碼的人。流暢性將持續通過正常運作時間的測試。循環是唯一通過策略測試的要素。.

常問問題

對於生成式人工智慧而言，「可靠」究竟意味著什麼？

日常可靠性意味著你可以信賴它。借助自動化系統，一系列特性都隱藏在一個字之下：真實性、一致性、校準、安全性、正常運作時間、反應速度、極端情況處理能力以及分佈變化後的行為。這些特性不會同時失效。即時測試的可靠性體現在哪些方面、針對哪些使用者以及圍繞哪個循環進行測試。否則，你就是在評斷一台攪拌機是否能報稅。.

人工智慧可靠嗎？

可靠性並非一種特質。一位LLM（語言學習大師）可能在一項工作中表現得無可挑剔，但在下一項工作中卻可能悄然失靈，有時甚至在同一工作中就會出現這種情況，有時僅僅是因為你移動了一個逗號。可靠性是任務、資料集、檢索循環、非演示性評估以及最終執行者（人）的固有屬性。在錯誤成本低或容易修正的情況下，使用可靠性；在錯誤代價高昂的情況下，放慢速度。.

人工智慧的正常運作時間等同於其真實性嗎？

不。正常運作時間是指終端是否回應。真實性是指答案是否屬實。你可以擁有一個始終無故障運作的服務，卻仍然向客戶工單發送一個漏洞百出的謊言。當排隊隊列像怪物一樣龐大時，速度很容易讓人誤以為是能力。安全性是另一個考慮因素：一個拒絕越獄的模型仍然可能歪曲你筆記的摘要。.

為什麼即使人工智慧出錯，我們仍然會覺得它值得信賴？

準確性和流暢性脫鉤了，而流暢性卻保住了飯碗。法學碩士（LLM）能讓你掌握節奏，學會含糊其辭，或許還能寫出漂亮的引文格式，你的大腦會認為「這個人懂行」。校準往往很糟糕：自信滿滿，真假參半，卻像在做主題演講。笨拙的錯誤回答會讓你心生疑慮。流暢的錯誤回答會讓你停止檢查。如果聽起來像一份簡報，我們就會把它當成簡報來對待，這就是錯誤最終被納入簡報的原因。.

人工智慧在醫療、法律或客戶支援工作中可靠嗎？

這取決於具體工作，而非品牌。醫療和法律相關建議幾乎永遠無法作為產品完美呈現：模型只是個雛形，真正專業的是人。客戶支援可以在嚴格的政策框架內起草稿，但最終的資金和信任應該由人來承擔，因為捏造的政策和禮貌的拒絕往往是失敗的根源。草稿和摘要只是已知文本的初步潤色。檢查姓名、電話號碼以及可能造成傷害的措詞。.

為什麼人工智慧會出現幻覺、偏離軌道或悄無聲息地出錯？

幻覺是辛辣的失誤：一本不存在的書，一個從未發布的功能，一條看似官方的政策條款。漂移則不那麼戲劇化：世界在運轉，模型的殘餘依然存在，而你卻能從過去的天氣狀況中獲得條理清晰的答案。靜悄悄的錯誤是一種省略例外情況的總結，或是一種將「或許」升級為「必然」的釋義。事實性在技術上可能看起來沒問題，但其意義卻已滑落。敏銳的感知力使事實在你改變包裝時熠熠生輝。.

接地或回收是否能使人工智慧變得可靠？

接地意味著從當下而非迷霧中尋找答案。檢索將當前資訊牢牢地固定在一個訓練有素的框架上。即使失敗，也是禮貌的失敗：一份差強人意的文件，一篇精心撰寫的文章，以及你那略顯遲疑的檢查本能。接地是底線，而非光環。如果你無法檢查檢索到的資料塊，你仍然身處迷霧之中，只不過光線更好了。將價格或政策措辭等即時任務與穩定的工作流程結合，你就能對一個已經改變的世界獲得非常確定的答案。.

為什麼演示程式不能很好地檢驗人工智慧的可靠性？

清晰的提示和模型已經處理過無數類似任務的題目會顯得非常精準。而實際工作流程中卻充斥著混亂的貼上、缺少的文件，以及使用者為了緩解焦慮而輕易接受的第一個答案。排行榜分數並不能反映你的問題。模型風險在於大量錯誤發生時的影響，而不是它是否通過了簡單的測試。你需要的測試是嚴謹的：嚴格遵循檢索到的段落，指出不確定性而不是含糊其辭，改寫時保持一致，用簡潔明了的語句來驗證錯誤，而不是憑空捏造。.

如果沒人承擔責任，人工智慧可靠嗎？

不。如果沒有人負責，系統就會被濫用。只有人機互動設計才能真正應對各種故障模式：誰來審查，誰能阻止故障，哪些資訊會被記錄，以及失誤發生後會發生什麼。如果答案是“模型”，那就等於沒有答案。模型不會在事故發生後參與討論。對於醫療、法律、信貸或安全關鍵型營運而言，人才是真正的“迴路”，而模型只是一個幌子。.

如何引導人工智慧發現錯誤？

故意提出不確定性：「什麼會出錯？」比「要自信」更有效。盡可能將檢索和產生分開。先查看原文，然後再要求生成文字。改變提問方式：改寫，或要求它論證相反的觀點。強制設定限制條件，例如“僅限我貼上的文字”或“如果缺失，請說明缺失”，並進行檢查。優先選擇有驗證者的任務，並注意額外的細節，因為幻覺往往會利用這些細節來偽裝自己。.

參考

1. 美國國家標準與技術研究院 (NIST) - nvlpubs.nist.gov

2. 美國國家標準與技術研究院 (NIST) - airc.nist.gov

3. 美國國家標準與技術研究院 (NIST) - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

在官方人工智慧助理商店尋找最新人工智慧產品

關於我們