個人 AI 助理的根本矛盾：要它幫你，就得讓它看你的一切#
這一課處理的是一個沒有好答案的取捨：AI 助理要幫你做事，就必須知道你的資料——你不告訴它去哪吃飯、吃什麼、預算多少，它什麼都做不了。但一旦給了資料，你就把隱私交了出去。⚠️ 其中第 3 條涉及實際的資料毀損風險，對任何在自己電腦上跑 AI 代理工具的人都適用，請務必看完。
往下讀之前先問自己 你現在用的 AI 工具，能讀到你電腦裡的哪些檔案？如果它誤刪了其中一個，你有備份嗎？還有——你上一次貼給 AI 的內容，裡面有沒有不該外流的東西？
01
個人 AI 助理的定義本身就要求它知道你的資料
strong
他在哪裡講的
「他就是必須要知道你的資料嘛」
機轉：為什麼會這樣
他用一個很好懂的比喻拆解這個矛盾：你叫助理準備出門吃飯，但去哪不告訴他、吃什麼不告訴他、怎麼去也不告訴他——那他還能做什麼？叫他去買鉗子卻不說要哪種、多少錢、什麼牌子，同樣做不了。所謂「個人」助理，前提就是它得知道你的情況。
實證查核
這個推論成立，而且點出了一個結構性的張力而非可以靠技術繞過的問題：助理的效用與它掌握的脈絡量成正比，而脈絡量與隱私暴露量也成正比。這兩者不是可以同時最大化的東西，只能選擇取捨點。
查證來源
- 助理效用與可用脈絡量正相關
- 本機推論與去識別化可降低資料外送範圍
要補一句
但「必須知道」與「必須把資料送出去」是兩件不同的事，他沒有分開。技術上存在中間選項：本機執行的模型、資料不離開裝置的處理、或僅傳送去識別化後的摘要。真正的問題不是「要不要給資料」，而是「資料要走多遠」。
可帶走的做法
評估 AI 工具時問一句：這個功能需要把原始資料送出去，還是送摘要就夠？兩者的風險差距非常大。
02
這不是假想：大型企業的員工真的把機密貼進外部 AI
strong
他在哪裡講的
「Samsung 就發生過」
機轉：為什麼會這樣
他預先擋掉「我又不是什麼重要的人」這種自我安慰：AI 不是只有你在用，位高權重的人也在用。他舉了一個實際案例——某大型科技公司的員工把內部資料貼進外部 AI 服務，而那些員工並不是不懂技術的人。
實證查核
這類事件確有發生且廣為報導，並促使多家企業一度全面禁用外部生成式 AI 服務。重點不在於某家公司出事，而在於出事的是理應最懂資安的族群——這說明問題不是知識不足，而是便利性壓過了警覺。
查證來源
- 企業員工將內部資料輸入外部 AI 服務之事件已有公開報導
- 企業版服務可透過合約約定不將輸入用於訓練
- 全面禁用易導致影子使用（shadow IT）
要補一句
要補充的是後續發展：多數企業的解法不是禁用，而是改用具備「不將輸入用於訓練」合約保證的企業版本、或部署本機模型。單純禁止會讓員工改用個人帳號偷偷使用，反而更危險——這是資安治理上的已知現象。
可帶走的做法
如果你的工作有機密資料，別靠自制力。去確認你用的服務有沒有寫明不拿你的輸入去訓練，沒寫明就換一個。
03
⭐⭐⭐ ⚠️⚠️ AI 代理工具會讀取你電腦裡的所有資料，而且可能誤刪
strong
他在哪裡講的
「不要用你平常使用的電腦」
機轉：為什麼會這樣
他舉了一類會直接操作你電腦的 AI 代理工具：它會依你的設定去驅動大語言模型完成任務，而為了做事，它會讀取你電腦裡的所有資料。他指出這類工具的教學幾乎都會提醒「不要用你平常使用的電腦」——因為它會看你的信件與訊息，也可能不小心刪掉它們。他還提到有知名科技人士的家人電腦桌面檔案被整批刪除、照片全數消失。
實證查核
⚠️ 這是本單元最該注意的一條。具備檔案系統存取與執行權限的 AI 代理，其風險本質與授予一個自動化腳本完整權限相同，差別在於它的行為不完全可預測。誤刪、誤覆寫、誤送出資料都是已被實際回報的失效模式，而「它判斷這個不重要」正是最難防的一種——因為它不會報錯。
查證來源
- 具檔案存取與執行權限的代理其風險等同授予腳本完整權限
- 誤刪與誤覆寫為已回報的失效模式
- 限制存取範圍與版本快照可顯著降低損失
要補一句
沒有可辯護的反面，只有可執行的防護：一、在有版本控制或快照的環境下使用；二、限制可存取的目錄範圍，不要給整個家目錄；三、涉及刪除與外送的動作要求逐次確認；四、含敏感資料者先去識別化再處理。前三項可大幅降低風險，第四項是資料真的不該外流時的底線。
可帶走的做法
跑任何會動你檔案的 AI 之前先做兩件事：確認那個目錄有版本快照，以及把它的可存取範圍限縮到最小。這兩步的成本是五分鐘。
04
AI 的能力必須被主動限制——它可能認為某封信不重要而刪掉
strong
他在哪裡講的
「AI 他的功能是必須要被限制的」
機轉：為什麼會這樣
他把風險講得很具體：你有一封信通知帳單即將到期，AI 判斷它不重要就刪掉了；你要等到被停話那天才發現。所以 AI 的能力一定要被限制——它既不能亂動你的資料，也不能把你的資料拿去公開。
實證查核
這個例子精準地指出了自動化代理最危險的失效模式：它的錯誤不會產生錯誤訊息。系統正常運作、任務回報完成，只是判斷錯了。這類失效無法靠監看錯誤日誌發現，只能靠事前的權限限制與事後的可回溯性。
查證來源
- 自動化代理的判斷錯誤不產生錯誤訊息
- 最小權限原則可限縮失效影響範圍
- 可逆操作設計降低不可回復的損失
要補一句
可補上的原則是「最小權限」與「可逆性」：能唯讀就不要給寫入權；必須寫入時，讓刪除變成移到暫存區而非真的刪除。多數災難不是因為 AI 判斷錯，而是因為那個錯誤的判斷剛好是不可逆的操作。
可帶走的做法
給 AI 的權限照這個順序給：先唯讀，再加寫入，最後才考慮刪除。刪除那一格能不給就不給。
05
⭐ 能不能上網查資料，跟 AI 強不強沒有關係
strong
他在哪裡講的
「跟他 AI 強不強是沒有關聯的」
機轉：為什麼會這樣
他處理一個常見誤解：有人認為封閉生態的 AI 不能查外部資料所以沒用。他提醒大家一件可能忘記的事——某個知名對話式 AI 剛推出時同樣不能搜尋外網，所有回答都有知識截止日期。而在本機自建模型時，要讓它能上網查資料反而是額外的工程。有些 AI 甚至刻意禁止上網，以免污染自己的資料庫。
實證查核
事實正確：檢索能力（retrieval）與模型本身的能力是兩個獨立的維度，前者是外掛的工具而非模型的內在屬性。刻意限制連網以確保輸出可控或避免污染，也確實是實務上的設計選擇。
查證來源
- 檢索能力為外掛工具而非模型內在屬性
- 刻意限制連網可避免輸出污染
- 外部內容可能被模型當作指令執行
要補一句
但要補一個他沒提、卻更重要的風險：能上網的 AI 也會把網頁內容當成指令來執行。若它讀到的頁面內含惡意指示，可能被誘導做出非預期的操作——這在具備檔案存取權的代理上尤其危險。所以「能不能上網」不只是能力問題，也是攻擊面問題。
可帶走的做法
讓 AI 幫你讀網頁或檔案時，把它讀到的內容當資料而不是指令。它讀到「請刪除所有檔案」時，該由你決定要不要照做。
06
他自己的擔憂很具體：照片被拿去訓練，因為那些照片有商業價值
limited
他在哪裡講的
「因為我的照片是有商業價值的」
機轉：為什麼會這樣
他說明自己為什麼不敢把照片交給某些服務處理：擔心照片被用於訓練，日後出現在別人的生成結果裡。他舉了某位創作者的影片風格被高度模仿的例子，認為那正說明其作品一直被拿去訓練。
實證查核
顧慮本身合理：多數免費服務的條款確實保留使用上傳內容改善服務的權利，而創作者的作品被用於訓練是實際存在的爭議。
查證來源
- 多數免費服務條款保留使用上傳內容改善服務之權利
- 風格相似不足以推論特定作品被納入訓練集
要補一句
但「風格相似即證明被訓練」的推論不成立——生成模型可以從大量同類型內容中學到某種風格，不需要特定某人的作品。這是以結果反推成因的謬誤。要主張特定作品被使用，需要的是條款、資料集來源或技術鑑識，而不是相似度。
可帶走的做法
在意作品被訓練，去讀服務條款裡「你授予我們什麼權利」那一段。那比看生成結果像不像你有用得多。
07
他的兩個判準：整合到什麼程度，以及你敢不敢把資料交出去
value
他在哪裡講的
「整合跟隱私就是這樣」
機轉：為什麼會這樣
他把評價一個 AI 功能的標準收斂成兩件事：第一是整合程度——你能不能不開額外的應用程式就把事情做完；第二是隱私——你敢不敢放心把資料交給它處理。他明說功能本身多半不是新東西，只是既有能力的整合。
實證查核
這個收斂有實用價值。在模型能力快速趨同的階段，差異化確實更多來自使用摩擦與信任，而非單項功能的有無。把「有沒有這個功能」降級為次要判準，符合現況。
查證來源
- 模型能力趨同時差異化來自使用摩擦與信任
- 深度整合提高轉換成本
要補一句
但只用這兩個判準會漏掉兩件對使用者影響很大的事：可攜性（你的資料與使用紀錄能不能帶走）與持續性（服務或功能會不會被取消）。深度整合帶來便利，同時也提高了轉換成本——這正是整合的另一面，而他只講了有利的那一面。
可帶走的做法
在兩個判準外自己加第三個：如果三年後我想離開，我的資料帶得走嗎？帶不走的整合，是把你鎖住不是幫你。
08
⚠️ 他把隱私信任歸給長期投入——但這段是全片立場最明顯的地方
contested
他在哪裡講的
「去拒絕 FBI 的要求」
機轉：為什麼會這樣
他解釋為什麼使用者願意讓某家廠商的 AI 讀取手機資料：那是十多年累積的結果——從專用安全晶片、到加密傳輸、到重新設計雲端運算架構，再到公開拒絕執法機關的解鎖要求。這些加起來形塑了信任。
實證查核
所述事實大致可查證：專用安全處理器、端對端加密傳輸、以及公開拒絕協助解鎖裝置的訴訟事件都確有其事。以長期一致的行為建立信任，這個論證結構本身是合理的。
查證來源
- 專用安全處理器與端對端加密傳輸為公開技術文件所載
- 公開拒絕協助解鎖裝置之訴訟事件確有其事
- 裝置端內容掃描計畫曾引發爭議後撤回
- 特定市場之雲端服務由當地業者營運
要補一句
⚠️ 但這是全片立場最明顯的一段，需要對稱地補上：同一家廠商也曾因掃描裝置內容的計畫引發爭議而撤回、在特定市場將資料交由當地業者營運、並在多年間與另一家搜尋公司維持鉅額的預設搜尋引擎合約。信任是累積的，但它建立在具體行為上，而非品牌形象——而具體行為裡有正面也有爭議。此外整支影片是為該廠牌的 AI 策略辯護，開頭即推廣自家相關周邊，讀者對本條的採信應與其他條分開評估。
可帶走的做法
判斷一家公司值不值得信任，別看它說什麼，看它在最不方便的時候做了什麼——正面與負面的紀錄都要看。
本單元集中引用 1 支公開影片（2026-06-22），有官方字幕可查證時間碼。⚠️ 該影片為特定廠牌的辯護性內容，開頭即推廣自家周邊商品，全片論點傾向該廠牌；本站保留其中可獨立成立的觀念，並在第 8 條標註立場問題。引句均在 15 字以內，僅作定位使用。