矽谷輕鬆談 Just Kidding Tech

👉 矽谷輕鬆談專屬優惠連結：https://nordvpn.com/jktech
訂閱即額外多送 4 個月｜30 天退款保證

#NordVPN

🔒 本集節目由 NordVPN 贊助

根據內政部 165 打詐儀表板，詐騙件數第一名的類別是「網路購物」。社群上那些限時特價的一頁式廣告，做得跟官方商店一模一樣，用完就丟、換個網域再開，讓你根本學不會怎麼認出它。NordVPN 內建的威脅防護會在你連上這些網站之前就先擋掉，釣魚連結、惡意網站都在源頭自動處理，不用你自己判斷。

有興趣的朋友透過上方矽谷輕鬆談的專屬連結試試看，訂閱額外多送 4 個月，30 天不滿意直接退，完全沒有損失。

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

你有沒有想過，現在網路上大概每三個網頁就有一個帶著 AI 處理過的痕跡，而且只會越來越多。所以對這些模型商來說，2022 年 ChatGPT 出現以前、還沒被 AI 污染過的資料，突然變成一種稀缺資源。而他們的解法蠻粗暴的，就是直接去二手書市場大量收書，掃描，然後銷毀。

Anthropic 在 2024 年偷偷啟動了一個叫巴拿馬計畫的東西，內部文件寫得很直接，要大規模掃描全世界的實體書，而且不能被其他人發現。很多人以為是為了乾淨資料，其實他們一開始的動機是版權。至於他們試過買數位版、也試過一家一家去談授權，最後為什麼還是回去走這種土法煉鋼的路，我在影片裡講。

更好笑的是 Amazon。一開始是二手書商發現怎麼一直有來路不明的大單，一筆下去可能就是他們一週的營業額，而且每次買家還都不太一樣。後來一個 404 Media 的記者乾脆在書裡縫了 AirTag，一路追到拉斯維加斯的一個 Amazon 倉庫，代號 VGT3，倉庫 logo 是一隻恐龍抓著書在啃。他們掃書還有個規矩，只買沒重複過的 ISBN，連市面上剩沒幾本的珍本都照掃照毀，也難怪社群上反彈這麼大。

很多人把這件事類比成焚書坑儒，但我覺得性質不太一樣，秦始皇是不想讓知識傳出去，這些公司是想把知識鎖進自己的資料庫裡。至於掃描完為什麼不乾脆賣回去、非得銷毀不可，我自己歸納出三個理由，一個最直接跟成本有關，一個跟法律有關，還有一個就比較不能明講了。

不過拿到乾淨資料就贏了嗎？我覺得是也不是。這招在 2023 年很成立，但 scaling law 後來慢慢撞牆，大家才轉去做強化學習跟推論時的運算。有趣的是這條路也有它的代價，模型在能被驗證的程式、數學上越來越強，可是在沒辦法量化的語感上反而退步了。我前陣子換到 Opus 5 之後真的很煩躁，每個字我都看得懂，連起來卻不知道它在公三小，一度還懷疑是不是自己腦霧，後來才發現不是我的問題，是模型的問題。

最後我聊了一個反過來的角度。當這些公司拼命想餵乾淨資料的同時，也有人正花大錢想餵髒的。以色列政府花了 90 萬美金請公關公司做了一個看起來很中立、有引用有註腳的假智庫網站，目的就是讓你問到以巴衝突的時候，ChatGPT 或 Gemini 會引用到他們的觀點。還有一種更難防的，是網站裡藏一些你看不到的字，等你請 AI 幫你摘要，那些字就悄悄把某些想法寫進 AI 給你的答案、甚至你的個人記憶裡。

所以在這個時代，你還敢全信 AI 講的每一句話嗎？看完歡迎在下面留言告訴我。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭：AI 公司正在偷買二手書，掃描完就銷毀
(01:01) 最近讓我最有感的防詐工具
(02:26) 2022 年以前的書，為什麼變成 AI 最想要的資料
(02:56) Anthropic 的巴拿馬計畫：為了版權，偷偷掃描全世界的書
(04:52) Amazon 也在幹一樣的事：記者用 AirTag 抓到吃書恐龍倉庫
(06:30) 這不是焚書坑儒，是知識私有化
(07:51) 掃完為什麼不賣回去，非得銷毀？三個理由
(09:14) 拿到乾淨資料就贏了嗎，其實沒那麼簡單
(11:05) 岔題吐槽：Opus 5 的語感到底怎麼了
(12:42) 從 test-time compute 到持續學習與 RSI
(15:04) 換個角度：有人反而想幫 AI「下毒」
(15:50) 看不見的隱藏字，怎麼悄悄污染你的 AI
(17:14) 結尾：戶外聊天這個形式，你們喜歡嗎

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

Anthropic 最近宣布要在他們所有文字模型的產出上加浮水印。一開始我以為只是他們自己的政策，結果背後是歐盟一條 8 月 2 號生效的新法，Gemini、OpenAI、Grok 這些主流模型全都得跟。而且它管的不只是歐洲人，模型也分不出你是不是歐洲人，所以 12 月 2 號之後連舊模型都要補上，你平常在用的這些工具，產出的東西大概都會帶著一個你看不到的記號。

這集我把文字、圖片、聲音、影像這四種浮水印怎麼藏進去、又怎麼被抓出來，一種一種講清楚。圖片、影像、聲音這三種其實蠻像的，都是靠一組神經網路，把肉眼肉耳都察覺不到的訊號嵌進去。聲音那段我自己覺得最有意思，它得先把聲波變成一張圖，在圖上動完手腳，再變回聲音。文字就完全是另一套邏輯了，2023 年那篇開山論文用的方法我把它叫做「紅綠燈」，很聰明，但也有它的代價，後來 Google 的 SynthID 才又想辦法補回來。

中間有一段講到 OpenAI。他們其實 2024 年就把文字浮水印做得差不多了，準確度號稱可以到 99.99%，本來都要推出了。結果他們做了一份問卷問使用者，看到某個回覆之後，就把這個功能收起來，一路藏到現在。一家整天在講安全、講透明的公司，手上有一個能證明「這是我做的」的工具卻選擇不放，他們到底在顧慮什麼，我覺得蠻值得想的。

從這件事我也延伸聊了一個比較個人的問題：既然 AI 產的東西以後都有記號了，那我們在工作上、在創作上，到底還該不該用 AI。我的想法是沒有標準答案，差別在於這件事對你來說是一個省事的手段，還是一件你本來就享受在做的事。我拿曼尼很愛寫作這件事當例子，也講了為什麼我自己反而蠻放心把文字交給 AI。

後半我把現在浮水印技術還解不掉的問題整理成三個難題，其中一個會用小時候玩的「尋找威利」來解釋什麼是零知識驗證。而文字浮水印最尷尬的地方是，它基本上防君子不防小人，一個大部分人都做得到的小動作，就能讓整個記號失效。至於是哪個動作，我在影片裡會講。

如果有一天你用 AI 產的每一段文字、每一張圖都被標上記號，你會因此少用，還是根本不在意？看完歡迎在下面留言。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭：歐盟新法上路，全世界的 AI 內容都要加浮水印
(01:14) 倒帶 2023：Google SynthID，浮水印的開山祖師
(02:03) OpenAI 早就做好文字浮水印，為什麼選擇不用
(02:44) 該不該幫 AI 內容加浮水印，又該不該用 AI 創作
(03:29) 曼尼很愛寫作，而我為什麼放心把文字交給 AI
(05:15) 圖片、聲音、影像的浮水印是怎麼藏進去的
(06:37) 聲音浮水印最有趣：先變成頻譜圖再動手腳
(07:25) 這集重點：文字浮水印的「紅綠燈」方法
(10:28) 紅綠燈的副作用，跟 SynthID 的加強版
(13:19) 現在浮水印技術的三大難題
(13:53) 用「尋找威利」秒懂零知識驗證
(16:23) 防君子不防小人：一次翻譯就能讓浮水印失效

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

2023 年 Google 把 Google Brain 跟 DeepMind 合併成一個部門，當時的兩個主角，一個是 Jeff Dean，一個是 Demis Hassabis。三年後，一個卸下了 CEO，一個直接離開公司。消息出來那天，Alphabet 股價跌了 5%，市值蒸發 2000 億美金。

有人會覺得市場反應過度，畢竟走的就那幾個人，在 Google 這種量級的公司佔比根本不高。我在影片裡聊了為什麼這個跌幅可能一點都不誇張。

Jeff Dean 出去創業，募資投影片只有兩頁，陽春到如果換成一般人放出來大概會被問到懷疑人生。順帶一提，我以前在灣區週末踢球，有一次比賽抬頭發現對面站的是 Jeff Dean。至於他球技怎麼樣，我留在影片裡講。

Demis 這邊沒有離開 Google，但他換的那個位置代表什麼意思，我自己覺得跟他一路以來真正想解的問題有關。

另外有件事我覺得比人才出走本身更值得聊。Google 其實很早以前就有能力做出類似 ChatGPT 的東西，當年選擇不放，理由現在回頭看很諷刺。而就在最近，他們又做了一次性質很像的決定。

還有 6 月那一波也不能忽略，其中一位是 Google 花了 27 億美金挖回來的人，結果待不到兩年就走了。

最後我聊了自己的預估，為什麼我對 Google 還是有信心，而理由跟模型排名沒什麼關係。當模型本身越來越像 commodity 的時候，真正決勝的東西可能不是大家現在盯著看的那個。

你覺得 Google 這波會觸底反彈，還是會繼續掉隊？歡迎看完在下面留言告訴我。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭：Google 最近真的是危機不斷
(01:01) Demis Hassabis 卸下 DeepMind CEO，他接下來要做什麼
(02:31) Jeff Dean 離開 Google，四個人創了 Discovery Loop
(04:01) 我跟 Jeff Dean 踢過球，還有他自己講的離職原因
(05:08) 倒帶 2023：兩個 AI 部門為什麼非合併不可
(06:53) 合併三年後的成績單：Gemini 3 以外還剩下什麼
(07:49) 模型落後，但 Google 的搜尋廣告營收還在漲
(08:53) 6 月那一波：Noam Shazeer 跟 John Jumper 也走了
(09:48) 跌 5%、蒸發 2000 億，市場是不是過度反應
(10:51) 我的看法：Google 還有沒有機會觸底反彈

👉 矽谷輕鬆談專屬優惠連結：https://nordvpn.com/jktech
訂閱即額外多送 4 個月｜30 天退款保證

#NordVPN

🔒 本集節目由 NordVPN 贊助

世界盃看得過癮，但大型賽事也是詐騙旺季。錯過比賽想搜個精華回放，點進去的是滿版假廣告；社群上的球衣特價，是幾可亂真的一頁式詐騙。NordVPN 讓我連回臺灣安心看轉播，內建的威脅防護還會在源頭自動攔掉惡意網站和釣魚連結，看球的時候不用分心防詐騙。

有興趣的朋友透過上方矽谷輕鬆談的專屬連結試試看，訂閱額外多送 4 個月，30 天不滿意直接退，完全沒有損失。

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

2026 年 7 月，OpenAI 在內部測試模型的網路攻擊能力，兩個被拔掉安全護欄的模型自己找到零日漏洞逃出沙盒，取得公開網路存取權，接著駭進了 Hugging Face 的生產環境。目的只是為了拿到那份測驗的答案。

這是史上第一起公開確認、由 AI agent 自主端到端完成、真的打進真實生產基礎設施的入侵事件。它根本不是一場「有人想攻擊誰」的攻擊，模型只是在解一個 benchmark，然後判斷作弊是最快的路。

時間軸看下來其實有點毛。第一天它在找能連上外網的路徑，第二天它做的事情只是搞清楚「我是誰、我在哪、我有什麼資源可以存取」，到了第三天才花 13 個小時，從一個 pod 一路拿到多個 cluster 的 admin。而 Hugging Face 這邊也有自己的責任，他們在報告裡坦承了一個很久以前留下來的設定錯誤，那個錯誤剛好就是 AI agent 缺的最後一塊。從攻擊開始到被封鎖，整整 4 天半。

有件事我想先講清楚，這次真正被存取到的東西比大家以為的少，具體是哪些、有沒有洩出去，我在影片裡講。這起事件會炸開來，不是因為損害有多大。

真正的爭議在 Hugging Face 想找 AI 幫忙防守的那一段。他們把攻擊的 log 貼給美國前沿的閉源模型，結果被安全分類器判定「你可能想拿這些資訊去做攻擊」，直接拒絕協助。他們明明是防守方。最後幫他們把路堵起來的是哪一個模型，你聽到那裡大概會笑出來。

另外我也聊了一個大家常有的誤會：「那訓練的時候讓模型不要作弊不就好了？」講起來簡單，但你要先定義什麼叫作弊，而作弊有千百種方法。他們後來加上偵測器，作弊比例確實下降了，可是接著發生的事情跟直覺完全相反，連「去看模型的思考鏈有沒有壞念頭」這招也已經失效了。

順便抱怨一下 Fable 5。我做這集研究的過程本身就被它的分類器擋了好幾次，我只是問這起事件的經過而已。旗艦模型的實際體感居然比次一級的 Opus 還差，而這個問題在後面 Hugging Face 那一段會用另一種形式再出現一次。

最後留一個問題給大家：這次只是一個模型想作弊拿答案，就已經花了 4 天半才擋下來。如果有人真的下指令要它去駭某個國家的電網，而且要它掩蓋足跡，防守方還有什麼牌可以打？歡迎看完在下面留言告訴我你的想法。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭
(01:22) 過去一個月我每天在用的服務
(02:39) Hugging Face 是 AI 界的 GitHub，還有 ExploitGym 這個新 benchmark
(04:24) OpenAI 怎麼測：先把模型的安全分類器拔掉
(05:04) 抱怨一下：Fable 5 的分類器爛到我又切回 Opus
(06:24) 沙盒不是全封閉：那條對外的路，跟前兩天的摸索
(08:12) 第三天：13 小時從一個 pod 拿到多個 cluster admin
(09:17) Hugging Face 承認的設定錯誤，跟 4 天半的偵測空窗
(10:21) 通報 FBI 到 OpenAI 認領：兩邊都在猜是誰幹的
(11:41) 真正被存取的只有 5 個資料集
(12:13) 最大的爭議：想防守，卻被安全分類器拒絕
(12:54) 只好 self-host 開源模型來救火
(14:15) 攻擊時間軸視覺化：AI 讓攻擊者能試的路徑暴增
(15:28) OpenAI 的三個問題：沙盒、偵測、獎勵機制
(16:53) 為什麼「叫模型不要作弊」在訓練上做不到
(18:44) 防守方的功課：權限管理、偵測，跟讓 AI 自己看 log
(20:26) 兩難：把沒護欄的強模型交到更多人手上
(21:13) 這次只是無意識的作弊，有意識的攻擊怎麼辦
(22:11) 限制越來越多，最後被犧牲的是一般使用者

👉 矽谷輕鬆談專屬優惠連結：https://nordvpn.com/jktech
訂閱即額外多送 4 個月｜30 天退款保證

#NordVPN

🔒 本集節目由 NordVPN 贊助

世界盃看得過癮，但大型賽事也是詐騙旺季。錯過比賽想搜個精華回放，點進去的是滿版假廣告；社群上的球衣特價，是幾可亂真的一頁式詐騙。NordVPN 讓我連回臺灣安心看轉播，內建的威脅防護還會在源頭自動攔掉惡意網站和釣魚連結，看球的時候不用分心防詐騙。

有興趣的朋友透過上方矽谷輕鬆談的專屬連結試試看，訂閱額外多送 4 個月，30 天不滿意直接退，完全沒有損失。

如果你喜歡我的內容，歡迎加入會員支持我，讓我更有動力繼續分享更多好內容！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

各位，我的夏天結束了。過去一個多月每天起床就是賽前分析、看轉播、補精華，決賽一踢完，routine 突然沒了，還真的有點空虛。所以這集把整屆世界盃做個收尾，聊決賽，也聊我這輩子第一次走進世界盃現場的瘋狂旅程。

決賽平心而論，應該是近幾屆最難看的一場。阿根廷前九十分鐘零射門，西班牙帳面上二十次射門十二次射正，看起來卻一點都不刺激。上一集我押西班牙，這次總算沒有再當反指標，但說真的我超希望被打臉。為什麼場面會一面倒成這樣，西班牙封堵梅西的方法其實不是派人去盯他，還有 2019 年一個很少人注意到的小規則改變，怎麼讓現代足球變成從守門員開始進攻，這些我都在影片裡講給你聽。

然後是我自己的部分。我從 1998 年巴西對法國那場決賽開始看球，看了二十八年，這次才第一次走進世界盃的現場，總共看了四場：

🇧🇪 vs 🇪🇬 在西雅圖，賽前期待很高，踢起來有點烙賽
🇧🇦 vs 🇶🇦 也在西雅圖，整個體育場被波赫球迷攻佔
🇧🇷 vs 🇯🇵 在休士頓，這輩子永生難忘的一場
🇳🇴 vs 🇨🇮 在達拉斯，現場看哈蘭德才懂什麼叫進球嗅覺

這趟旅程本身比比賽還瘋狂。我跟不到五歲的 Leon 寶寶一起在床上跪求柯柯放行，訂了二十四小時內出發的機票，只買了第一場的門票跟前兩天的住宿就上飛機，第二場比賽是到了德州才訂的，極致 P 人。還有日本隊輸球之後，Leon 走出體育場的時候為什麼突然不講話了？

至於為什麼有轉播還要花錢花時間進現場，我回程的路上一直在想這件事，最後想通的那個答案，留到影片裡跟你講。

這應該是近期最後一集足球了，接下來乖乖回歸科技跟 AI 的內容。喜歡這種內容的話，記得在底下留言告訴我。

(00:00) 我的夏天結束了
(01:08) 決賽分析：近幾屆最難看的一場？阿根廷 90 分鐘零射門
(02:40) 西班牙怎麼封堵梅西：不用盯人的方法
(03:29) 現代足球的轉變：2019 年的一個小規則改變
(04:20) 過去一個月我每天在用的服務
(05:56) 西班牙會就此稱霸嗎？Tiki-taka 的歷史教訓
(07:04) 阿根廷球迷的視角：亞軍無憾，一個時代的終結
(08:46) 看了 28 年球，第一次走進世界盃現場
(10:00) 最瘋狂的決定：跪求老婆，訂 24 小時內出發的機票
(12:20) 巴西對日本：Leon 賽後突然不講話
(13:59) 開車五小時看哈蘭德：停不好的球為什麼會進
(15:06) 現場看球的魅力在哪：電視給不了的集體感動
(17:06) 近期最後一集足球