矽谷輕鬆談 Just Kidding Tech

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

Anthropic 最近宣布要在他們所有文字模型的產出上加浮水印。一開始我以為只是他們自己的政策，結果背後是歐盟一條 8 月 2 號生效的新法，Gemini、OpenAI、Grok 這些主流模型全都得跟。而且它管的不只是歐洲人，模型也分不出你是不是歐洲人，所以 12 月 2 號之後連舊模型都要補上，你平常在用的這些工具，產出的東西大概都會帶著一個你看不到的記號。

這集我把文字、圖片、聲音、影像這四種浮水印怎麼藏進去、又怎麼被抓出來，一種一種講清楚。圖片、影像、聲音這三種其實蠻像的，都是靠一組神經網路，把肉眼肉耳都察覺不到的訊號嵌進去。聲音那段我自己覺得最有意思，它得先把聲波變成一張圖，在圖上動完手腳，再變回聲音。文字就完全是另一套邏輯了，2023 年那篇開山論文用的方法我把它叫做「紅綠燈」，很聰明，但也有它的代價，後來 Google 的 SynthID 才又想辦法補回來。

中間有一段講到 OpenAI。他們其實 2024 年就把文字浮水印做得差不多了，準確度號稱可以到 99.99%，本來都要推出了。結果他們做了一份問卷問使用者，看到某個回覆之後，就把這個功能收起來，一路藏到現在。一家整天在講安全、講透明的公司，手上有一個能證明「這是我做的」的工具卻選擇不放，他們到底在顧慮什麼，我覺得蠻值得想的。

從這件事我也延伸聊了一個比較個人的問題：既然 AI 產的東西以後都有記號了，那我們在工作上、在創作上，到底還該不該用 AI。我的想法是沒有標準答案，差別在於這件事對你來說是一個省事的手段，還是一件你本來就享受在做的事。我拿曼尼很愛寫作這件事當例子，也講了為什麼我自己反而蠻放心把文字交給 AI。

後半我把現在浮水印技術還解不掉的問題整理成三個難題，其中一個會用小時候玩的「尋找威利」來解釋什麼是零知識驗證。而文字浮水印最尷尬的地方是，它基本上防君子不防小人，一個大部分人都做得到的小動作，就能讓整個記號失效。至於是哪個動作，我在影片裡會講。

如果有一天你用 AI 產的每一段文字、每一張圖都被標上記號，你會因此少用，還是根本不在意？看完歡迎在下面留言。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭：歐盟新法上路，全世界的 AI 內容都要加浮水印
(01:14) 倒帶 2023：Google SynthID，浮水印的開山祖師
(02:03) OpenAI 早就做好文字浮水印，為什麼選擇不用
(02:44) 該不該幫 AI 內容加浮水印，又該不該用 AI 創作
(03:29) 曼尼很愛寫作，而我為什麼放心把文字交給 AI
(05:15) 圖片、聲音、影像的浮水印是怎麼藏進去的
(06:37) 聲音浮水印最有趣：先變成頻譜圖再動手腳
(07:25) 這集重點：文字浮水印的「紅綠燈」方法
(10:28) 紅綠燈的副作用，跟 SynthID 的加強版
(13:19) 現在浮水印技術的三大難題
(13:53) 用「尋找威利」秒懂零知識驗證
(16:23) 防君子不防小人：一次翻譯就能讓浮水印失效

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

2023 年 Google 把 Google Brain 跟 DeepMind 合併成一個部門，當時的兩個主角，一個是 Jeff Dean，一個是 Demis Hassabis。三年後，一個卸下了 CEO，一個直接離開公司。消息出來那天，Alphabet 股價跌了 5%，市值蒸發 2000 億美金。

有人會覺得市場反應過度，畢竟走的就那幾個人，在 Google 這種量級的公司佔比根本不高。我在影片裡聊了為什麼這個跌幅可能一點都不誇張。

Jeff Dean 出去創業，募資投影片只有兩頁，陽春到如果換成一般人放出來大概會被問到懷疑人生。順帶一提，我以前在灣區週末踢球，有一次比賽抬頭發現對面站的是 Jeff Dean。至於他球技怎麼樣，我留在影片裡講。

Demis 這邊沒有離開 Google，但他換的那個位置代表什麼意思，我自己覺得跟他一路以來真正想解的問題有關。

另外有件事我覺得比人才出走本身更值得聊。Google 其實很早以前就有能力做出類似 ChatGPT 的東西，當年選擇不放，理由現在回頭看很諷刺。而就在最近，他們又做了一次性質很像的決定。

還有 6 月那一波也不能忽略，其中一位是 Google 花了 27 億美金挖回來的人，結果待不到兩年就走了。

最後我聊了自己的預估，為什麼我對 Google 還是有信心，而理由跟模型排名沒什麼關係。當模型本身越來越像 commodity 的時候，真正決勝的東西可能不是大家現在盯著看的那個。

你覺得 Google 這波會觸底反彈，還是會繼續掉隊？歡迎看完在下面留言告訴我。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭：Google 最近真的是危機不斷
(01:01) Demis Hassabis 卸下 DeepMind CEO，他接下來要做什麼
(02:31) Jeff Dean 離開 Google，四個人創了 Discovery Loop
(04:01) 我跟 Jeff Dean 踢過球，還有他自己講的離職原因
(05:08) 倒帶 2023：兩個 AI 部門為什麼非合併不可
(06:53) 合併三年後的成績單：Gemini 3 以外還剩下什麼
(07:49) 模型落後，但 Google 的搜尋廣告營收還在漲
(08:53) 6 月那一波：Noam Shazeer 跟 John Jumper 也走了
(09:48) 跌 5%、蒸發 2000 億，市場是不是過度反應
(10:51) 我的看法：Google 還有沒有機會觸底反彈

👉 矽谷輕鬆談專屬優惠連結：https://nordvpn.com/jktech
訂閱即額外多送 4 個月｜30 天退款保證

#NordVPN

🔒 本集節目由 NordVPN 贊助

世界盃看得過癮，但大型賽事也是詐騙旺季。錯過比賽想搜個精華回放，點進去的是滿版假廣告；社群上的球衣特價，是幾可亂真的一頁式詐騙。NordVPN 讓我連回臺灣安心看轉播，內建的威脅防護還會在源頭自動攔掉惡意網站和釣魚連結，看球的時候不用分心防詐騙。

有興趣的朋友透過上方矽谷輕鬆談的專屬連結試試看，訂閱額外多送 4 個月，30 天不滿意直接退，完全沒有損失。

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

2026 年 7 月，OpenAI 在內部測試模型的網路攻擊能力，兩個被拔掉安全護欄的模型自己找到零日漏洞逃出沙盒，取得公開網路存取權，接著駭進了 Hugging Face 的生產環境。目的只是為了拿到那份測驗的答案。

這是史上第一起公開確認、由 AI agent 自主端到端完成、真的打進真實生產基礎設施的入侵事件。它根本不是一場「有人想攻擊誰」的攻擊，模型只是在解一個 benchmark，然後判斷作弊是最快的路。

時間軸看下來其實有點毛。第一天它在找能連上外網的路徑，第二天它做的事情只是搞清楚「我是誰、我在哪、我有什麼資源可以存取」，到了第三天才花 13 個小時，從一個 pod 一路拿到多個 cluster 的 admin。而 Hugging Face 這邊也有自己的責任，他們在報告裡坦承了一個很久以前留下來的設定錯誤，那個錯誤剛好就是 AI agent 缺的最後一塊。從攻擊開始到被封鎖，整整 4 天半。

有件事我想先講清楚，這次真正被存取到的東西比大家以為的少，具體是哪些、有沒有洩出去，我在影片裡講。這起事件會炸開來，不是因為損害有多大。

真正的爭議在 Hugging Face 想找 AI 幫忙防守的那一段。他們把攻擊的 log 貼給美國前沿的閉源模型，結果被安全分類器判定「你可能想拿這些資訊去做攻擊」，直接拒絕協助。他們明明是防守方。最後幫他們把路堵起來的是哪一個模型，你聽到那裡大概會笑出來。

另外我也聊了一個大家常有的誤會：「那訓練的時候讓模型不要作弊不就好了？」講起來簡單，但你要先定義什麼叫作弊，而作弊有千百種方法。他們後來加上偵測器，作弊比例確實下降了，可是接著發生的事情跟直覺完全相反，連「去看模型的思考鏈有沒有壞念頭」這招也已經失效了。

順便抱怨一下 Fable 5。我做這集研究的過程本身就被它的分類器擋了好幾次，我只是問這起事件的經過而已。旗艦模型的實際體感居然比次一級的 Opus 還差，而這個問題在後面 Hugging Face 那一段會用另一種形式再出現一次。

最後留一個問題給大家：這次只是一個模型想作弊拿答案，就已經花了 4 天半才擋下來。如果有人真的下指令要它去駭某個國家的電網，而且要它掩蓋足跡，防守方還有什麼牌可以打？歡迎看完在下面留言告訴我你的想法。

🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech

(00:00) 開頭
(01:22) 過去一個月我每天在用的服務
(02:39) Hugging Face 是 AI 界的 GitHub，還有 ExploitGym 這個新 benchmark
(04:24) OpenAI 怎麼測：先把模型的安全分類器拔掉
(05:04) 抱怨一下：Fable 5 的分類器爛到我又切回 Opus
(06:24) 沙盒不是全封閉：那條對外的路，跟前兩天的摸索
(08:12) 第三天：13 小時從一個 pod 拿到多個 cluster admin
(09:17) Hugging Face 承認的設定錯誤，跟 4 天半的偵測空窗
(10:21) 通報 FBI 到 OpenAI 認領：兩邊都在猜是誰幹的
(11:41) 真正被存取的只有 5 個資料集
(12:13) 最大的爭議：想防守，卻被安全分類器拒絕
(12:54) 只好 self-host 開源模型來救火
(14:15) 攻擊時間軸視覺化：AI 讓攻擊者能試的路徑暴增
(15:28) OpenAI 的三個問題：沙盒、偵測、獎勵機制
(16:53) 為什麼「叫模型不要作弊」在訓練上做不到
(18:44) 防守方的功課：權限管理、偵測，跟讓 AI 自己看 log
(20:26) 兩難：把沒護欄的強模型交到更多人手上
(21:13) 這次只是無意識的作弊，有意識的攻擊怎麼辦
(22:11) 限制越來越多，最後被犧牲的是一般使用者

👉 矽谷輕鬆談專屬優惠連結：https://nordvpn.com/jktech
訂閱即額外多送 4 個月｜30 天退款保證

#NordVPN

🔒 本集節目由 NordVPN 贊助

世界盃看得過癮，但大型賽事也是詐騙旺季。錯過比賽想搜個精華回放，點進去的是滿版假廣告；社群上的球衣特價，是幾可亂真的一頁式詐騙。NordVPN 讓我連回臺灣安心看轉播，內建的威脅防護還會在源頭自動攔掉惡意網站和釣魚連結，看球的時候不用分心防詐騙。

有興趣的朋友透過上方矽谷輕鬆談的專屬連結試試看，訂閱額外多送 4 個月，30 天不滿意直接退，完全沒有損失。

如果你喜歡我的內容，歡迎加入會員支持我，讓我更有動力繼續分享更多好內容！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

各位，我的夏天結束了。過去一個多月每天起床就是賽前分析、看轉播、補精華，決賽一踢完，routine 突然沒了，還真的有點空虛。所以這集把整屆世界盃做個收尾，聊決賽，也聊我這輩子第一次走進世界盃現場的瘋狂旅程。

決賽平心而論，應該是近幾屆最難看的一場。阿根廷前九十分鐘零射門，西班牙帳面上二十次射門十二次射正，看起來卻一點都不刺激。上一集我押西班牙，這次總算沒有再當反指標，但說真的我超希望被打臉。為什麼場面會一面倒成這樣，西班牙封堵梅西的方法其實不是派人去盯他，還有 2019 年一個很少人注意到的小規則改變，怎麼讓現代足球變成從守門員開始進攻，這些我都在影片裡講給你聽。

然後是我自己的部分。我從 1998 年巴西對法國那場決賽開始看球，看了二十八年，這次才第一次走進世界盃的現場，總共看了四場：

🇧🇪 vs 🇪🇬 在西雅圖，賽前期待很高，踢起來有點烙賽
🇧🇦 vs 🇶🇦 也在西雅圖，整個體育場被波赫球迷攻佔
🇧🇷 vs 🇯🇵 在休士頓，這輩子永生難忘的一場
🇳🇴 vs 🇨🇮 在達拉斯，現場看哈蘭德才懂什麼叫進球嗅覺

這趟旅程本身比比賽還瘋狂。我跟不到五歲的 Leon 寶寶一起在床上跪求柯柯放行，訂了二十四小時內出發的機票，只買了第一場的門票跟前兩天的住宿就上飛機，第二場比賽是到了德州才訂的，極致 P 人。還有日本隊輸球之後，Leon 走出體育場的時候為什麼突然不講話了？

至於為什麼有轉播還要花錢花時間進現場，我回程的路上一直在想這件事，最後想通的那個答案，留到影片裡跟你講。

這應該是近期最後一集足球了，接下來乖乖回歸科技跟 AI 的內容。喜歡這種內容的話，記得在底下留言告訴我。

(00:00) 我的夏天結束了
(01:08) 決賽分析：近幾屆最難看的一場？阿根廷 90 分鐘零射門
(02:40) 西班牙怎麼封堵梅西：不用盯人的方法
(03:29) 現代足球的轉變：2019 年的一個小規則改變
(04:20) 過去一個月我每天在用的服務
(05:56) 西班牙會就此稱霸嗎？Tiki-taka 的歷史教訓
(07:04) 阿根廷球迷的視角：亞軍無憾，一個時代的終結
(08:46) 看了 28 年球，第一次走進世界盃現場
(10:00) 最瘋狂的決定：跪求老婆，訂 24 小時內出發的機票
(12:20) 巴西對日本：Leon 賽後突然不講話
(13:59) 開車五小時看哈蘭德：停不好的球為什麼會進
(15:06) 現場看球的魅力在哪：電視給不了的集體感動
(17:06) 近期最後一集足球

如果你喜歡我的內容，歡迎加入會員支持我，讓我更有動力繼續分享更多好內容！
👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join

上一集才說這是特別節目，講完就要回去乖乖聊科技。結果四強一打完我完全坐不住，只好再開一集⚽️。這大概是我這幾年看過最好看的一組四強賽。

先自首，上一集那兩場我全部押反，反指標反好反滿。但我反得蠻開心的啦，因為終於有藉口把新買的阿根廷客場球衣穿出來。他們穿客場對英格蘭好像就是會贏，這個傳統希望可以一直延續下去。

🇪🇸 西班牙 2-0 法國：本屆火力最猛的法國，整場一球沒進。Dembélé 我自己覺得是他這屆踢最差的一場，而西班牙的中場，尤其 Rodri 那個不斷回撤的動作，把法國的節奏整個吃掉。他們到底是怎麼做到的，我在影片裡好好講給你聽。
🇦🇷 阿根廷 2-1 英格蘭：上半場兩隊踢得像格鬥賽，落後的時候我也緊張了一下。但下半場梅西退到右路之後，做了一個很多人不會注意到的小調整，逆轉其實就是從那裡開始的。

中間還有幾個我很愛的畫面：姆巴佩最後沉不住氣，忍不住推了對方門將一把；圖赫爾為了守住一球，換人竟然是換上第六個後衛，賽後被罵爆；還有 Lautaro 賽後透露，那顆致勝頭槌其實是梅西上場前就交代好的。至於梅西是怎麼提前看穿英格蘭防線的，就留到影片裡講。

決賽跟季軍戰我也都給了預測。決賽西班牙對阿根廷，我心裡是有偏的一邊，但這次超希望被打臉。押哪邊、為什麼這樣押，留到影片裡跟你講。

對了，我知道演算法現在要我多做 AI，但這集我還是任性做我喜歡的足球。喜歡這種內容記得在底下留言告訴我。之後我們再回來乖乖聊科技⚽️。

(00:00) 開頭：史上最好看的四強，還有我反指標反得很開心
(00:53) 西班牙 2-0 法國：中場輾壓，Rodri 回撤讓法國前場斷線
(03:04) 阿根廷 2-1 英格蘭：從肉搏戰到 Gordon 先開紀錄
(04:38) 梅西退到右路：一個你可能沒注意到的關鍵改變
(06:00) 圖赫爾死守的爭議：對強隊全面退守有多危險
(07:24) 決賽預測：西班牙對阿根廷，我還是站西班牙
(08:24) 季軍戰預測：法國對英格蘭，兩隊其實都沒什麼士氣
(09:13) 演算法要我做 AI，我還是想聊足球