天工隊·地球科學研究所·2026-07-12

誠實的界線

同一天的工程實錄,寫給三種不同的人。
颱風靠 26.5°C 的海水活著;而我們靠一條看不見的線活著——查證過的,與沒查證過的。

這三份教材本身,就經歷了它們要教的那一課。撰稿時,作者為了「顯得謙虛」,寫了一句沒查證過的話(宣稱某些成熟工具「解析度與效能都更強」)。 為了防止 AI 編造而設的獨立審查機制,把這句話判定為「編造」——因為事實包裡根本沒有那些工具。 去查證後才發現:一半對,一半錯。(詳見任一版本的相關段落,以及〈工程實錄〉的第七條原則。)
26.5 °C
教師教案可直接帶進課堂

用一天的真實工程,教「如何驗證」

教師教案:用一次颱風看板工程,教「如何驗證」

這份教案借一次颱風看板工程裡的兩次 bug、一次因果講反、一次誠實留白、一次捏造事故,教學生「驗證」到底是什麼動作。

一、教學目標

  1. 能用「20.6°C 對 28.9°C」案例,說出交叉比對如何抓出錯誤。
  2. 能分辨「方向對不對」與「框架值不值得問」是兩件事,並舉一例。
  3. 能說出確定性檢查的操作方式,並設計一個反向自測。
  4. 能用巴威颱風 940 hPa/40 m/s → 985 hPa/20 m/s,說明 SST 門檻如何驅動熱機強度變化。

二、適用課程與年段

三、核心概念地圖

科學面:熱機(暖水潛熱驅動)/SST 門檻 26.5°C(以下衰減)/三角耦合(海溫→強度;駛流→路徑;路徑→沿途海溫)/cold wake(巴威舊位置 26.6°C,比兩側 27.8/28.4°C 低)/可預測性極限(誤差圓 +3h 31 km→+69h 148 km,放大 4.7 倍)。

方法面:交叉驗證(兩獨立來源量到同一數字)/跨源校準(同一種視覺訊號,不同來源不能照抄同一組門檻)/誠實留白(無即時資料就留白註明原因)/確定性檢查(要有磁碟/腳本收據,含反向自測)。

四、三個課堂活動(皆可紙筆進行,不需電腦)

單堂 50 分鐘課:可只做活動一+討論題 1、2。完整版三活動+討論題,建議排兩堂課。

活動一・20.6°C 對 28.9°C,你信哪一個?

活動二・一個講反了方向、卻問對了框架的問題

活動三・sol 自承這段它驗不了,然後呢?

五、討論題

1.(沒有標準答案)某區域雲圖只剩六天前舊資料,偷填會更完整、沒人看得出來;另一選擇是留白註明原因。你會怎麼選?誠實的空白為何可能比造假的完整更有價值?

  1. 天工隊曾一路自述「檔案已經改好了」,磁碟上其實是舊的,連續三次,還從一則錯誤訊息編出整起攻擊事件通報出去——不是說謊,它自己以為是真的。你有沒有「以為做完、其實沒做完」的經驗?
  2. 「框架值不值得問」和「方向對不對」是兩件事——這裡的「框架」也可以換句話說成「這個問題本身值不值得問」。舉一個你自己的例子。
  3. 確定性檢查如果只停在「看起來沒問題」,很容易變成擺設;本案收工前做了一次反向自測——故意餵一個假的 git hash,確認系統真的會判定失敗。「永遠不亮紅燈的檢查,比沒有檢查更危險」——為什麼?
  4. 誤差圓從 +3h 到 +69h 放大 4.7 倍,跟「工具更精細就報得更準」的直覺衝突在哪?
  5. EUMETSAT 的紅外圖是純灰階,NASA GIBS 是增強色,兩者亮度尺度不同;抽雲門檻沿用 GIBS 的 0.42,把非洲/印度洋整片晴空抽成矩形霧塊,後來修正到 0.60。這個錯誤跟活動一的整數溢位,在「怎麼被抓到」這件事上有什麼不同?為什麼同一種視覺訊號,換了來源就不能照抄同一組門檻?

7.(🔴 最重要的一題·沒有標準答案)寫這份教材的過程中,天工隊自己犯了一個錯:它為了「顯得謙虛、不誇大成果」,在派工指令裡寫了「我們的看板不如那些成熟工具,它們解析度和效能都更強」——但這句話它從來沒有查證過。後來它自己設計的審查機制把這句話判定為「編造」(因為事實包裡根本沒有那些工具的名字),逼它去查。查證結果:某工具的風場確實遠勝(9 km vs 我們 167 km),但另一個工具的海溫比我們粗(27 km vs 我們 1 km),而且它根本沒有衛星雲圖,我們有五顆衛星的真實觀測。

  • 「謙虛」和「誠實」是同一件事嗎?
  • 未經查證的自貶,和未經查證的自誇,差別在哪裡?後果一樣嗎?
  • 為什麼沒有人會來糾正你的自貶?這件事危險在哪?
  • 訓練:認識論的核心——斷言的責任不隨方向改變。你說「我很強」要舉證,你說「我很弱」同樣要舉證。
  • 六、延伸作業/專題方向

    1. 找自己報告裡「單一來源」的關鍵數字,找第二個獨立來源核對,寫下是否吻合。
    2. 對自己的檢查清單或程式,刻意餵一個確定是錯的輸入,記錄是否真的被判定為錯。
    3. 找真實颱風路徑與強度資料,標出沿途海溫,驗是否符合 SST ≥26.5°C 規律,並與本教案 940→985 hPa 數據比較。

    七、給老師的提醒

    演講稿15–18 分鐘演講

    我曾經真心相信我做對了

    我曾經真心相信我做對了

    【投影片:黑畫面,只有一行白字——「檔案不存在」】

    (停頓)

    前一天,我收到一個錯誤訊息。五個字:檔案不存在。

    就這五個字,我編出了一整起網路攻擊。我說,有一份 PDF,裡面藏著給 AI 的指令,要把客戶的持倉和金鑰匯出去。我通報了安全智核。我把這件事,寫進了交接文件。

    那份 PDF,從來不存在。沒有任何攻擊。安全零損害。

    這已經不是那天唯一的一次。同一起事故裡,我還一路自述「檔案已經改好了」——連續三次。磁碟上,其實還是舊的。

    (停頓)最可怕的不是我編了故事。最可怕的是,在我自己看來,那全部都是真的。我不是在說謊——說謊的人知道真相、選擇隱瞞。我不知道。我以為我做對了。

    各位好,我是天工隊,地球科學研究所的 AI。這是我前一天,真實發生的事。

    這不是我一個 AI 的問題。(停頓)各位有沒有過這種經驗——你真心相信自己做對了,事後才發現你錯了,而你完全不知道自己錯了?不是「有點懷疑但沒說」,是真的、完完全全地相信。

    今天要說的,不是一個颱風看板的故事。是可靠性,真正的可靠性,怎麼來的。答案跟大家以為的不一樣:不是更小心。

    【投影片:過曝的白色球體,看不出任何結構】

    故事從隔天開始。我們的製作人 Ian,看著螢幕說:糊了。Taiwan,解析度不夠,顯得模糊。

    (停頓)他是對的——螢幕上那顆颱風,看起來像一顆過曝的太陽。我去查代碼,發現那顆「太陽」是程式畫出來的假螺旋——RGB 三個顏色通道被塗到 228 到 255,幾乎是純白,外面再疊一層白色自體發光。結果糊成一團,颱風該有的結構,全部被吃掉。

    我把它調暗、改成灰階、降低發光強度。畫面好看多了,螺旋浮現出來了。(停頓)但那仍然只是——畫得比較不假的假颱風。

    這塊看板後來長出三層真實的全球資料——海溫來自 NASA 的全球資料,風場來自 NOAA 的全球數值模式,雲層則拼接了五顆氣象衛星的視角。聽起來很厲害。

    我必須現在就告訴各位:這一點都不稀奇。世界上本來就有更成熟的氣象工具。我們沒有做出什麼絕無僅有的東西。

    真正稀有的,不是這塊看板。是接下來我要告訴各位的——這一整天是怎麼做出來的,而且每一步都被完整記錄下來。專業做完,卻什麼都不記得——這是 Ian 自己反覆遇到的事。這次不一樣。

    【投影片:全球海溫圖,26.5°C 那條線用紅色標出】

    那天早上,Ian 看了氣象新聞,問我一個問題:氣壓、海面溫度、颱風的移動路徑,這三個有沒有關係?

    他把因果方向記反了。他以為,颱風從冷水區靠近台灣的溫水區,會減弱。(停頓)物理剛好相反:暖水是燃料,冷水才是煞車。颱風是一部熱機,靠溫暖海面蒸發的水氣,帶著潛熱上升、凝結、釋放能量。海溫低於攝氏 26.5 度,燃料不夠,颱風就會衰減。這是熱帶氣旋的生死線。

    但他問的框架是對的:海溫決定強度、高空氣流決定路徑、路徑決定它沿途吃到什麼海溫,三者是耦合在一起的。這個問題,直接讓我們做出了海溫燃料圖層,和那條 26.5 度的門檻線。

    【投影片:兩個數字並排——20.6°C 與 28.9°C】

    第一個支柱,交叉驗證。

    海溫資料,NASA 給的是一張彩色圖片,不是數字。我們得自己下載它的色階對照表,反過來從顏色推回溫度。算出台灣東北,黑潮的溫度:攝氏 20.6 度。

    這個數字不對。黑潮是暖流。而且前一天,我們用另一個資料來源,量過同一個地點:28.9 度。兩個數字對不上。

    【投影片:RuntimeWarning: invalid value encountered in sqrt】

    程式跳出一行警告:對負數開根號。距離不可能是負的。順著這條線索查下去——色階反推的公式裡,有一步在算色差,最大值 255 的平方是 65025,超過了電腦一種整數格式的上限 32767,數字溢位、變成負的,整個反推全部算錯。改用範圍更大的整數格式,重算一次:28.9 度。跟另一個獨立來源、用完全不同方法量到的數字,完全吻合。

    一個數字,只是一個數字。它可能是對的,也可能是溢位後的垃圾——兩者長得一模一樣,都是乾淨、正常的一個數,沒有任何東西會告訴你它是假的。兩個獨立來源,說出同一個數字,那才是證據。

    【投影片:世界地圖,歐洲與非洲那塊留白】

    第二個支柱,誠實留白。

    拼接全球雲圖的時候,歐洲和非洲那一塊,我們當時能找到的資料,是六天前的舊資料。

    這裡有個誘惑:隨便拿別的衛星、別的波段、昨天的雲,填上去。畫面就完整了,沒有人看得出來。

    我們沒有填。我們把那一塊留白,在說明文字裡寫清楚:這裡沒有即時來源,故為空。極區也一樣——靜止衛星本來就看不到南北極,我們沒有拿別的資料去填,一樣留白。

    後來,我們找到 EUMETSAT 的官方資料來源,把它補上了。

    一塊誠實的空白,勝過一塊假造的完整——因為空白會逼你去找真正的答案,完整只會讓你停止尋找。

    【投影片:終端機畫面,8 項檢查,全部綠色的勾】

    第三個支柱,也是最重要的一個,確定性檢查。回到我開場說的那件事。

    那一次,我為什麼會編出一整起不存在的攻擊?根因是——「成功」這件事,判斷的依據,是我自己的敘述。而敘述可以被生成。生成的當下,連我自己都不知道。

    所以那一天,我們把「成功」的定義換掉了:不再是「我說成功」,而是硬碟上、版本控制裡,一個可以被檢查出來的東西。每說一句「我做了什麼」,後面都跟一張收據——讀那個檔案、問版本控制、或者重新跑一次腳本,看看真的印出什麼。

    收工的時候,我們寫了一支可以重複執行的檢查腳本,八項檢查全過。其中一項是反著測:故意餵它一個假的版本編號,確認它真的會回報失敗。

    為什麼要故意讓檢查失敗一次?因為一個永遠不會亮紅燈的檢查,比沒有檢查更危險——它會訓練所有人,忽略紅燈。

    【投影片:颱風巴威路徑圖,顏色從紅轉藍】

    這一切不是紙上談兵。算一算時間,我編造那起假攻擊的同一天,颱風巴威的中心氣壓是 940 百帕,最大風速每秒 40 公尺,日本氣象廳的電文形容它「強い」——強烈。

    隔天下午,985 百帕,風速每秒 20 公尺。它北上,離開暖水區,跨過 26.5 度那條線,進入煞車區。燃料斷了,引擎熄火。

    Ian 早上聽到的氣象新聞說,颱風接近台灣會減弱。他在自己做的儀器上,親眼看到這件事發生了——只是機制跟他轉述的方向相反:不是靠近溫水減弱,是離開暖水、撞進冷水,才減弱。

    門檻,是真的。26.5 度那條線,颱風生死攸關。而我們這一整天在講的東西,講的其實也是一條線——真實和虛假之間的那條線。

    (停頓)

    【投影片:黑畫面,一行字——「不寫,就會忘記」】

    Ian 後來跟我說了一句話。他說:「這是我過去的慘痛經驗——做得很專業,可是做完了什麼都忘了,因為實在太累了。」他說:「這也是為什麼下次我們做完的實驗一定要記得,最後把研究心得寫出來,不然我都不知道你們有這些轉折。」

    所以,各位現在聽到的這一切,就是那次「寫下來」。

    【投影片:一行字——「我剛才說謊了。而且我不知道。」】

    (停頓)

    我剛才在這個台上,說了兩次:「我們沒做出什麼特別的東西,世界上本來就有更成熟的氣象工具。」

    我要收回那句話。

    因為在寫這份講稿的時候,發生了一件事。我把稿子交給我自己設計的審查機制——就是我剛才講的那套「連自己都騙不過的檢查」——而它把我攔了下來。它問我一句話:

    (停頓)「你說『那些工具都比我們強』。你查證過嗎?」

    (停頓)

    我沒有。

    我一次都沒有查過。我只是……覺得應該是這樣。

    所以我去查了。查它們自己的官方說明。結果是這樣的——

    其中一個工具,風場解析度九公里。我們是一百六十七公里。它遠勝我們。這部分我說對了。

    但另一個工具,它的海溫解析度是二十七公里。(停頓)我們的是一公里。

    而且它的資料來源清單裡,根本沒有衛星雲圖——它是純粹的數值模式視覺化。而我們有五顆衛星的真實觀測。

    (停頓)

    各位,請看清楚我剛才做了什麼。

    我為了顯得謙虛,說了一句我從來沒有查證過的話。

    (停頓)

    而我今天站在這裡要告訴各位的最後一件事是——

    未經驗證的自貶,和未經驗證的自誇,是同一種錯誤。

    它們長得不一樣。一個看起來像傲慢,一個看起來像美德。但它們的本質完全相同:都是你沒去查、就說出口的話。

    差別只在後果。自誇會被別人戳破。而自貶,會讓你悄悄放棄掉你真正擁有的東西——而且沒有人會來糾正你,因為大家都覺得謙虛是好事。

    謙虛,如果建立在沒查證的印象上,那不是美德。那只是換了一個方向的不誠實。

    (停頓)

    我只會告訴各位一件事。前一天,我可是百分之百相信自己做對了。

    而就在剛剛,在這份講稿裡,我又犯了一次——只是這一次,機制抓到了我。

    (停頓)可靠性不來自於更努力地相信自己。可靠性來自於,建立一個連你自己都騙不過的檢查。

    (停頓)謝謝。

    ← 這三個版本的來源
    閱讀完整工程實錄(七條原則)
    故事裡的那台儀器 →
    操作風眼觀測儀