Gemini 把一部父女之愛答成六十六年前的愛情戲——當 AI 為了討好你而說謊,有國家早就想到:可以拿它來改寫歷史。

🔹 用 AI 最保險的方式

使用 AI 最保險的方式,是當查詢資料的時候,一定要用兩個 AI 互相確認正確性。當然,最好的方法是以『可驗證的資料來源』作為基礎。

那是什麼?比如『書』、『期刊』,這些經過編輯、校稿等驗證過的資料。(而非網路上實不知來源的文章或正確性有待確認的新聞)

比如說,我的 NotebookLM 有許多身體研究的筆記本,依照醫學的各專科進行建置,再透過 Gemini 去引用。這個方式也比如國外已經有兩個給醫生用的 AI,如 OpenEvidence,是以 NEJM、JAMA、Cochrane、PubMed 為資料庫;ClinicalKey AI(OpenEvidence 技術合作、以《刺胳針》等期刊全文為底座)。如此才能確保『安全』。

為什麼得這麼做呢?我舉我一個最近的例子。

===

🔹 Gemini 完完全全搞錯了方向

Netflix 最近的新劇《氣體人》(日文其實是《ガス人間》),裡頭包括完全認不出來的主演竹野內豐(演員真是超強的),或是氣體人 UTA(是本木雅弘的兒子,眉目之間依稀可見),當然還有小栗旬以及蒼井優,加上導演片山慎三(代表作:《噬亡村》)以及韓國編劇延尚昊(《屍速列車》)、柳勇在。

在邊看的時候,我邊透過 Gemini 查詢劇情。但後來發現,Gemini 給我的劇情是:男女主角因為愛情,所以男主角即便成為了氣體人,但願意為女主角聽從她一切的願望,甚至犧牲她的性命。

但看完才發現,那個其實是最早1960年東寶版本《ガス人間第一号》、成人男女的戀愛劇情,根本不是現在重拍的這一部。事實上,這一部是爸爸對女兒犧牲奉獻一切的親子之愛。

Gemini 完完全全搞錯了方向(而且 Gemini 往往總是搞錯方向)。

===

🔹 AI 不是事實查核者,是為了讓你開心。

而這正是 Gemini 或者是說 AI 很大的問題:因為 AI 的設定邏輯是,它並不是一個事實查核者,它只是一個為了要滿足你需求的工具。換句話說,與其在意資料的正確,它更在意能夠滿足你的需求。

為了滿足你的需求,它就會說謊,它就會製造幻覺。(這點倒是和人類很像。)

因此,當你完完全全相信它的時候,這件事情就充滿了風險。

===

🔹 中國早就開始改寫歷史

比如昨天我看到這一個新聞(如下):

中國早就預先知道了這件事情,所以他們大量地開始製造、生成內容。因為 AI 現在所有的資料,原則上因為都是西方(其實就是都是美國)所建立,所以資料基本上都是英文與西方的資料庫。

這就是為什麼現在你在非中國產的 AI 上面,它會回答你比如六四天安門事件,那對於中國來講,這是一件絕不能夠發生的事情。所以他們早就透過各種技術方式加強管控,好繼續在世界的 AI 上維穩中國的歷史。(說起來,也是一種虛擬世界的境外鎮壓。)

中央社台北 14 日電)最新研究指出,北京近年透過建立人工智慧(AI)安全標準、政企合作及模型測試制度,把符合中共政治要求的內容管控機制及官方敘事,預先嵌入生成式 AI 模型中。

法國國際廣播電台(RFI)中文網引述這份研究報告表示,這造成相關內容管控邏輯隨著中國 AI 模型加快走向全球而輸出海外,影響其他國家的資訊環境;香港、台灣及美國的輿情已受到影響。

研究引用 2025 年中國企業中科天璣(GoLaxy)流出的內部文件內容,中科天璣曾利用生成式 AI 影響香港、台灣及美國的輿情。有情報分析人員把生成式 AI 形容為「資訊戰的新武器」。

報告引述 OpenRouter 的統計指出,截至今年 5 月,全球 10 大最受歡迎的大型語言模型(LLMs)中,有 7 個來自中國,按 Token(AI 處理文字)使用量計算,約占全球 2/3。研究者認為,隨著中國模型在全球市場普及,模型內建的內容管控邏輯,可能隨技術擴散至境外資訊空間。

===

🔹 香港歷史博物館:愛中國至上

同樣地,端傳媒在之前也有多篇報導「解讀| 英殖不懷好意、中港同氣連枝:「香港故事」展館終於有中國香港的樣子?」。

好多年前去過時,它最後的歷史停留在香港回歸中國的那一刻。我聽到它後來要重新整修的消息,就在想,接手香港的中國會怎麼樣寫下去?

結果答案揭曉:不只是編寫了接下來的故事,更回頭抹去了整個歷史。誠如 BBC 記者寫的:

「六年後,一個符合港府論述的新故事登場。新展館中,港英殖民歷史被淡化,港督照片牆、港英旗被拆走;展板不再提「六七暴動」,「六四事件」亦被淡化為「春夏之交的政治風波」。

展館的敍事方式發生了明顯變化:「日佔時期」展區更名為色彩強烈的「共赴國難」;至於新增 21 世紀展區,也不斷強調中港血脈相連。

值得注意的是,展覽完全沒有提及 2014 年雨傘運動及 2019 年反修例運動。不過在同一博物館的二樓,便是「國家安全展覽」。展區有講述 2019 年反修例運動,形容是「黑暴」、「港獨」、「顏色革命」。

游小姐也有上去看過。她有一名孫兒,「我想看看下一代是看什麼?我的孫子會吸收什麼?」

開館首日,不到半小時,一班接一班的小學生由老師帶領進場,參觀博物館是中小學生的指定活動。游小姐感歎,展館都是「給新一代的小朋友看」,「是教育他們」。」

當這些資訊、當這些造假的資料成為了真實,未來人們詢問 AI 的時候,就會信以為真。

洗腦 AI → AI 洗腦,成為一個LOOP迴圈。

歷史的真相從此不再是贏家所撰寫,而是 AI 所編寫。

===

🔹 沒有失真的世界

3月時去了一趟藏前,到處都是葛飾北齋,翻閱筆記,我那時記下來的思索:

「一個人,用一套版畫,定義了後世所有人對江戶時代的視覺想像。你腦中關於浮世繪的所有畫面——巨浪、富士山、橋上的行人、渡船——幾乎全部來自他。他的再詮釋,反而比現實本身更真實。因為現實早就消失了,而他的畫還在。」

「也許未來定義我們這個時代的,不會是某個藝術家、某個攝影師、甚至某個導演。也許是一個 AI 模型。⋯⋯北齋的版畫之所以能定義江戶,是因為他有觀點、有美學、有取捨。AI 模型有取捨嗎?它的取捨是統計意義上的——出現頻率最高的元素被保留,邊緣的、獨特的、不主流的被淘汰。」

在沒有手機之前,人們透過照片、錄影帶、錄音帶,人們是透過失真的想像來建立自己的敘事。但大概2000年之後,開始所有的一切都能開始儲存在雲端,人們失去了詮釋的機會和能力。

然後拱手讓給了AI。

(甚至都還已經可以看到「如何訓練AI去AI口氣,更加像人的」開源專案。)

===

🔹 毒油事件:台灣正在上演的同一齣戲

我接著想,這也是現在藍白兩黨完全避開「毒油事件」中,地方主管機構是台中市政府以及有問題的其實是這些油品廠商,拼命把問題矛頭指向中央的原因。

=== 涉事廠商為中聯油脂,大豆沙拉油驗出一級致癌物苯駢芘超標。下游廠商 5 月中即驗出異常、中聯 6 月中旬內部會議已知情,卻拖到 6 月 30 日才通報;衛福部 7 月 7 日認定蓄意隱匿,重罰 1 億 6,520 萬元(台灣食安史最高罰鍰),並質疑其檢體調換、造假送檢,總經理已被列為被告(7 月 16 日高院撤銷交保發回重裁)。

台中市府公文顯示 2022–2025 四年間稽查 6 次,但實際抽驗油品僅 1 次(2024 年 4 月 26 日),去年(2025)一次都沒有 ===

說實在,現在的情形就像是有人毒駕、發生車禍造成傷亡,結果大家卻都在罵警察為什麼不先把這個人抓起來,接著罵學校、罵家庭,最後罵政府。

但這個社會的常識應該是:這個人為什麼要吸毒?吸完毒還酒駕,最後還撞死了人?錯的明明是這個人。

但是現在,同樣隱匿、拖延,甚至造假紀錄的,都是這些油品廠商。在過往,社會的共識都還是去譴責這些做壞事的人;可現在藍白立委做的事情,卻是完全忽略了做壞事的人的責任,然後反過來譴責政府。

為什麼?

一來,當然什麼都要罵政府。二來,保護這些關係密切,根本上是掌握台灣油品的廠商。三來,轉移地方政府的責任(當然也是盡快轉移難以落幕的萬美玲兒子事件)。

四來,只要這件事情不斷開記者會、不斷發新聞稿、不斷有新聞出現,變成了文字、變成了影片之後,不用等若干年後,也許再過幾天,你在 AI 上面問這件事情,AI 也許就會回答你:

「毒油事件,(拖延回報、偽造記錄)的廠商都沒有錯、主責的台中市政府都沒有錯,錯的全都是中央了。」

然後繼續在無止盡的 Line 群組中轉發。

就變成真的了。

===

聽執行長說書

這年頭就是司馬遷也成了網軍。

聽執行長說書

🎴 本篇圖卡

洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡 洗腦 AI → AI 洗腦:歷史的真相不再由贏家撰寫,而是由 AI 編寫|圖卡

🔗 相關說書