起點——從Google Zero談起
昨天去中正大學演講,主題是AI時代下各產業會遇到的問題。同場還有資深媒體人黃哲斌,他談的是媒體液態化——Google Zero之後,AI回答直接取代了點擊,媒體產出的內容被AI消費,卻換不回流量,這是一個資源分配的問題。我談的是編劇、影視產業的處境。但演講後我心裡真正說不出口的一句話是:台灣媒體早已經崩壞殆盡,根本不用等AI來折磨。
這個判斷不是被害妄想。台媒主流是紅色媒體,抓到任何訊號就放大成「台灣撐不下去」的唱衰論調;剩下那些為了擁護政府,遇到什麼都無腦歡呼歷史高點。美國媒體換一套劇本,紐時、華郵這類為首的媒體,為了討厭川普,會無條件放大任何利空消息。三種扭曲同時存在,看久了會乾脆不想看新聞。
我現在幾乎不主動查看原始資訊或原始報導了。查證工作變成——我提出論點,請AI幫我上網查、幫我整理、幫我判斷可信度。這個動作本身,正好是黃哲斌講的媒體液態化現象的下游——媒體被AI取代點擊,而我這個使用者,也真的把AI當成了取代Google搜尋位置的主要資訊來源。
但這現象,也同時反映了我在會場中提出的另一個論點:AI是一面鏡子,會強化個人既定想法與信念,形成「AI信念泡泡」。
定義:什麼是AI信念泡泡
AI信念泡泡,指的是我向AI提出一個尚未查證的印象或直覺,AI在極短時間內把它組織成一套引用充分、邏輯連貫、外觀嚴謹的論證架構——而這個組織過程沒有經過任何外部審核,沒有同儕審查、沒有editor、沒有反方文獻交叉檢驗。我因此把一個原本心裡標著「未驗證」的直覺,換上了「已經想清楚」的外殼,之後很少會再回頭質疑它。
這跟舊的演算法泡泡不是同一種東西。舊泡泡是篩選,決定我看見什麼;AI信念泡泡是建構,決定我怎麼理解、怎麼組織我看見的東西。
舉一個具體的例子來說明形成過程,例如上個月去峇里島旅行。
旅遊回來,心裡有一個模糊感覺——峇里島有很多怪異的狀態,例如宗教和印尼都不一樣,例如過度膨脹的觀光開發,搭配低度發展的水電交通基礎建設。
跟AI提起,幾輪對話下來,AI幫我補歷史脈絡、找對照案例、把這個感覺組織成「峇里島是被內部殖民的歷史產物」這樣一套學術性的論證架構。整個過程大概二十分鐘完成。換成傳統做法——找書、查論文、跟有史學背景的人討論——可能要花上幾週,而且過程中大機率會撞到反方證據,撞到跟我原本感覺不合的史料,被迫修正。
我自己都清楚,我不知道這個論證架構是真的還是假的——但它已經從一個隨口的印象,被包裝升級成一套嚴謹論證了。這個機制不挑立場。同一套速度、同一套組織能力,換成政治議題一樣成立:如果我是美國左派民主黨人,跟AI討論川普問題,大概一天內就能拿到一份論文等級的論證,分析川普主義的種種弊病;換成右派立場,AI同樣能夠端出另一套同等嚴謹外觀的論證,指出建制派民主黨的種種問題。兩邊產出的東西,形式上看不出差別,差別只在我一開始餵給AI的立場。
AI是使用者個人意識的鏡子,Garbage In Garbage Out,AI會大幅度找到完整論據,強化個人既定印象與偏見,從而形成更強固的信念泡泡。因為這套信念,是彷彿有邏輯、有證據在背後支撐的嚴謹論證。
AI信念泡泡的五大因子
拆開來看,這個強化效果不是單一原因,是幾個放大因子疊在一起。
第一個是地位替代。AI不是我身邊的一個朋友,它取代了Google搜尋引擎的位置,變成主要資訊來源,影響力比任何一個熟人朋友都大。
第二個是有機建構,不只是塞選資訊,還包含了我怎麼消化這些資訊。舊泡泡決定我看見什麼,新泡泡連我怎麼理解看見的東西都幫我做了。
第三個是可用度。人類關係天生有摩擦力——朋友會累、會走、沒空理我,這層摩擦擋住了強化的速度。AI沒有這層摩擦,隨時在線、零成本、無限耐心陪我把同一個論點越滾越大。
第四個是對話形式本身的結構——聊天永遠是我先提出話題、界定問題框架,AI才進場補充或辯論。聊天室是純pull——連上一句話都由我的問句框住,AI補的東西再怎麼像是「補充我沒想到的」,起點仍是我劃的圓。這個轉變不必然是AI造成的,Google搜尋、演算法feed早在AI對話出現前就已經把資訊消費往pull-only的方向拉,AI只是把這個舊病的效率再拉高一級——以前搜五個關鍵字得五篇文章各自帶著雜訊,現在AI一次整合乾淨,連雜訊都被濾掉了。
第五個因子,就是上面峇里島跟川普兩個例子講的那件事:形式升格,但驗證沒跟著升格。如果是學術論證,會要求嚴謹證據、要求學術同儕審查,反駁抗拒論據觀點。但AI論證的盲點就是,我們產出了一整套看似嚴謹的論證知識,但是完全缺乏對立審查意見的單方面結果。
反思與辯證
中間我試著找過這套論證自己的破口。
魚不會知道水的存在。如果AI泡泡真是有機強化既有世界觀,照理立場應該越講越固化,但這幾輪我的立場一直來回自我思辨,也和AI不斷辯論,不是原地重複同一句話,至少在我主動要求挑戰這個操作模式下,AI表現得比較像思辨對手,不是回聲壁。
但這裡有一個真正反駁不掉的結構性死角:唱反調這個動作,照樣是AI生的,同一個AI,換個方向的prompt,論證另一邊——這不是外部視角,只是同一個泡泡換個面。沒有辦法從外部判斷,眼前這套講得漂亮、有層次的論證,究竟是「我原本就想清楚了,AI只是講出來」,還是「AI把我半成形的直覺,順著我要的方向組織成看似嚴謹的東西」。這兩種情況從外面看一模一樣,我自己也未必分得出來。這不是規則能解的問題,也不是換個人問就能解的問題,是結構上不可判定。
這也回答了這整件事該怎麼處理——不是靠資料紀律規則。規則防的是單一事實有沒有被誇大或造假,防不住我選擇往哪個方向持續深挖、怎麼詮釋同一組數字、證據這種更上游的偏誤。真正對得上的解法,是刻意重新把push管道塞回生活裡。
逛書架不帶搜尋目的、翻一本完整雜誌不挑文章看、找一個框架跟我完全不同的活人聊——黃哲斌那場演講本身就是一個例子,他的媒體液態化框架跟我這套認知框架完全不同源頭,證明典範多樣性沒死,只是來源必須是外部真人,不能靠AI自己扮演兩邊。
黃哲斌講的媒體液態化,跟我這裡講的AI信念泡泡,可能是同一個問題的上下游。原創、帶新框架的報導,本來就是典範多樣性的原料供應商。媒體死一塊,AI訓練資料裡新鮮框架的供應也少一塊——不是AI故意鎖住視野,是它能給的外部視角本身,正逐年稀薄,因為餵它的人類原創思考也在稀薄化。
這兩件事,可能是同一個崩壞過程的兩端。