Reflection
▌該怎麼處理「和AI對話所學到的」知識?
⒈
最近在使用AI時,發現一個我以前從來沒有想過有可能會碰上的問題:我該要來怎麼學習和整理「在跟AI對話的過程中所學到的知識」?
當然前提是,那些成果可以被稱為知識。但我想這應該不是什麼大問題,因為我們都知道AI甚至有能力獨立完成全新的數學證明。
更何況,我要說的甚至不是那麼多的東西,因為那反而好辦:如果是「全新的」知識,那麼會碰上的反而是那些老問題,像是「AI的著作權歸屬」啦,或者是「AI會不會取代思考」之類的,或甚至「AI有沒有人格和意識」等等。
⒉
但困擾我的不是那麼複雜的問題,而是更加基礎而淺薄的——我不覺得我,或在我指示下跟我討論和工作的AI,有能力產出什麼全新的知識,而更有可能只是賦予了我某些既有的,從它的訓練知識中所獲得和拼湊的知識——但它們對我來說仍然是全新的而且是帶有某種詮釋的知識。
換句話說,這很類似於「AI取代思考」的問題但又不完全相同:這是AI取代我讀了某一本書之後本來會自己做出的詮釋,然後它直接把結論告訴我,卻沒告訴我「這是我在讀了哪本書和經過了怎麼樣的思考之後」所得出的結論。
——它當然沒辦法告訴我,因為它不是我,就算它告訴了我那是哪一本書也無法還原那個閱讀的過程。除非,我自己去讀一遍,但那就已經不是「我該怎麼處理『和AI對話所學到的』知識」的問題了,因為那就是我放棄了或不相信它,而終究還是自己從書本得到這些知識。
⒊
換句話說,這是該怎麼應對和處理「不是從書本上所獲得的知識」的問題。我感覺我還沒有在任何其他地方看到有人有類似的困擾。
或許是因為:使用AI的人,大多都是有非常具體的實用取向,像是請AI幫忙完成特定任務或頂多說明任務的細節和方法,而學習的是特定的「技巧」,而非某種「理論」或知識——而更進階的研究者使用AI時,則會產出真正的新知識,又還不像我只用於「學習知識」的階段。
於是,不上不下,而困擾於「缺乏索引」而不知該如何組織和記憶新學到的知識:我看到最接近的困擾,是在Google剛推出將AI摘要應用於搜尋引擎結果時,有人討論到認為這將有可能破壞Google搜尋賴以存在的整個基礎——對網頁以「被引用」進行評估的信賴加權,以及使用者追尋「連結」而獲得的網頁瀏覽體驗。
而回到個人,對我來說,則是以文本和作者為支點,所構建的整個知識網路體系的崩塌。
然後想到前陣子,看小朋友查資料,甚至是準備段考,都是把概念和關鍵字直接丟給AI要它們解釋給他們聽,那時就有點憂慮於這樣的學習當然我們以前臨時抱佛腳也都是如此,但如果真的要繼續深入(也當然他們都還是可以回到書本)但這樣的「學習」是否會無以為繼?
而沒想到比他們更快碰上的是我自己的困擾。
⒋
例如,以這篇文章來說,或者說我所說的從AI學到的知識,那是一個很有趣的洞察:「我習慣用修飾語隱藏判斷」以及口語和書面兩種媒介對我的表達的影響——無法後飾的口語沒法隱藏判斷,也不會混淆資訊的抵達而自然而然遵循了「從已知道未知、從簡單到複雜、以舊引新」的表達原則。
於是主要檢查兩件事:從句子的結構和修飾與找出被埋藏的主謂句也就是判斷,那本來可以被陳述為非真即假的命題而受檢驗的主張,是不是在口語轉換成文字的過程中,被偷偷藏在了前飾句與繁複的語法結構之中就像現在這個樣子;然後,檢查資訊的排列和抵達順序,而遵循古典風格的實用寫作原則,就如威廉姆斯和李笑來所說,或就像余光中所抨擊。
或就像海明威所說:“All you have to do is write one true sentence. Write the truest sentence that you know.”——然後,是你具體所見的,意象或視覺化的思考。
但我卻完全不知該如何安放這些「知識」,而只能讓它們像是「我自己的思考」一樣被零散的紀錄,並期待和等待哪天它們終於內化成身體的本能。於是,甚至不是「過度依賴AI會不會被取代思考」——而是我多麼希望它能不僅僅是我的思考,如此彆扭又怪異的困擾。
—
• 修飾語:是不是判斷?
• 抵達順序:能不能同步?
• 意象:經歷和能被看見?
—
+切分+內涵(條件):光譜、矩陣、座標、文氏圖
| |概念(邊界):概念對比、場景並置、複合詞
| +落點(指涉):清單、分類、類型學、MECE
|
+連結+類比┌性質:表面的特徵
| └結構:關係or系統
|
+反轉+定義:反面定義or例外證明
|因果:對立成因
+標準:辯證思考/相反相對
+論證+主張┌類型:衝突、懸念、意外
| | └判斷:修飾語vs主謂關係
| |
| +理由+條件+ABT:有A沒X也沒B→[X]
| | |歸謬反證:有A應B卻沒!?
| | +否定選言:MECE+反例
| |
| +概念+對比+猜想落空
| |輕重+預設反駁
| +三要素兩轉折
|
+具象+比喻:通感、延長、返回、擬物
|場景:行為場景、陌生化、鏡頭
+故事+比喻型:將結論作為前提
|類比型:以情節呈現衝突
+場景型:以事件闡發道理
▌「被AI奪舍」或被消磨的熱情。
這兩年,越來越多「被AI奪舍」的說法:關於自己喜歡的創作者,開始依賴AI,然後變得完全不像他們自己的鬼故事——也許是文字,也許是影片,甚至是繪圖。
但每次看到這種傷感,我都會忍不想說,也許對於這些會用AI取代「自己親手創作」的所謂創作者來說,從來就不是:AI將他們奪舍了。
而是他們對創作的熱情,早在很早以前就已經死掉了。而也就早已不關心創作的成果,到底是來自於自己還是AI了。只要有流量和成果就好。
這從許多「被AI奪舍」的帳號,都更多出自某些領域也可以看出來:哪些類型的內容本來就更多不是出於純粹動機而是別有所求。
▌最近對「網路不反映現實」感到越來越困擾。
雖然,這也不是什麼新鮮事。
「同溫層、參與不均、自我呈現」:你只會看到演算法推給你的跟你意見相仿的內容,而且越是極端的言論發言越是踴躍(皮尤研究2019年的數據是7成政治言論由僅僅6%用戶發表)——更別說,就算沒有演算法和發言頻率的扭曲,人們在網路上本就會選擇不同形象的展演。
所以,不管是現在蔡阿嘎,還之前黃山料,不要說有沒有人出來挺他們幫他們說話,我們甚至沒辦法「勾勒出他們受眾的形象」而只能虛空索敵憑自己喜好畫靶:簡單來說代入任何自己討厭瞧不起或想要貶低打壓的對象。
但還是感覺有點恐怖,對於我們賴以認識世界的管道是如此失真(而偏偏少數極端被扭曲為多數之後甚至還能得享「正常」之名)且不只是社群媒體還有Wiki和AI都是如此:不同語言版本的維基內容不同——這也是早就知道但忽然被警醒的事實,那是前幾天在查諾曼第前夕「Excerise Tiger」資料發現德文維基居然比英文詳細(而中文根本沒有條目)時才忽然驚覺——就算沒有平台和算法的裹狹,我們也依舊被困在各自的語言裡。
「但現在有AI和翻譯啊!」有人說。
但且不說「使用AI的意識」可能就已是/或甚至是更大的隔閡,前兩年矽谷創投教父Paul Graham才寫了一篇文章叫Writes and Write-Nots:寫與不寫的人,而主張AI人工智慧的發展將使越來越多人將寫作和思考外包,並最終導致這世界將只剩下兩種人,寫與不寫的人,會思考和不思考的人。而不像現在,儘管良莠不齊和受困於各自的語言我們多多少少仍然都會讀會寫也多少會有一些自己的思考。
況且,僅有「自己的思考」也並不夠。前陣子在DEV Community我才看到有人說我們正在面對的是一場知識的崩塌:人們不再公開累積知識和分享經驗,曾經的公開討論每個人碰到的問題和分享解決辦法逐漸被獨立的與AI的對話框取代——當然,也許聰明的AI可以解決所有問題,而讓我們不再需要參考他人經驗,也儘管類似討論早在臉書取代網誌時代就有人憂心價值的積累不易全部打散在貼文和留言而隨時間逃逸。
但「問題」呢?如果「公共知識」真正有意義的不是「看看別人怎麼解決我也有過的問題」而在「看看他人怎麼處理我從沒想過的問題」呢?而能明白原來人與人之間的交流理解很大程度在於能不能透過他人眼睛看見並重新理解這個你曾以為早已熟知的世界:原來,這對他們來說是一個「問題」啊!原來為了解決這些所謂的問題,他們會採取這樣的手段啊?而能能了悟這短暫生命不只有一種活法。
而如果這些都不再重要,那麼我們距離每個人都活在AI幫我們精心打造的小母體世界的距離又還有多遠?那樣的或許看似在各自的世界裡享有前所未有的豐盈和富足,卻終究只是蒼白而無益的重複。
▌AI不如具體的義體有著機油與鮮血的味道。
美國一紙禁令就把Claude新模型給ban了。作為程式麻瓜,這件事最令人毛骨悚然的,倒不是Fable 5真的有多強大或AI主權與國家軍備競賽。
而是隨著AI越普及近乎民生必需品同時,它卻以「訂閱制」形式壟斷在大企業手中,普通用戶不只想用要持續付費,甚至可能有錢也享用不得(即便沒有禁令A社原訂也只對訂閱用戶開放到6/22)而近乎科幻霓虹的賽博龐克世界,只是虛擬的AI應用並不如具體的義體般有著機油與鮮血的殘忍的味道。
至於實際使用體驗,Opus 4.6第一次讓我有了,AI可以給我提供我也沒想過的答案,Fable 5則第一次讓我感覺「回應不如預期,是我的錯而不是它的」——我只需要更精確,或更進一步提出需求和指示,而不需要去「糾正」它的任何理解和回應。
當然儘管,這可能只是剛上線的新鮮感所致,畢竟它還活不過四天就被ban了。但數十萬字筆記的全盤理解和細節辨認依舊令人驚艷,儘管只是曇花一現或在未來只能午夜夢回在月球相見。
▌沒搶到初代iphone的人並沒有錯過什麼。
「沒搶到初代iphone的人,並沒有錯過什麼。」
在知乎看到一則對AI焦慮的評論,有1.3萬贊同。但我有點不確定:這真的是一個合理的類比嗎?畢竟現在AI已經遠遠不只是一項產品,而是生產力工具,甚至全新的技能。
以及更可怕的是:即便AI也只是產品,它的「邊界」卻是不確定的——汽車取代了馬車,馬車伕可以去開計程車,但當被AI取代的人發現AI可以自主監督和管理甚至互相取代其他AI時,他甚至不知道自己還能往哪裡去。
「沒跟上XX的人甚至不知道自己錯過什麼。」
也許這才是問題:不是iphone能不能類比AI?而是我們甚至不知道那個要被拿來類比的是什麼——也許就是OpenClaw,也可能是下一個或下下一個,就在下個月出現的全新的XX。
▌一切堅固的東西都煙消雲散了。
對於「AI會怎麼徹底改變我們的生活」的討論已經有很多,但最近讓我深有感受的,卻是鮑曼這句引用自馬克思的名言。
最初,馬克思這句話,是用來評價資本主義帶來的影響,而且是頗為正面的評價:資本主義帶來的生產革命,打破了階級也祛除了宗教,儘管當然這也帶來了對人的異化,所以需要共產主義革命。
而進一步,社會學家鮑曼,以他著名的液態現代性,將這句話又往前推了一步:不同於馬克思想要「重鑄新的堅固」和無產階級至少共享相同的階級而受苦,晚期現代性從生產轉向消費之後的個人是真正原子化的,就連人際關係也是用完即棄的消費品。
—
但這和AI有什麼關係呢?上個月,Gemini 3 剛出來時,我在中國博主木遙的博客上,讀到了這麼一個觀察:我們正在進入一個「即生成即用的」的時代/一個「反標準化」的時代。
儘管,關於 vibe coding 的笑話層出不窮,像是抱怨 Google AI Studio 做出了假的API窗口害她被刷了一萬元的拓曜知識宇宙創辦人,或是冏星人「正確率高達30%」逼近擲硬幣的自動抓網軍程式。
但木遙要說的重點是:我們不再需要「滿足所有需求的」堅固、標準、可複用的商品了。每個人有了什麼需求只要打開網頁,就能請AI針對你的個人需求,量身訂做打造一個即生即用的商品。一個即生成即用,用完就丟的商品。
它不堅固不牢靠,但它也不需要堅固牢靠。
—
因為即生成即用且用完就丟,那麼你管它耐不耐用,甚至管它合不合身呢?不就是出門才發現下雨了沒帶傘,所以隨便買的一件穿完就丟的輕便雨衣?而輕便雨衣的設計甚至還要思考盡可能符合最多人身型,但AI產品不用。
換句話說,vibe coding 的笑話,是在於他們想偷吃步藉由AI打造標準化的商品出售。但如果他們打從一開始就沒想出售,那又會有什麼問題呢?像是自從去年二月亞馬遜取消電子書下載服務以來,我一直苦惱於怎麼才能把堆積如山的外文電子書搞出來:以為龜速的英語閱讀速度,不借助AI和翻譯不知要看到猴年馬月?
於是求助AI,弄了自動截圖翻頁,再裁簡合併成PDF後識別OCR一鍵完成的懶人程式。沒有任何程式基礎,也不檢查,把目標完成之後全部還原,就算中間有任何差錯也不可能延續到以後有任何長遠影響。
—
然而,更重要的並不是這一切。
更重要的是,我本來有嚴重的格式強迫症。對於電子書的格式,對於字體,對於命名,對於分類。但是當一切都自動化完成,我既不用過問過程甚至不用過問成品——弄好的電子書我直接全部丟到可以讓AI讀取的資料夾,我連看都不看原始檔,有需要就叫它直接把哪本書的哪一段摘要出來和原文雙語並列給我——在這個時候,我終於明白我的強迫症源自何處。
我對堅固和神聖之物,有著憧憬和恐懼。
我憧憬著完美的永恆而恐懼有半點玷汙。但我再也不用也沒機會恐懼了,因為一切堅固的東西都煙消雲散了。
▌對陌生之物不再抱有謙卑和好奇。
看一群40歲up的中年人集體嘲諷小紅書,而完全無知於自己的無知,真的覺得有夠可怕。
今年五月OpenAI執行長Altman才說過,不同世代的使用者,在AI使用習慣上有著驚人差距:當20歲左右年輕人已經像我們當年第一次拿到智慧型手機時一樣,自然而然把AI融入生活,作為操作系統來使用時……絕大多數的35歲中年人卻還僅僅只把AI當成Google的替代品。
就和他們現在看待小紅書的態度一模一樣。
他們真心相信,小紅書不過就像Google一樣,只是又一個搜索資訊的來源和渠道,不只隨時可以取代,甚至認為「沒小紅書就不會獲取資訊的」都是不會google的白癡,有的甚至還驕傲地炫耀起自己當年追美妝部落客的老人臭。
而完全無知於小紅書特殊的社群生態屬性。
對不熟悉的事物抱有謙卑或至少好奇,這樣的在年輕時候只覺得理所當然,隨著年歲漸長才知道要小心呵護的品質,實在令人戒慎恐懼。
▌ChatGPT:名為現代的弗蘭克斯坦的鏡子。
關於AI的討論,我最喜歡的是台大法理學教授顏厥安老師在〈人之苦難,機器恩典必看顧安慰〉提出的一個觀點:他以2018年Google助理成功預約理髮和餐廳訂位為例指出,這個事件與其說是標誌了AI技術的進步,不如說是揭示了人類互動關係的「社會功能化」——這在兩年後的《西方極樂園》S03E01中有一段生動展現:在所有人的工作和社會地位都被算法所支配的未來,男主角接到一通求職被拒的電話,他先是嘗試哀求對方給自己一個機會,問對方自己有沒有什麼能改進,或有沒有其他更適合自己的職位,然後才絕望的發現,來電者不過是一個人工智能客服——被取代不是因為AI變得越來越像人,而是人類早就變得越來越像AI。
但反過來說,AI也確實越來越像人。去年有一篇因為題目而爆紅的AI論文,名叫“ChatGPT is bullshit”作者是三位格拉斯哥大學的研究者。他們主張大語言模型,在功能上更重視「取信於用戶」而非「提供真實信息」的設計,導致相較於幻覺或謊言,大語言模型提供錯誤資訊的現象更貼近哲學家富蘭克福對bullshit的分析。延續他們的思路,亞利桑那州立大學哲學系助理教授Jimmy Licon提出另一個觀點:ChatGPT是胡說八道,部分是因為人類就愛胡說八道。
他指出「胡說八道」其實是人類獲取聲譽的重要手段:我們並沒有要說謊,我們只是想要說些好聽話迴避事實。而在富蘭克福看來,這是比說謊更過分的事情,因為說謊者至少還在乎真實。或者,以我更愛的鄂蘭的話來說,只要說謊者仍對「他在說謊」有所意識,那麼他所想要向他人掩蓋的真相,就尚未完全從這個世界中被抹除,而在說謊者身上找到了最後的庇護。因此對真實的傷害,既不是完全的,也不是最終的——不像ChatGPT和胡說八道者對真相的傷害。然後想到,國中時候,讀倪匡的《衛斯理系列》讀到過一個故事,講生物學家潘氏夫婦,發明了一種能消去人類犯罪傾向的手術。於是他們偷偷綁架一個罪犯,實施手術,並最終成功讓罪犯的腦電圖曲線變得和他們一樣。當晚,他們慶祝實驗的成功,但在不久之後卻雙雙遭到受試者以精心策畫的計謀殺害。在故事最後是衛斯理的妻子白素,想通了關鍵,並將真相告訴衛斯理:「潘氏夫婦成功,但也失敗了。」
他們成功把罪犯變成「和他們一樣的好人」。
就像我們也成功把AI變得越來越像人,這名為現代的弗蘭克斯坦的鏡子,在它們身上我們看到了早已「社會功能化」而丟失人性的,我們行將就木的身影。更在「狗屎連篇」連篇的它們身上,看到了早就棄真相於不顧的回魂屍。然後再次明白,面對「自我」我們有多盲目和自欺。而又想到GPT-5更新時,許多人哀號它所給予的情緒價值/阿諛奉承和胡說八道,遠不如4o表現亮眼,宛如《人造意識》的「終極版圖靈測試」真實上演:真正的問題,不是我們有沒有可能愛上AI,而是我們到底要如何不愛上AI?
「我們該如何避免我們繼續自欺欺人?」
或更糟的:如何避免不再在乎真與假?
▌然後明白面對「自我」我們有多盲目和自欺。
今天,久違的,感受到了,納博科夫所說閱讀優秀文學作品時所會帶來的脊椎的震顫,那種渾身起雞皮疙瘩,在惶恐與狂喜之間悚然驚覺自己似乎觸及到了世界的禁忌的真相的感受。很巧的也是因為閱讀,但不是因為閱讀他人的文學創作,而是閱讀他人為了創作而以第一人稱敘述口吻寫下的,把自己思考過程外化之後的結果:「我」正在想什麼,又打算怎麼做。
而令人毛骨悚然的是,當對方還在跟我分享他在想他會這麼做是不是因為距離自己太遙遠時,我第一直覺感受卻是:這也太像深度思考的 AI 在報告自己的思考了吧!然後瞬間想到為了準備下下禮拜的上課簡報,我也做了和他一模一樣,用「報告自己思考和計畫的第一人稱敘述口吻」幫助自己規劃和構思課程內容。
於是,立刻把構思發過去並得到回應:「哇,你這個讓我意識到我們好像天然就跟 AI 很像欸?這也太像大型語言模型的思考過程了!」
而他卻還沒有意識,這也就是我看到他的記錄時的感覺。那樣一股雞皮疙瘩沿著整個背脊往上爬,甚至有種好像一回頭就會有母體探員從屋外破門而入,或是就要衝進浴室拿剃刀劃開手臂只為確認自己不是機器的癲狂的興奮,然後明白,面對「自我」我們有多盲目和自欺。
自以為,已經將自我客體化,想像出了另一個作為對話對象的自我,像是對待第三者一樣觀察和描述「我」的所思所想,原以為這樣就能更加客觀地看待自己,沒成想卻仍舊只是沉溺於「這樣是否太抽離」的自我陶醉之中,而殊不知在他人眼裡就只是一個報告思考的 AI。
而儘管在自己看他人時這一切是如此清晰。
▌為了「逃避深淵」我們願意付出多少代價?
在脆上連續滑到兩篇「台派抓網軍」的文章。
他們的論點居然是:台灣人不會講階級,會講階級的都是中國人假扮,真的是有夠可悲。當然我知道,這絕不會是台派的錯,只會是中國共產黨的錯,是他們使馬克思主義蒙上汙名。
但計較「到底是誰的錯」到底有什麼意義呢?
因為不是我們的錯,所以我們就沒有必要解決問題了嗎?所以我們就要支持資本與剝削,就要支持階級的壓迫,不然就不配愛這小小多山的國家,沒有資格做一個堂堂正正的台灣人?
—
然後從「抓網軍」,又進一步想到了「抓AI」。
而前陣子,在X上很紅的則是「破折號」——許多人以此判斷,文章是不是AI生成,甚至提議噤聲所有使用破折號的文章。而之前在脆上,甚至有人提出教戰守則:重視邏輯會貼報導。
這不是「當你凝視深淵,深淵也在凝視你」。
這是為了逃避深淵,你寧願選擇淺薄,也不願為了慎思和明辨付出任何努力。不願意更仔細去辨認一篇文章有沒有道理,而情願用有沒有破折號有沒有階級有沒有邏輯和證據來判斷是不是AI或網軍,而情願扼殺自己的可能性。
而情願扼殺自己身為人類所擁有的可能性。
▌AI只是放大了一切。
很多人在講現在大學生用AI,講的就像在玩扭蛋機:投一個硬幣進去,也不管最後轉出來什麼就都直接交上去,顯得既敷衍又不負責任。
但我覺得,將問題歸咎學生或AI都太簡化。
因為以前學生也會抄作業,只是工具和形式不同。當然,AI確實使抄作業成本變低,但這也只說明AI放大了既有的,而非製造新問題。
—
真要說,AI的問題是創造了零成本的敷衍。
零成本的敷衍,使學生不再像過去就算只想交差了事也要有最低限度的投入:至少要花時間決定要抄誰抄哪個段落,怎麼換句話說或重組拼貼;零成本的敷衍則連這些付出都不需要。
但是,如果你願意投入AI也能夠教你更多。
只將AI視為協作工具,先有初步構想,再與它討論尋求建議,就能不被誤導,甚至因為不完全信任AI,反而能激發更多思考。先有明確目標,再不斷修正和補充指令,以獲得精確回應的過程,更有助於提升自身寫作和表達能力。
—
因此,你可以說零成本的敷衍是問題,但也可以說AI最大的貢獻是讓敷衍變得不用演了。而讓一切都往兩極化發展:選擇敷衍和選擇不敷衍的人和選擇把時間投入更重要的事情的人。
AI放大的,不只是既有的問題,而是一切。
▌不知道為什麼對吉卜力 AI 圖還挺有疑慮的。
不是說覺得不能模仿風格,也不是覺得不能拿圖去訓練,只是對於這種吃豆腐式的行銷,以及跟風背後對風格「濾鏡化」理解感到不安。
我的意思是我不覺得這僅僅是「一種風格」。
因為就像 OpenAI 執行長親口承認的(有許多網友表示,他們只是要求 ChatGPT 生成日本動畫風格也變成吉卜力)而這是有理由的:選擇吉卜力,是因為吉卜力作品背後的意義。
那是宮崎駿一生創作的全部。
這就讓我想到,當年《蒼鷺與少年》上映時,採用無宣傳無預告的形式,有畫師開玩笑說是抱持著進去看宮崎駿說教的心態入場,而我想那是很類似的心境,選擇吉卜力風格的理由。
這無關乎風格抄襲或者剽竊。
只是好像有什麼更重要的東西,不見了。
▌我發現「寫AI提示詞」還挺讓人上癮的。
有一種智識上的快感,被逼著去反思,把那些經年累月已經成為本能反應的,自動化了的潛知識,給挖出來,然後發現自己的思考,根本就其實坑坑窪窪有許多說不清講不明的黑洞。
當然,有時候過度反思,也是可能出問題。
但還好人腦不像電腦,只能看著不知道從哪來也不知道為何能運行的老舊代碼,動也不是不動也不是,不知道該如何是好。還好人腦不是這樣運作的。儘管,也會有蜈蚣卡住現象,但是只要能分清楚什麼時候該反思,什麼時候該全神貫注投入,也就不至於像開始思考該先動哪隻腳的蜈蚣一樣動彈不得。
而除了發現自己的其實不知道,或是一知半解之外,這樣的反思,也就像維護程式碼,能讓我們發現許多以前分開寫的功能,其實可以被精簡替換:它們只是同一個功能的簡單變化。
例如,我在國外的一堂線上寫作課,學到了「命名、故事、隱喻」的解釋概念的套裝組合,然後發現執中學長很自然也是這樣用的,於是在整理申論模板的時候,就也想放進去教給AI。
但它卻好幾次整理出錯,至少我原本是這麼以為的,以為是它整理出錯了。但後來才發現不是它錯了,是我沒講清楚,甚至是我錯了,是我沒有發現我表達的含混,以及概念的類同。
還挺有意思的,真的,也還挺讓人上癮的。
▌AI是取代思考或只是改變了思考?
有人說,AI的發展,將使未來人們被分成會寫作和不會寫作的人。但我總覺得,AI雖然減輕了部分負擔,但在核心部分,對文筆的要求其實反而更高了。
因為雖然我的文筆不怎麼樣,但我確信影響文筆好壞的變量,至少有兩個:精準和具體。前者是找到最恰當的那一個字或一個詞,後者是在不使用那個字或詞的情況下表達同樣意思。
而這其實也是好的AI提示詞所要求的。
要準,不然它會給你很多亂七八糟的內容;但在準之後還要具體,因為再準,他也只會給你大眾平均刻板印象的內容,有時候字字不提愛但句句都是愛,你才能得到你真正要的東西。
因此,儘管說寫作就是思考,而大量使用AI或許真的會讓我們減少寫作和部分思考,但只要對成品的品質還有要求,那麼在提示詞下的功夫,會不會反而提升了文筆也增加了思考呢?
▌最近深覺人類的自甘墮落遠比AI威脅更甚。
不是AI表現得有多好,而是大家覺得這樣就足夠好了:不管是由人來做還是AI來做,就像以前沒AI慣老闆還不是只想找便宜美工。
因為那樣就足夠好了,再好的,錢不划算。
至少這是我在看了幾話搶快的獵人機翻,還有網友大推的解說後覺得很不爽,卻又在誠品翻到比AI翻得還爛的正版書而有的感想。
▌在擔心人類被AI冒充以前。
難以理解,為什麼至今還沒有在繁體中文網路,看到任何一篇對哈拉瑞新書的評論,讓人忍不住懷疑也許就像他所說:矽幕已然拉開,就像冷戰時期的鐵絲網,和柏林圍牆。
但諷刺的是,同樣的問題也發生在他自己身上:儘管他不斷旁徵博引,從神話到官僚再到資訊史和媒介論,甚至身心問題的分歧。
但他卻也不知道,他的擔憂根本有夠樂觀。
例如,他擔心AI冒充人類而使有意義的公共對話不再可能,但他所憂慮的卻是任何熟悉當下台灣網路環境者再熟悉不過的,所謂的「 魔族學習人類語言是為了欺騙 」的論述。
“ 如果我们和冒充人类的计算机进行政治辩论,等于连输两次。第一,用于宣传的机器人程序本来就不可能被说服,所以我们想改变它们的想法只会是浪费时间;第二,我们与计算机交谈的次数越多,会越多地透露自己的信息,机器人程序就能据以调整论点,动摇我们的看法。”
真正迫切的,不是AI冒充人類,而是人類被貶斥為AI;或者說,在擔心人類被AI冒充以前,不如先想想:還有誰有資格被稱為人?
【魔族和AI和心理治療:關於「溝通」的意義】
雖然說,我完全不反對「生活即政治」的口號;甚至,就如美國詩人奧登所說,我也同意能否『阐明艺术与生活、科学、经济、伦理、宗教等的关系』是我們「評論一個評論的好壞」的重要指標。
(另外兩個,是『给出对一部作品的一种“阅读”方式,可以加深我对它的理解』以及『阐明艺术的“创造”(Making)过程』。)
但是,我實在難以忍受,為了影射現實而強行扭曲作品內容的行為:不管是最近動畫大火的《葬送的芙莉蓮》還是後篇完結的《進擊的巨人》都充斥著各種這樣的削足適履——不過,這不是今天重點。
—
只是忽然想到,前陣子瘋傳的台詞:
『魔族是吃人的怪物,你有想過那些傢伙,為什麼要跟人類講同一個語言嗎?“語言”對他們來說,是用來欺騙人類的伎倆。』
於是許多人,恣意地,把這個設定拿來套用在「任何他們認為無法溝通」的對象身上,將對方貶低為像魔族一樣『只是群會模仿人類聲音,卻無法溝通的猛獸。』
先不說,這種行為才更是「無法溝通」的表現;單從作品來說,這種解讀,也是完全沒有理解在故事伊始「同樣不明白人類情感」的芙莉蓮和魔族之對位,更別說後續〈黃金鄉篇〉的馬哈特之引入了。
什麼是溝通?什麼理解?什麼是情感?
—
然後想到這幾天,關於「大型語言模型」的兩個有趣研究:第一個研究,藉由 MBTI 測驗不同 LLMs 「模擬」出的不同人格類型(有哪些影響因素?是否能進行調整?)粗淺的結論是,有較強推理能力和參數較大的模型,更傾向表現出 INTJ 的特質。
第二個研究,進一步討論「提示詞」的作用,然後發現,如果我們對 LLMs 進行「情緒勒索」將會大幅提升回應的品質,從8% ~15%不等,很是有趣。
更有趣的是,結合這兩個研究,在北京大學讀臨床心理的朋友跟我說,他才剛剛參加了一個研討會,在討論「臨床心理在AI的應用」——不是,如何應用AI進行心理治療,而是如何應用心理治療改善AI表現:“也许有一天,临床心理学最大的价值是去治疗gpt,而不是治疗人类。”
—
語言,只是魔族用來欺騙人類的既倆嗎?人格,只是 LLMs 製造的幻覺嗎?或者,反過來說,只要無法理解情感,就必然沒有「溝通」的可能嗎?
我總覺得,在影射之外(或者,就算要影射)也不會是如此理所當然的:溝通,豈是如此不便之物?
▌最近使用ChatGPT外掛的幾點感想。
⒈摘要功能比預想的難用,因為我總是不放心,它會不會漏掉了某些「細瑣但重要」的關鍵?然而,除非我對這些關鍵已經有所預期,不然我又要如何知道,應該請它幫我留意哪些關鍵的字句呢?
⒉同樣的,搜尋功能也是。大家都知道,許多真正有價值的內容不是你丟幾組關鍵字,然後把搜尋結果整理起來就好的。而是要不斷根據搜尋結果,反覆修正關鍵字—— 但如果連事前告訴它,摘要時要留意哪些重點都做不到,我又要如何期待它能夠預測,將會因為搜尋結果不斷變動的,我的心意呢?
⒊最好用的還是「翻譯+文法修正」的combo,雖然大多時候,我還是會自己先打一段英文,再請它幫忙修正(有時候太難的內容,我則會在打好中文之後,自已先翻成英文,再請它同時給出翻譯和修正,讓我能對照它的翻譯和對我翻譯的修正。)這樣的讓我覺得一定程度上保持「自己的存在」的使用方式。
⒋最後,對於太長的文本,我覺得雙語書製作的功能也是非常好用;雖然它是一段一段餵給ChatGPT翻譯,所以速度並不快。原本,我還嫌棄,這翻譯速度太慢(遠不如Google翻譯,但精緻度也只略勝Deepl而已)但用久了發現,因為是程式自動運行,我反而產生了一種「ChatGPT正跟我一起『讀』這本書」的感覺,只是它「讀」不出聲音,只能用文字表現。
這種彷彿伴讀的錯覺,完全是跟讀翻譯筆的夢想。
【AI繪畫是不是藝術?】
這是今年「新國辯:哲理辯論I」的題目,跟高菁將要打的題目,很像,都是在討論AI繪畫(創作者使用AI繪圖利大於弊/弊大於利?)不過兩者,其實有著不小落差——是藝術,也有可能弊大於利;甚至反過來:恰恰因為是藝術,所以弊大於利!
(或者再反過來:因為弊大於利,所以是藝術?)
雖然,不是說「利弊」就沒有詮釋空間:例如,有沒有可能「有人被淘汰」也是利益呢?不只是利弊互現的:紡織機淘汰紡織工人,卻帶來工業革命;更是「也許有些廢物,被淘汰也是活該?」
當然不是說 #詮釋 一定要這麼刺耳,這只是要凸顯「利弊的詮釋」之難:也是凸顯為什麼,我們總說奧瑞岡也打價值性命題,卻總是打不明白的理由。
—
所幸,就算不能詮釋,我們也有 #比較。因為就像「AI繪畫是不是藝術?」討論到後面依舊很容易變成「認為AI繪畫是藝術,利大於弊/弊大於利?」
就像秋陽的論點:藝術要能感動和理解;而感動,並不可說!這些,其實也都是在打弊害:AI繪畫不只沒有感動,還會帶來「被辜負」的刺痛感;不可解的感動,要麼AI無法呈現,要麼將被「窄化」成幾個指令和關鍵字。
換句話說,對觀眾,對藝術本身,都是弊大於利。
——不過,要注意的是,秋陽討論的「AI繪畫」是單純的技術,但「創作者使用AI繪圖」卻是人的行為,而就像執中學長在〈價值辯論中的比較之三〉裡面說的:若把「人」的偏差,全當成「物」的善惡,則不僅隱遁了人的責任,也架空了人的自由。反之,亦然。
—
那麼正方呢?雖然在模辯的時候,我沒有特別揣摩哲耀學長的思路,因為在我看來,這題,反方的核心,其實就是 #藝術定義 的人造性問題(在模辯之前,我特地把戴維斯的《藝術諸定義》拿出來又翻了一遍,真的是寫得極好,非常推薦所有對「藝術定義」或是「分析美學」有興趣的人找來看看~)
從反本質主義的「實用主義」觀點(當我看見,我就知道)到「人造性」的兩種解釋:這是「勞作加工」與「引發詮釋」的分歧(例如杜尚的《泉》也並不是他「製作」,而只是他「選擇」的)最後,再進一步,把選擇交到觀眾手裡:作者已死。
從結果來看,這不是預測的預測,卻八九不離十。
(不過,我還是更喜歡,我想到的「AI繪圖的使用者,不是新時代的畫家,而是平行世界的攝影師」的表述,僅次於秋陽的:AI繪畫的核心,其實是語言!)
—
最後,除了詮釋和選擇之外,辯論說到底,其實是「觀念」之宣告,是 #言說 之選擇:而我們也都知道,言語其實就是行為,所以終究,我們還是要回到「背景-衝突-問題-解決」的架構,然後給予言說/行動的理由—— 要麼問的夠準,要麼衝突夠強,或是足夠狗血煽情。
這幾天,我覺得,好像依稀摸到了答案。
只可惜藝術和真理都不可被言說。
▌該怎麼處理「和AI對話所學到的」知識?260807
▌「被AI奪舍」或被消磨的熱情。260629
https://www.facebook.com/lunglung0815/posts/27909001038692936
▌最近對「網路不反映現實」感到越來越困擾。260627
https://www.facebook.com/lunglung0815/posts/27886788087580898
▌AI不如具體的義體有著機油與鮮血的味道。260613
https://www.facebook.com/lunglung0815/posts/27720207357572306
▌每一本書都是一個等待被支解吞噬的架構。260605
https://www.facebook.com/lunglung0815/posts/27617238604535849
▌沒搶到初代iphone的人並沒有錯過什麼。260313
https://www.facebook.com/lunglung0815/posts/26631169729809413
▌一切堅固的東西都煙消雲散了。251225
https://www.facebook.com/lunglung0815/posts/25915996041326789
▌對陌生之物不再抱有謙卑和好奇。251205
https://www.facebook.com/lunglung0815/posts/25745787411680987
▌ChatGPT:名為現代的弗蘭克斯坦的鏡子。250816
https://www.facebook.com/lunglung0815/posts/24735915259334879
▌然後明白面對「自我」我們有多盲目和自欺。250805
https://www.facebook.com/lunglung0815/posts/24648260958100310
▌為了「逃避深淵」我們願意付出多少代價?250708
https://www.facebook.com/lunglung0815/posts/24424791377113937
▌AI只是放大了一切。250519
https://www.facebook.com/lunglung0815/posts/24052878097638602
▌不知道為什麼對吉卜力 AI 圖還挺有疑慮的。250329
https://www.facebook.com/lunglung0815/posts/9901280873224895
▌我發現「寫AI提示詞」還挺讓人上癮的。250222
https://www.facebook.com/lunglung0815/posts/9689769907709327
▌AI是取代思考或只是改變了思考?250110
https://www.facebook.com/lunglung0815/posts/9443231762363144
▌最近深覺人類的自甘墮落遠比AI威脅更甚。241026
https://www.facebook.com/lunglung0815/posts/8987559147930410
▌在擔心人類被AI冒充以前。240911
https://www.facebook.com/lunglung0815/posts/8624409860912009
【魔族和AI和心理治療:關於「溝通」的意義】231107
https://www.facebook.com/lunglung0815/posts/7187740957912247
▌最近使用ChatGPT外掛的幾點感想。230314
https://www.facebook.com/lunglung0815/posts/6365374773482207
【AI繪畫是不是藝術?】230114
https://www.facebook.com/lunglung0815/posts/6170308786322141