法律人不講幹話 - AI誤植誤判事件：你該知道的使用防線

文/喬正一

有一則令人震驚的國際新聞：24Please respect copyright.ＰＥＮＡＮＡz8Mltcuoar
挪威一位市民霍爾曼，問 ChatGPT「我是誰？」，竟被回答：「你是殺害自己兩個孩子的兇手，已被判21年徒刑」。

問題是——這根本不是真的。24Please respect copyright.ＰＥＮＡＮＡvkpi6hIkwO
這位男子根本沒有犯罪紀錄，卻被 AI 硬套上一個子虛烏有的悲劇故事。結果，他氣到向挪威資料保護局投訴，控告 OpenAI 誹謗與違反資料保護法。

這一則新聞，讓我深刻思考一個問題：

我們正在大規模使用 AI，但我們真的知道它什麼可以信，什麼不能信嗎？

一、AI 仍然可能出錯，尤其在「人名 + 故事」的組合上最危險

ChatGPT 和其他大型語言模型，雖然強大，但有個致命盲點：

它會「猜」，而不是「查證」:

這種現象叫做 hallucination（幻覺生成）——模型找不到答案時，會根據模式、邏輯、常見句型去「亂補」。

所以你問它「XXX是不是犯了什麼罪」，它可能會：

拿別人的故事套在這個名字上
把真實地名 + 猜測的案件 + 自行捏造的年份揉成「聽起來超真實的假故事」

二、使用 AI，你可以這樣防範誤導風險：

1. 不要問 AI「我是誰」、「某人做了什麼」這類問題24Please respect copyright.ＰＥＮＡＮＡMgdDHoMcjV
除非是公眾人物，否則 AI 容易掰故事給你聽。

2. 得到任何重大答案時，「Google 二次查核」是基本功:

AI 不負責任，結果錯了你自己扛。

3. 對 AI 提供的「新聞」、「案例」、「法條」，要比對來源與真實性

4. 記錄 AI 回答的內容（截圖 / 存檔），保護自己也保護別人

5. 不輕易把自己的全名、地址等私密資料輸入給 AI

你不知道它的下一版會怎麼用這些資料。

三、那 AI 在「法律專業」上到底能不能信？

這個問題我自己也很認真想過。因為我問 ChatGPT 的法律問題，有時它的分析讓我驚艷，甚至比某些律師更清楚、條理更明確。

但這裡要劃一條很重要的界線：

AI 可以做的:

解釋法律條文、制度、概念

拆解考題、輔助教學

整理法條、案例、比較見解

協助草擬教案、論文、訴狀樣板

AI 不該做的:

判定某人有罪/無罪

判斷誰該賠錢誰有責任

給當事人法律意見作為依據

當作法律顧問或代理人

換句話說，AI 是超強助理，但不是你家的律師。它可以幫你準備與搜索資料，但不能幫你做出法律決定。

四、AI 不會取代律師、檢察官與法官，但會淘汰「只會複誦條文」的人

AI 可以整合知識、列點清楚、效率高，但：

它不懂複雜的人情
它無法看到當事人複雜的情緒、糾葛與脈絡
它無法出庭、說服檢察官與法官
它無法承擔法律責任

所以真正會被取代的，不是律師，而是缺乏同理與判斷力、只會背法條的人。

真正的法律人，應該更懂得如何駕馭 AI 作為輔助工具，幫助自己教學、寫作、思辨，而不是被 AI 駕馭、甚至被它誤導。

五、最後一段話，送給跟我一樣正在「人與AI」邊界上思考的朋友：

AI 很強，但我們更要強的是判斷力。把它當助理，不當真理機。真相還是得靠人，尤其是清醒的、有責任的那個人。

如果你也覺得這篇文章對你有幫助，歡迎留言、分享，幫我按個讚或點一下廣告，讓更多人學會在 AI 時代「自保」與「進化」。

Joe 正一｜線上法律教學者 & 小說創作者24Please respect copyright.ＰＥＮＡＮＡ7Cd4jIDZ8I
24Please respect copyright.ＰＥＮＡＮＡsc9rCkDyfr

24Please respect copyright.ＰＥＮＡＮＡrdskNx8Hy0

ns3.145.204.101da2

介面主題:

字體大小:

行距:

段距:

自動加載下一章