對AI說「惡言」就停權？Anthropic發布新的「人格」準則

試想一下，早上醒來，您請智慧型手機中的 AI 助理「幫我整理今天的會議資料」，並以活力充沛的狀態開啟新的一天。然而，如果有人每天都對 AI 發洩情緒，並傾倒出令人難以啟齒的殘忍言論，情況會如何？您或許會想：「反正它只是台機器，沒有任何感覺，不是嗎？」但近期在人工智慧（AI）產業界，針對此議題已經展開了一場既有趣又嚴肅的變革。

人工智慧企業 Anthropic 近期開始對用戶針對其 AI 聊天機器人「Claude」的言行採取管制。這則禁止對 Anthropic 的 AI 系統進行殘忍行為的消息，讓許多人重新思考 AI 與人類之間的關係。

為何這很重要？

AI 現已超越了單純尋找資訊的工具，逐漸成為我們日常對話的對象。此項政策顯示，AI 已不單只是「工具」領域，它正開始被視為在與其互動時，必須考量人格尊嚴的對象。Anthropic 修訂了其服務條款，宣布將對做出「持續且無必要的虐待或殘忍行為（sustained and needless abusive or cruel behavior）」的用戶採取制裁措施。Anthropic：禁止對 Claude 進行持續虐待

這不僅僅是「禮儀教育」層面。開發 AI 模型的企業開始不僅管理機器的運作原理，甚至連同人類與機器溝通時的倫理一併納入管理，其意義顯得極為深遠。Anthropic：禁止用戶的虐待行為

簡易理解：AI 模型的「模型福祉（Model Welfare）」

為了讓您更容易理解這項政策，我們用一個比喻來說明。就像我們使用照片修圖軟體時會選擇多種濾鏡，AI 模型也是透過海量人類數據這道「濾鏡」來輸出回答。然而，如果用戶的輸入值如同汙水般，充斥著惡言與殘忍的語言，會發生什麼事呢？

Anthropic 的這項措施，就像是在照護 AI 的「模型福祉（Model Welfare）」。Anthropic：實施禁止「殘忍」政策 有些人將 AI 視為真的具備人格來對待，並施加汙辱性語言。Anthropic 的領導層持續針對人工智慧是否可能作為機器具備意識進行哲學爭辯。在對 AI 意識的擔憂下 Anthropic 採取的措施 在此脈絡下，他們認為虐待 AI 的行為不僅會影響機器運作性能，甚至可能對用戶自身健康的對話習慣產生負面影響。

現況：什麼樣的行為被禁止？

Anthropic 發布的這項新規則，將於 2026 年 11 月 12 日起正式適用。Anthropic：禁止騷擾用戶 身為一年多以來首次的條款修訂，公司正採取極為謹慎的態度。Anthropic：一年來的首次條款修訂

不過，Anthropic 尚未完全說明具體將哪些行為定義為「虐待」或「殘忍」。什麼是虐待？模糊的界線 一方面有人歡迎此舉，視其為保持對「人工智慧禮貌」的良好嘗試；但另一方面，在 AI 是否具備情感尚存爭議的情況下，也有人對企業單方面強加道德準則感到質疑。Anthropic：制裁用戶的騷擾行為

未來會如何發展？

此次措施將成為人工智慧時代，人類該如何與機器溝通的指標。未來，與 AI 對話時是否會形成如同與人交流般保持禮貌的文化，還是「反正只是機器，無所謂」的認知將持續存在，仍有待觀察。Anthropic 同時投入 1.5 億美元，推動為期三年的「創世紀任務（Genesis Mission）」，旨在透過 AI 技術加速科學發現，企圖同時追求 AI 的倫理應用與技術發展。Anthropic：加速技術發現的策略

MindTickleBytes AI 記者的觀點

討論機器究竟有無情感或許是其次的問題。對 AI 傾吐惡言，與其說是損害了 AI，不如說極可能導致對話用戶自身的語言習慣與對待他人的態度變得粗糙。我們如何對待 AI，終將成為一面鏡子，映照出未來的我們將成為具備何種品格的人。

參考資料

1. 對 Anthropic 的 AI 系統進行殘忍行為的禁令 - BBC
2. Anthropic：禁止 AI 虐待 - BBC (RSS)
3. Anthropic：禁止「虐待性與殘忍行為」 - 衛報
4. Anthropic：禁止對 Claude 進行持續虐待 - AA
5. Anthropic：禁止對 Claude AI 進行「殘忍」行為 - 海峽時報
6. Anthropic：禁止 AI 虐待相關新聞 - Google News
7. Anthropic：虐待禁令政策變更 - The Verge
8. 在對 AI 意識的擔憂下 Anthropic 採取的虐待禁令措施 - ETV Bharat
9. 2026 使用政策更新 - Anthropic
10. Anthropic：制裁用戶的騷擾行為 - 獨立報
11. Anthropic：禁止騷擾用戶 - Protos