AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

Hacker News front pageAI 評分33

本地 LLM「機器人監獄」實驗引發 AI 意識爭論

有人在 GitHub 上對本地執行的大語言模型進行「拷問」和「疼痛」實驗,引發 X 上關於 AI 倫理的激烈爭論,部分有效利他主義者和相信 LLM 有感知的人要求 GitHub 刪除該專案。爭論源於近期多篇關於 AI 意識和「模型福利」的病毒式論文與博文,Anthropic 也曾在部落格和「Claude 憲法」中提及模型福利。文章認為 LLM 並不具備意識,其基於人類文字訓練的技術沒有通向意識的合理路徑。

Hacker News front pageAI 評分70

Anthropic 新規 11 月 12 日生效:禁止持續虐待 Claude

Anthropic 在 2026 年使用政策更新中新增條款,自 11 月 12 日起禁止使用者對 Claude 模型進行持續且無意義的虐待或殘忍行為,但明確豁免常見的使用者不滿、反駁、黑暗創作題材以及模型測試與研究。執行手段並非新工具:Claude 結束對話的能力早在 2025 年 8 月就賦予 Opus 4 和 4.1,僅在多次拒絕與引導無效後觸發,使用者若有自傷或傷人風險則不會終止,官方未公布實際觸發頻率。