搜尋

@AnthropicAI: We’ve trained Claude to flag potential misuse in conversations, a technique we call self-assessment.

Anthropic 稱已訓練 Claude 在回覆後對整段對話做初步安全評估，該技術名為 self-assessment，用於標記潛在濫用行為。自 6 月啟用以來，它已發現其他防護措施原本無法覆蓋的濫用情況。官方表示，由於 Claude 已讀過對話，自評效率很高；與針對固定危害型別的分類器不同，它依靠模型自身判斷，會隨模型改進而變得更準確。