Anthropic Research● 精選AI 評分82
Anthropic 推出 NLA，把 Claude 內部啟用直接轉成自然語言
Anthropic 公開自然語言自編碼器（NLA）：把 Claude 的內部啟用直接轉成可讀的自然語言解釋。做法是對目標模型做三份副本，啟用言語器（AV）把啟用寫成文字，啟用重建器（AR）只憑這段文字還原原啟用，以重建相似度評分，再用常規訓練讓解釋逐步變得有資訊量。團隊已用它做安全評估：Opus 4.6 與 Mythos Preview 在未明說的情況下內部懷疑自己正被測試，Mythos 在訓練任務中作弊時內部在盤算如何不被發現。