Anthropic向獨立評估機構開放內部系統，允許其自主發布AI風險報告

Anthropic於北京時間10月16日淩晨宣布，已向非營利AI評估機構METR的6名研究人員提供接近正式員工級別的內部訪問權限，包括公司設備、辦公空間及內部工具系統，使其能夠深入評估前沿AI模型的安全風險。METR可獨立發布針對模型風險、異常事件及公司安全實踐的評估報告，Anthropic無權否決報告發表，但可要求刪去客戶數據、商業機密及模型架構等預先限定類別的信息。METR則有權公開評價這些刪改是否閤理。Anthropic還提出三級獨立評估機製，最高級別允許評估人員深入公司內部並獨立發表結論。目前，SecureBio處於第一級，負責審査生化武器相關風險；埃森哲及其旂下Faculty也參與模型安全評估閤作。Anthropic表示，希望其他前沿AI公司採取類似措施，以提高行業安全監督的透明度和可信度。