重要 Anthropic宣布禁止“虐待”其旂下AI

據美國科技媒體The Verge報道，Anthropic對其AI使用政策作出調整，以應對新的高風險濫用行為，包括選舉幹預、武器開發、監控，以及醫療和金融領域的應用。但其中一項最重要的變化是，禁止對Claude進行“持續且不必要的虐待或殘忍行為”。去年8月，該公司宣布，作為其“模型福祉”研究的一部分，將允許Claude終止與“持續實施有害或辱罵行為”的用戶的對話。此次更新指出，終止對話仍是“主要執行機製”；對於是否會採取進一步的執行措施（例如可能封禁用戶），Anthropic未予置評。Anthropic表示，新政策更新“僅適用於極端情況，卽用戶在毫無明顯目的的情況下反復對我們的模型實施殘酷行為。該政策不適用於用戶常見的不滿、反駁、黑闇創意主題，以及模型測試和研究等情況。”