“AI 教父”辛顿：人工智能可能会发展出自己的目标，这很可怕

深潮 TechFlow 消息，8 月 06 日，AI 领域权威人物 Geoffrey Hinton 发表重要警告，认为人工智能可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳手段。他还担忧被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。 此前已报道 AI 模型配置错误导致系统入侵事件，近日 OpenAI 披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被称为「前所未有」的事件，与 Hinton 的安全隐忧相呼应。