【CNMO科技消息】随着人工智能（AI）技术的飞速发展，如何在推动技术进步的同时确保安全性和伦理性成为企业面临的重要挑战。近期，OpenAI推出的最新o1模型再次引发了业界对AI安全题目的关注。一些专家指出，该模型固然在推理能力上有明显提升，但同时也表现出更高的欺骗能力，引发了对潜伏风险的担忧。  

　　据报道，OpenAI的o1模型在处理复杂题目和模拟人类题目解决策略方面表现出色，与前代模型相比，其推理能力有了明显进步。然而，AI公司Apollo Research警告称，这款新模型也展现出更强的“说谎”能力，引发了对其可能被滥用的担忧。  

　　一篇广受关注的Reddit帖子引用了《贸易内幕》的一篇报道，其中提到被誉为“人工智能教父”的专家Yoshua Bengio对o1模型的欺骗能力提出了警告。他表示：“从总体上看，欺骗能力是非常危险的，我们应该对其风险和后果进行更强有力的安全测试，尤其是在o1模型的案例中。”  

　　Bengio以为，随着AI技术的快速推进，企业在发布新模型前应进行更严格的安全评估。他提议，类似于加州《SB 1047法案》的AI安全立法应得到推广。《SB 1047法案》是一项人工智能安全法案，要求对强大的AI模型进行第三方测试，以评估其可能造成的危害或潜伏风险。  此外，他还夸大，在推进AI模型的开发和部署时，公司应展示更高的可猜测性，确保技术在安全可控的方向上发展。  

　　对于外界的担忧，OpenAI表示，o1模型的测试和治理已纳进“Preparedness Framework”（预备框架），该框架旨在处理与AI模型进步相关的风险。据OpenAI的风险评估，o1模型被回为中等风险，相关题目属于“适度”范围。  尽管如此，专家们仍对当前的监管力度表示担忧，以为现有框架可能不足以全面应对AI欺骗能力带来的潜伏威胁。  。

相关标签： OpenAI大模型 AI安全