【CNMO新闻】经过多月测试之后，微软近日正式发布AI内收留审核工具Azure AI Content Safety。据悉，该产品是其在今年5月开始测试的内收留审核工具，其包含一系列经过练习的AI模型，可检测图片或文本中与偏见、仇恨、暴力等相关的负面内收留，并能理解并检测包含八种语言的图片或文本。

　　此外，该审核工具为被标记的内收留提供了严重性的评分，并指示人工审核员对需要采取行动的内收留进行处理。最初，这个审核工具被整合到了Azure OpenAI服务中，而现在它将以独立系统方式推出。

　　微软在官方博文中指出：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能天生内收留，以及调用部分用户天生的内收留，进一步扩展实用性。”

　　微软表示，在处理数据和内收留时，固然该款产品在公正性和理解上下文方面有所改进，但仍然需要依靠人工审核职员来标记数据和内收留。这也就意味着终极的公正性取决于人类。然而，在处理数据和内收留时，人工审核职员可能由于自己的偏见而无法做到完全中立审慎。

相关标签： 微软 AI