原标题：微软发布AI内容审核工具：结果中立度受人工因素影响

2023-10-19 09:40:40 作者：姚立伟

微软近日发布了其AI内容审核工具Azure AI Content Safety，该产品在经过数月的测试后正式推出。据悉，Azure AI Content Safety包含了一系列经过训练的AI模型，可以检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并能理解并检测包含八种语言的图片或文本。

这款审核工具为被标记的内容提供了严重性的评分，并指示人工审核员对需要采取行动的内容进行处理。最初，这个审核工具被整合到了Azure OpenAI服务中，而现在它将以独立系统方式推出。

微软在官方博文中指出：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性。”

尽管该款产品在公正性和理解上下文方面有所改进，但仍然需要依赖人工审核人员来标记数据和内容。这也就意味着最终的公正性取决于人类。然而，在处理数据和内容时，人工审核人员可能因为自己的偏见而无法做到完全中立审慎。