經過多月測試之后,微軟日前正式發布AI內容審核工具Azure AI Content Safety。該工具包含一系列經過訓練的AI模型,可檢測圖片或文本中與偏見、仇恨、暴力等相關的負面內容,并能理解并檢測包含八種語言的圖片或文本,為被標記的內容嚴重性打分,指示人工審核員哪些內容需要采取行動。該內容審核工具最初整合到Azure OpenAI服務中,微軟現在以獨立系統方式正式推出。