您的位置：首页 >聚焦 >

微软推出 Azure AI Content Safety，可自动检测仇恨暴力等负面网络内容

2023-05-24 22:44:01 来源：IT之家

【资料图】

IT之家 5 月 24 日消息，微软推出了一款由人工智能（AI）驱动的内容审核服务型产品 ——Azure AI Content Safety（Azure AI 内容安全服务），旨在降低社区环境中的负面信息。

该产品提供了一系列经过训练的 AI 模型，能够检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并可以理解并检测包含八种语言的图片或文本，为被标记的内容严重性进行打分，指示人工审核员哪些内容需要采取行动。

▲ 图源 Azure 官网

Azure AI 内容安全服务内置于 Azure OpenAI 服务中，并向第三方开发者开放，支持包括英语、西班牙语、德语、法语、中文、日语、葡萄牙语、意大利语在内的八种语言。Azure OpenAI 服务是一项由微软管理、以企业为中心的服务产品，旨在让企业访问 AI 实验室 OpenAI 的技术并增加治理功能。与其他同类型产品相比，Azure AI 内容安全服务能更好地理解文本内容和文化背景，在处理数据和内容时更加精准。

微软表示，与其他同类型产品相比，该款产品在公正性和理解上下文方面有显著改进，但该款产品仍需要依赖人工审核人员标记数据和内容。这意味着最终其公正性还是取决于人类。而在处理数据和内容时，人工审核人员可能带着自己的偏见，因此依然无法做到完全中立审慎。

而在处理涉及机器学习视觉感知的议题时，因由 2015 年，谷歌的 AI 图像识别软件曾将有色（黑）人种标记成猩猩，引发巨大争议事件影响。在八年后，现在的科技巨头们仍担心“政治正确”“重蹈覆辙”。而本月早些时候，OpenAI 首席执行官山姆・阿尔特曼在美国参议院小组委员会听证会上，呼吁政府对人工智能（AI）进行监管。他指出，如果这项技术出错，会错得很严重，会对世界造成重大伤害。IT之家提醒，即使是先进的 AI 技术也可能被滥用或误用，因此对 AI 进行监管和规范至关重要。

标签：

相关推荐

热点文章

盛开在冬天的水仙是什么歌？爱似水仙的歌词是什么？

这次我被“黄色”惊到了，它柔软、浪漫、减龄，太漂亮了，不适合夏天穿

17年新高！全球需求“雪崩”之下，铜价现货贴水达66美元

最新快讯!窦太后爱子，汉景帝弟弟刘武为何郁郁而终？

观点：高考倒计时14天！考场遇突发状况怎么办？收好这份临场应急大全→

警方回应女生疑遭霸凌留遗书溺亡：正展开调查取证

上期所：调整镍期货品种相关合约交易手续费|每日消息

人民网评：天价停车收费事件还有疑问待解

热点文章

2025年北京养老护理人员将达2.5万名，这类人才或被引进

生态环境部通报数据显示：北京4月优良天数比例为80%

全球新资讯：让低龄老人“老有所为”，北京将搭建养老志愿服务信息平台

美媒：纽约市因拥有超过100万座建筑正在下沉

天天观焦点：高校毕业生注意了这些就业政策与你相关

天天热讯:美媒：耶路撒冷大卫城遗址发现约2000年前的“石头收据”

美国尤瓦尔迪校园枪击案一周年：愤怒与失望笼罩小镇-世界速递

G7峰会结束回国后，苏纳克面临多起内阁丑闻危机

调查显示：日本26%的地方自治体已没有实体书店

【胡律师说法】家人们，这花可不兴种啊！会变得不幸

热资讯！无视债务上限担忧！这一资产规模怒创历史记录

【焦点热闻】中药材迎来“牛市”！价格狂飙，1公斤100万，比黄金还贵

美国债务违约风险逼近，看跌期权及高评级企业债成“香饽饽”

环球滚动:华宝新能：公司便携储能产品可为电动汽车充电

三亚：4月新建商品房价格指数小幅上涨全球播资讯

照进Z世代生活的“万花筒”：闲鱼的多面升级

实时：交通运输部在南沙群岛海域设置航标

天天视讯！国际观察：美国处心积虑在七国集团拉帮结派包藏祸心

中国海警舰艇编队5月24日在我钓鱼岛领海内巡航|环球新消息

漫评G7峰会：“安全”还是霸权？每日简讯

香港调整入境申请流程:6月19日起外佣、学生等须申报刑事记录|热推荐

美经济学家：美国沉迷战争导致债务危机

全球观天下！中国互联网协会：警惕“AI换脸”“AI换声”新骗局

快讯：【世界说】美媒：美国最高法院对自己的腐败“视而不见”

“烤玉米”最少点4份，诱导过量点餐！这些餐馆被罚-全球看点

【地评线】黄河网评：守牢耕地保护红线，夯实粮食安全基础-环球时快讯

【环球快播报】总台专访丨委内瑞拉国会议员：美国滥用美元影响力害人害己

国家智慧教育公共服务平台访客量已超11亿人次智慧课堂让学习更有趣

停息挂账需要满足哪些条件？信用卡逾期会怎样？

天天关注：念珠藻和鱼腥藻的区别（念珠藻）

为期3个月！成都将从6月1日开展噪声污染专项整治|焦点播报

中国足协：努力推动中国足球逐步走出低谷-天天观速讯

世界热消息：《地铁跑酷》2023年5月24日兑换码一览

与债务上限危机无关，全球最安全的资产其实最危险？

豪宅云锦东方打新乱象波及？沪上另一热盘绿城外滩兰庭延期入市|环球微动态

今日热议：大盘震荡调整：沪指跌1.28%失守年线，大金融、中字头个股持续调整

国泰航空涉事空乘被解聘！李家超：伤害了香港和内地同胞感情世界焦点

天天通讯！光峰科技营收承压净利润腰斩：多指标欠佳，押注车载光学胜算几何？

天宇股份利伐沙班片获药品注册证书_全球观速讯

全球报道:科比后仰跳投图片励志文字（科比后仰跳投图片）

论坛会址周边夜景梦幻主题灯光秀点“靓”中关村

降低市场主体制度性交易成本！北京助推营商环境再优化当前动态

维珍轨道公司关门余产仅卖得顶峰市值百分之一

今日看点：英国4月消费者价格指数同比上涨8.7%

公安局副局长长期“关照”洗浴场所，父子双双获刑环球速看

世界即时：圭亚那校舍火灾案：一学生不满手机被没收竟纵火

【新要闻】北京启动通用AI产业创新伙伴计划（创业资讯）

澳门科研成果赴穗对接内地企业|每日报道

海归民宿引客来-天天新视野

第五届粤港澳大湾区青年合作发展论坛在广州举行

中材国际首届水泥绿色智能发展峰会成功举办简讯

湖北宜昌开行“最北”旅游专列|世界热推荐

11元一斤！奶农把奶牛当菜牛卖，中小牧场进退两难被迫杀牛

日本“下黑手”，芯片一哥猛跳水！光刻胶龙头却直线飙升

2023年CALIASOFART&慕思·羡慕新品共创发布，共鉴焕新征程

康宁宣布显示玻璃价格上调 20%，覆盖全球所有尺寸数码产品

Steam 一周销量榜：《逃生：试炼》《星河战队：灭绝》空降_全球看点

全球热点！美经济学家：美国沉迷战争导致债务危机

韩国第一季度总和生育率仅0.81，人口连续41个月减少_今日最新

2023年中国—加州经贸论坛在美国洛杉矶举行_当前最新

国泰航空行政总裁用普通话再次致歉：希望能给予机会改善服务

北京这处野生华北豹原始栖息地，“小豹北北”来报到_热点评

印度民众抓紧时间用2000卢比纸币购物以免9月后无法流通-全球时快讯

外媒：冲撞白宫外护栏19岁男子被控多项罪名，自称“想杀死拜登”_世界短讯

全球微速讯：发动机故障或是祸首：日媒披露自卫队直升机失事详情

核产品企业被美方觊觎，法国政府：否决！-快看点

俄外贸银行行长：完全有理由期待，人民币在未来10年内能取代美元

异动快报：湘潭电化（002125）5月24日13点4分触及涨停板

纯银发黄是怎么清洗_手机皮套发黄怎么清洗

亚马逊中文官网即将停运？最新回应新资讯

一月一日非今天打一字是什么？你一半我一半打一字谜底是什么？

每日热门：西北旅游网_西北旅游

计算机资料怎么填_计算机资料

三国赵云传炼化秘籍是什么？三国赵云传武器怎么获得？

自来水阀门有几种？自来水阀门坏了关不住水怎么维修？

特步引爆全球夜跑潮流，光影绘出运动时尚“统一全球美学”

亚马逊：停止应用商店服务不会影响在中国业务运营_天天时讯

汇通财经整理：重工业和运输市场5月24日看点

世博大熊猫彩色金条价格今天多少一克（2023年05月24日）|环球新要闻

2023年熊猫金币5枚套装价目表（2023年05月24日）_焦点热讯

沪指探底回升跌0.49%：两市超2800只个上涨，芯片概念股集体反弹

23日晚8点京东618预售正式开启以旧换新购买家电家居产品至高补贴20%

SMM快讯：华南某钢厂废不锈钢采购价消息

特朗普封口费案定于明年3月开始刑事审判正值美大选之际_焦点要闻

李家超：对国泰航空空乘歧视乘客事件感到痛心，不容再次发生_天天速看

环球要闻：太震撼了！40秒看珠峰从日照金山到星河璀璨

今日热文：创开航以来新高！大兴机场4月进出境旅客破10万

珠峰顶“雪冰样品”运抵大本营了！接下来它会去哪儿？_看点

了解“水杉之父”！《胡先骕全集》历时9年出版发布_头条

中国国家网信办发布报告：2022年中国数字经济规模50.2万亿元世界今头条

美墨边境走私犯将4岁男孩扔下墙现场画面曝光

宾得k50用什么电池？宾得k50电池能拍多少张？

山回路转不见君下一句是什么？此时无声胜有声上一句是什么？

如何更改开机密码？电脑开机蓝屏无法进入系统怎么办？

如何设置打印机共享？打印机打印不了怎么回事？

怎么发邮件步骤是什么？发邮件的正确格式是什么？

世界要闻：淄博烧烤摊主开始卷横幅了网友：这不比线上618热闹？

微软将把必应搜索引擎添加到聊天机器人ChatGPT中

长城的由来你知道吗？长城起点和终点分别是哪里？

itishightimethat用法是什么？itishightimethat后面加什么？