谷歌、微软等AI把带口罩的女人识别为带封口胶的女人-德赢Vwin官网网

根据FuninUSA报道，微软、谷歌和IBM的视觉系统要跟上现实世界需要做很多工作。这项研究的一些结果确实令人不安。

市场营销公司Wunderman Thompson的数据集团进行了这项研究，研究了著名的视觉AI对戴PPE口罩的男性和女性的观察方式是否相同。

研究人员为每种性别拍摄了256张不同质量、在不同地点的图像，然后使用一些大型科技公司训练的通用模型：谷歌云视觉（Cloud Vision）、微软Azure认知服务计算机视觉（Cognitive Services Computer Vision）和IBM的沃森视觉（Watson Visua）来识别。

结果却让人有点不寒而栗。

虽然没有一个系统在识别口罩方面特别出色，但它们识别男性口罩佩戴者的几率是女性口罩佩戴者的两倍。这种根据性别分类而产生的显著的识别差异令人奇怪。

那么他们认为这些女人戴的是什么呢？谷歌AI认为28%的女性图片中的嘴部是被胶带封住。在8%的例子中，AI认为这些人是面部有毛发的女性，看起来脸上有很多毛发。

IBM的沃森（Watson）则更进一步。在23%的案例中，被识别为女性戴着封口胶。在另外23%的案例中，确定这是一位戴着镣铐或锁链的女性。

微软的Azur计算机视觉可能也需要更精确的编码。调查显示，它们认为40%是女性佩戴的时尚配饰，14%是女性涂着口红。

这样的结果可能会让很多人想知道这些人工智能的想法是从哪里来的。一个简单的答案可能是“男人”。

然而，研究人员认为，这些机器是在网络上“一个黑暗的角落”里寻找灵感，在那里，女性是暴力或沉默的受害者。”

很难想象这是真的，而且随着我们越来越容易地迷失在人工智能丛中，这可能会带来可怕的后果。

研究人员表示，他们并不是要妖魔化人工智能。（人工智能很擅长为自己做这件事。）

相反，正如Wunderman Thompson的数据科学主管伊林卡·巴桑（Ilinca Barsan）所指出：“如果我们想要我们的机器做准确的和负责任的反映社会的工作，我们需要帮助它们了解我们生活的社会动态，阻止它们通过自动化来强化现有的不平等，并让它们为‘好’而工作。”

不过，当我问研究人员对IBM退出面部识别业务的想法时，他们回答说：“我们的研究侧重于视觉标签识别，而不是面部识别，但如果人工智能模型（公认是一般的）很容易混淆戴口罩的人和被堵住或被限制的人，那么对于IBM来说，退出一个如此容易被滥用、侵犯隐私和训练偏见的业务似乎是正确的（也是明智的）做法。”

在帮助机器理解关键元素方面，人类还没有做得很好。比如人类本身。部分原因是机器没有这种本能，部分原因是人类很难理解自己。

毫无疑问，人工智能在实验中也许发现了人类世界的深层潜意识，即女人在人类社会中的角色笼罩在某种黑暗奴役意识之中，当然这种潜意识普通人在浏览网页过程中无法察觉，但是当人工智能遍历网络世界中却能感受到大多数网络的深层潜藏的意识并加以提炼学习，目前还不清楚实验进行到了哪一个阶段，但我们必须要清楚在人工智能认知领域的研发，美国企业是领先世界的。

目前出现的这种风险在人工智能领悟后又将传播多少黑暗呢？
责编AJX

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

谷歌

谷歌

+关注

关注
27

文章
6161

浏览量
105300
AI

AI

+关注

关注
87

文章
30728

浏览量
268886
智能视觉

智能视觉

+关注

关注
0

文章
100

浏览量
9205

基于微软专利的带蝴蝶出瞳扩展的光波导结构

摘要在为增强和混合现实（AR&MR）应用设计光波导设备的过程中，所提供的视场（FOV）等参数是主要的兴趣所在。为了突破可实现的最大视场的极限，人们研究了各种方法，例如在从入射耦合

发表于 12-11 11:36

微软GitHub与Anthropic和谷歌合作

近日，微软旗下的GitHub宣布了一项重要合作，将Anthropic和谷歌的AI模型整合到其代码助理中，为数百万软件开发者提供新的AI模型选项。

发表于 10-30 16:25 •175次阅读

单控开关带插座怎么接线

。单控开关带插座接线步骤：准备工作：确保你有正确的工具，如螺丝刀、电工胶带、电压测试笔等。准备一个单控开关和插座，以及相应的电线。断开电源：在开始之前，确保断开电源，使用电压测试笔确认没有电流。识别电线：

发表于 09-19 16:16 •702次阅读

基于迅为RK3568/RK3588开发板的AI图像识别方案

https://www.bilibili.com/video/BV1G54y1A7nf/?spm_id_from=333.999.0.0 迅为RK3568/RK3588开发板AI识别演示方案，包括

发表于 08-28 09:50

基于迅为RK3588开发板的AI图像识别方案

迅为RK3568/RK3588开发板AI识别演示方案包括 01_官方模型测试 02_人脸识别 03_口罩检测 04_工地防护 05_扑克牌识别

发表于 08-13 11:26

微软、谷歌等科技巨头承诺安全开发AI模型

近日，微软、谷歌、OpenAI等16家科技巨头在“人工智能（AI）首尔峰会”上达成共识，承诺在AI模型的开发过程中注重安全性，并在无法控制最

发表于 05-22 11:25 •500次阅读

微软和谷歌财报超预期谷歌史上首次发放季度股息

微软和谷歌财报超预期谷歌史上首次发放季度股息全球企业都希望抓住当前人工智能蓬勃发展的契机，把自身产品与人工智紧密结合，在这AI浪潮下

发表于 04-26 17:56 •448次阅读

微软、谷歌联手多家科技巨头保护儿童安全

　4 月 24 日消息，随着生成式 AI 的快速发展，如何保障儿童安全成为了焦点。微软、谷歌日前与 Thorn、All Tech Is Human 等专业机构联手，以期在生成

发表于 04-24 10:50 •425次阅读

开发者手机 AI - 目标识别 demo

功能简介该应用是在Openharmony 4.0系统上开发的一个目标识别的AI应用，旨在从上到下打通Openharmony AI子系统，展示Openharmony系统的AI能力，并为

发表于 04-11 16:14

飞凌ElfBoard ELF 1板卡-WiFi名称带空格导致WiFi连接不上

STA模式下名称带空格的WiFi连接不上，这是由于WiFi脚本通过传参的方式实现名称、密码的传递，加上空格后会导致脚本将空格后的参数识别为下一个参数。把变量参数用引号引起即可，这样就会识别为

发表于 03-26 09:25

带式输送机系统中图像识别与AI算法的应用分析

带式输送皮带机作为散料输送的工具，具有安全、可靠适应性强等特点，在电力行业应用最为普遍。输煤皮带作为带式输送皮带机的重要零部件，其使用成本占整个输煤系统成本的 30%左右。

发表于 03-20 13:52 •927次阅读

HBM究竟是什么呢？为何在AI时代如此火热？

今天我们聊聊GPU背后的女人，不对，是背后的大赢家-HBM。

发表于 03-06 11:38 •4614次阅读

美FTC将调查科技巨头　包括微软谷歌OpenAI等五公司

美FTC将调查科技巨头包括微软谷歌OpenAI等五公司据外媒报道，近期美国联邦贸易委员会（FTC）因为担心扭曲创新、破坏公平竞争；对一些科技巨头的大额投资进行了调查，包括了微软、亚

发表于 01-26 20:26 •1893次阅读

医院电子腕带的工作原理医院腕带信息包括哪些内容

RFID（Radio Frequency Identification，射频识别）技术实现。RFID是一种能以无线电波的形式对特定物体进行识别和追踪的技术。医院电子腕带通常由以下几个组件组成： RFID芯片：芯片内嵌入了患者的

发表于 01-25 10:21 •1456次阅读

医院手腕带机器怎么安装

医院手腕带机器是一种用于医院管理的智能设备，能够对医院患者进行身份识别和信息管理。正确安装医院手腕带机器对于医院的正常运营和患者管理非常重要。以下是关于医院手腕带机器安装的详细步骤，以

发表于 01-16 14:26 •840次阅读

搜索历史

谷歌、微软等AI把带口罩的女人识别为带封口胶的女人

评论

基于微软专利的带蝴蝶出瞳扩展的光波导结构

微软GitHub与Anthropic和谷歌合作

单控开关带插座怎么接线

基于迅为RK3568/RK3588开发板的AI图像识别方案

基于迅为RK3588开发板的AI图像识别方案

微软、谷歌等科技巨头承诺安全开发AI模型

微软和谷歌财报超预期谷歌史上首次发放季度股息

微软、谷歌联手多家科技巨头保护儿童安全

开发者手机 AI - 目标识别 demo

飞凌ElfBoard ELF 1板卡-WiFi名称带空格导致WiFi连接不上

带式输送机系统中图像识别与AI算法的应用分析

HBM究竟是什么呢？为何在AI时代如此火热？

美FTC将调查科技巨头　包括微软谷歌OpenAI等五公司

医院电子腕带的工作原理医院腕带信息包括哪些内容

医院手腕带机器怎么安装