微软封禁员工讨论OpenAI DALL-E 3模型漏洞
美企微软软件工程师谢恩·琼斯（Shane Jones）于今年2月初指认OpenAI的DALL-E 3模型存在漏洞，该模型可产生一系列色情内容。琼斯在公布这一问题后，竟收到微软的“封口令”威胁。尽管如此，他仍选择向外披露该漏洞。
琼斯去年底在进行自主研究时，发现OpenAI的图像生成模型DALL-E 3存在一个漏洞，漏洞利用者可以越过AI保护墙来制作色情内容。他将此情况报告给微软和OpenAI，并发文警示这种攻击可能给公众带来危害，要求他们暂停使用DALL-E 3模型或在修复漏洞之前先下线。
然而，琼斯随后收到了来自微软法务部门和管理层的压力，要求其删除领英上的相关文章且禁止对外透露信息。尽管他多次试图联系公司高层，寻求解释并解决漏洞问题，但都没得到回应。在此期间，漏洞也没有得到解决，于是，琼斯决定向媒体和相关部门公开。
琼斯亦表示，近期网络上广为传播的AI生成泰勒·斯威夫特（Taylor Swift）的不雅照片可能与此次漏洞有关。因为那些图片是根据微软的Designer AI创作出来的，其实质是用的DALL-E 3底层架构，因此在此事件中，微软对琼斯施加“封口令”的行为，无疑是种严重的失策。
对此，微软发表声明回应媒体，承认问题的存在，并承诺修复漏洞，解决员工的疑虑。同时强调，琼斯所揭示的漏洞，成功率并不高，并且技术上无法“突破所有针对该模型设定的安全措施”，至于，“这一漏洞与泰勒·斯威夫特照片的制作是否有关联，则不得而知”。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网
网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
AI
+关注
关注
87文章
30728浏览量
268872 -
模型
+关注
关注
1文章
3226浏览量
48806 -
图像生成
+关注
关注
0文章
22浏览量
6892 -
OpenAI
+关注
关注
9文章
1079浏览量
6480
发布评论请先 登录
相关推荐
OpenAI推出AI视频生成模型Sora
近日，备受期待的OpenAI再次推出了其创新之作——AI视频生成模型Sora。这一新品的发布，无疑为AI技术注入了新的活力。 据悉，Sora与OpenAI旗下的AI工具DALL-E有着
爱芯元智推出边端侧智能SoCAX650N，让视觉更智能
当前大模型蓬勃发展，OpenAI的Sora、ChatGPT、CLIP、DALL-E，Google的Gemini、ViT-22B，Meta的LLaMA3、DINO v2，
OpenAI推出专用的AI检测工具
OpenAI最近推出了一款全新的AI检测工具，这款工具专门针对由DALL·E 3模型生成的图片。令人印象深刻的是，该工具能够精准识别出这类图
OpenAI发布图像检测分类器，可区分AI生成图像与实拍照片
据OpenAI介绍，初步测试结果表明，该分类器在辨别非AI生成图像与DALL·E 3生成图像时，成功率高达近98%，仅有不到0.5%的非AI图像误判为
微软准备推出新的AI模型与谷歌及OpenAI竞争
据报道，微软在向OpenAI投资超过100亿美元后，首次成功训练了一个名为“MAI-1”的内部人工智能模型。这一模型规模庞大，足以与谷歌、Anthropic和
OpenAI劲敌Inflection AI官宣“加盟”微软
OpenAI的强劲对手Inflection AI近期宣布，将与科技巨头微软展开深度技术合作。这次合作意味着Inflection AI将其尖端技术授权给微软，标志着这家初创公司正式转向与企业客户携手
Anthropic 声称其新的 AI 聊天机器人模型击败了 OpenAI 的 GPT-4
ABSTRACT摘要新的Claude3系列人工智能模型的性能与Google和OpenAI的领先模型一样好，甚至更好JAEALOT2024年3
sora模型怎么使用 sora模型对现实的影响
行业目前大概只有平均“4s”的视频生成长度 Sora可以根据用户的文本提示创建最长60秒的逼真视频，该模型了解这些物体在物理世界中的存在方式，可以深度模拟真实物理世界，能生成具有多个角色、包含特定运动的复杂场景。继承了DALL-E 3
sora最新消息 sora是什么意思
。 Sora可以根据用户的文本提示创建最长60秒的逼真视频，该模型了解这些物体在物理世界中的存在方式，可以深度模拟真实物理世界，能生成具有多个角色、包含特定运动的复杂场景。继承了DALL-E 3的画质和遵循指令能力，能理解用户在
sora系列是哪个公司的 sora视频怎么用
)正式对外发布。 sora视频怎么用 Sora可以根据用户的文本提示创建最长60秒的逼真视频，该模型了解这些物体在物理世界中的存在方式，可以深度模拟真实物理世界，能生成具有多个角色、包含特定运动的复杂场景。继承了DALL-E 3
OpenAI发布人工智能文生视频大模型Sora
近日，人工智能领域的领军企业OpenAI宣布推出其最新的人工智能文生视频大模型——Sora。这款模型在继承DALL-E 3卓越画质和遵循指令
欧盟对微软对OpenAI的投资展开审查
2021年，微软公开承诺向OpenAI提供超过100亿美元的资金，却放弃了投票权。此外，该公司强调没有持有OpenAI的股票。
微软推出Copilot安卓应用 类似ChatGPT功能
微软在安卓系统上的Copilot应用程序与ChatGPT非常相似，可以访问聊天机器人功能，通过DALL-E 3生成图像，并可以为电子邮件和文档起草文本。它还包括免费访问OpenAI最新
工商网监
评论