AdVerif.ai 设计了一种同名算法来检测虚假的新闻报道和其他类型的问题-德赢Vwin官网网

这可能是互联网历史上的第一个虚假新闻：1984年，有人在Usenet上发布了苏联加入网络的消息。这是一个完全无害的四月愚人节恶作剧，与如今的虚假信息宣传活动和旨在快速获利的不择手段的制造业相差甚远。2017年，误导性和恶意的虚假在线内容是如此丰富多产，以至于人类无法让自己解脱困境。反而，这越发看来机器将不得不拯救我们。

一家名为AdVerif.ai 的初创公司设计了一种同名法算，可以把我们从黑暗中拯救出来。人工智能软件的构建是为了检测虚假的新闻报道、赤裸、恶意软件和其他类型的问题内容。AdVerif.ai于11月份推出了测试版本，目前与美国和欧洲的内容平台及广告网络合作，他们不希望与虚假或潜在的冒犯性新闻报道有关联。

根据AdVerif.ai的创始人Or Levi的说法，公司在将焦点放在公司产品，而非普通用户的事情上面看到了机遇。虽然个别消费者可能不会担心他们所点击新闻报道的真实性，但是广告主和内容平台会因为集结或宣传不良内容而损失一些东西。如果他们改变自己的服务，他们可以有效地削减那些靠制造虚假新闻赚钱的人的收入来源。Levi说：“这将是与这类内容作斗争的一个大的跨越。”

AdVerif.ai 是如何发现假新闻？

AdVerif.ai可以扫描整个内容，发现表明某些地方有问题的标志，比如文章标题与正文内容不对应，或标题中的大写字母太多。AdVerif.ai还通过有数千个合法虚构新闻的数据库对每一则新闻进行交叉检查，这些合法的虚构新闻会每周更新一次。客户可以看到系统考虑到的每一部分的报告，还有评估分数，评估某些事可能是虚假新闻，或可能携带恶意软件，或可能包含他们要求系统留意的其他东西，比如说赤裸。最后，Levi表示，他计划增加能找出操纵图像的能力，并安装一个浏览器插件。

在测试AdVerif.ai的演示版本时，AI将洋葱识别为讽刺（这在过去曾经愚弄过很多人）。布赖特巴特的新闻故事被分类为“不可靠的，右翼的，政治的，带有偏见的”，而Cosmopolitan则被认为是“左翼的”。可以看出，当Twitter账户使用标识时，而链接却与它所描绘的品牌毫无关系。AdVerif.ai不仅发现Natural News上标题为“有证据表明比特币成为NSA设计的心理战行动来全面推广单一世界数字货币”的新闻是来自一个黑名单网站，而且还确定了它是一条虚假新闻，在其他被列入黑名单的网站上也会弹出，而且在合法新闻机构没有任何参考。

一些可疑的新闻报道仍然可以通过，出现在网站上。在一个名为Ac tion News 3的网站上，有一篇题为“NFL播放器拍摄到在更衣室里燃烧美国国旗！”的帖子，虽然已经证明该帖是捏造的，但是帖子并没有被拦截。为了帮助系统知道接下来的情况，可以手动逐个更新系统虚假新闻报道的黑名单。

当 AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在为在线公司提供以AI为动力的吐真药中看到机遇的初创公司。特别是网络安全公司，已经快速地将发现僵尸和虚假新闻的操作添加到他们的计算机指令系统中，指出很多方法与黑客手段有多么相似。Facebook正在调整其算法，以消除其新闻传播中的虚假新闻。谷歌与事实检查网站开展合作，到目前为止，取得的结果还参差不齐。“虚假新闻挑战赛”于去年年底推出，比赛是由AI团体的志愿者举办，旨在鼓励开发有助于打击恶意报道的工具。

“虚假新闻挑战赛”组织者之一，开发机器学习系统的Joostware公司创始人，Delip Rao表示，要发现虚假新闻有很多方面，所以这个挑战将会分多个步骤完成。第一步是“立场检测”，或者选取一条新闻，找出其他新闻网站对这个话题的评论。这可以让人类事实检验员依靠新闻来验证其它的新闻报道，用更短的时间检查单个作品。

“虚假新闻挑战赛”发布了数据集供团队使用，有50个团队提交了参赛作品。思科公司的网络安全部门Talos Intelligence利用了一种算法赢得了比赛，这一算法获得了80％以上的正确率——虽还没有为黄金时段做好准备，但仍然是一个令人欢心鼓舞的结果。接下来的挑战可能会出现带有覆盖文本的图像（思考模因，但带有虚假新闻），这是一种经常在社交媒体上推广的格式，因为算法很难分解和理解这种文本格式。

Rao表示：“我们主要想为检验员建造最好的工具，以便他们能够快速工作，像检查类固醇的事实检验员一样。”

即使开发出能够有效遏制虚假内容趋势的系统，也不太可能是新闻报道的终结。人工智能系统已经能够创造虚假的文本了，以及令人难以置信的图像和视频。（请参阅“真实或虚假？人工智能令人难以置信”）。也许正因为如此，Gartner最近的一项研究预测，到2022年，发达经济体中的大多数人会看到比真实信息更多的错误虚假信息。同样的报告发现，甚至在发生这种事情之前，虚假内容将会超过AI检测它的能力，改变我们相信数字信息的方式。

AdVerif.ai以及其他公司更像开始了一场竞赛，而非虚假信息之战。竞赛中，虚假内容创作者开发自己的人工智能系统企图战胜 “正义”的人工智能。因此，我们不得不重新审视自己获取信息的方式。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

互联网

互联网

+关注

关注
54

文章
11148

浏览量
103211
AI

AI

+关注

关注
87

文章
30728

浏览量
268873

原文标题：人工智能能否在对抗虚假新闻战争中完胜？

文章出处：【微信号：AItists，微信公众号：人工智能学家】欢迎添加关注！文章转载请注明出处。

比亚迪收购蔚来谣言被破，造谣者遭警方行拘

近日，一则关于比亚迪与蔚来汽车将成立合资公司，并由比亚迪收购蔚来的不实消息在社交媒体上迅速传播，引发了广泛关注。然而，这一消息很快便遭到了双方企业的明确否认。据地方媒体大皖

发表于 11-29 11:20 •312次阅读

BitEnergy AI公司开发出一种新AI处理方法

BitEnergy AI公司，一家专注于人工智能（AI）推理技术的企业，其工程师团队创新性地开发了一种名为线性复杂度乘法（L-Mul）的AI

发表于 10-22 15:15 •384次阅读

压缩算法的类型和应用

压缩算法是一种通过减少数据量来节省存储空间或传输数据的技术。压缩算法可以分为两种类型：有损压缩和无损压缩。

发表于 10-21 13:50 •258次阅读

平衡创新与伦理：AI时代的隐私保护和算法公平

成了一把双刃剑，其锐利的一面正逐渐指向我们的核心价值。面对这些挑战，制定一套有效的AI治理框架和隐私保护机制变得迫在眉睫。确保AI决策

发表于 07-16 15:07

ai大模型和算法有什么区别

复杂的问题。这些模型通常需要大量的数据和计算资源来训练和优化。例如，深度学习中的神经网络就是一种典型的AI大模型。算法则是一系列解决问题的

发表于 07-16 10:09 •1774次阅读

基于一种AI辅助可穿戴微流控比色传感器系统

存在的挑战限制了这项技术的实际应用。据麦姆斯咨询报道，为了克服这些挑战，来自中国石油大学（华东）的研究人员开发了一种人工智能（AI）辅助的可穿戴微流控比色传感器系统（

发表于 06-29 10:57 •1.1w次阅读

基于<b class='flag-5'>一种</b><b class='flag-5'>AI</b>辅助可穿戴微流控比色传感器系统

AI初创公司Alembic攻克LLM虚假信息难题

近日，AI领域的创新者Alembic公司宣布了一项重大突破：其全新AI系统成功解决了LLM（大型语言模型）中的

发表于 06-18 14:26 •531次阅读

AI视觉检测系统在多方面实现技术创新

德赢Vwin官网网报道（文/李弯弯）AI视觉检测系统是一种基于AI技术的视觉分析系统，它通过模拟人类视觉系统，利用计算机

发表于 05-24 00:16 •3357次阅读

咳嗽检测深度神经网络算法

具体的软硬件实现点击 http://mcu-ai.com/ MCU-AI技术网页_MCU-AI 咳嗽检测是一种很有前途的

发表于 05-15 19:05

主流边缘AI算法，在安防、零售、交通等领域的应用

德赢Vwin官网网报道（文/李弯弯）边缘AI，是在边缘设备部署AI算法，其计算发生在靠近用户和数据的网络边缘，而不是集中在云计算设施或私人数据中心。边缘A

发表于 05-13 01:56 •2964次阅读

丰田2024财年将投1.7万亿日元于电动汽车与AI等增长领域

日本经济新闻报道，丰田公司于5月10日公布了其2024财年（至2025年3月底）的投资策略。该公司计划在纯电动车、AI等成长型领域投入1.7万亿日元（约合790.5亿元人民币），较以往年度增长40%。

发表于 05-11 11:00 •618次阅读

一种手掌大小的气体传感器和分析仪，可实时检测多种有毒气体

据麦姆斯咨询报道，欧洲的一个研究项目正在开发一种手掌大小的气体传感器和分析仪，能够安装在灯柱上实时检测多种有毒气体。

发表于 05-07 09:06 •641次阅读

一种常用的电流检测电路，收藏！

电流检测技术简介电流检测技术常用于高压短路保护、电机控制、DC/DC换流器、系统功耗管理、二次电池的电流管理、蓄电池管理等电流检测等场景。对于大部分应用，都是通过间接测量电阻两端的压降来

发表于 05-06 17:29

赛默斐视表面瑕疵检测系统是一种利用机器视觉技术

表面瑕疵检测系统是一种利用机器视觉技术来检测产品表面瑕疵的系统。它可以自动地对产品的表面进行检测，识别出可能存在的缺陷、污渍、划痕等问题。

发表于 01-25 15:47 •310次阅读

AI算法在燃气站的工作原理，安全帽、抽烟、打电话检测的具体应用，如何利用AI提升安全水平

AI算法在燃气站安全管理中的应用，包括烟火检测、安全帽识别、抽烟、打电话检测等方面的工作原理。AI算法

发表于 12-26 21:25 •629次阅读

搜索历史

AdVerif.ai 设计了一种同名算法来检测虚假的新闻报道和其他类型的问题

评论