OR 新媒|oror.vip跨平台阅读首选
2023-07-07 20:42
科技

AI生成的内容已经开始影响美国选举

悬而未决的问题是,科技公司是否能够成功地进行自我监管,或者政府是否需要干预。法里德说:“我希望政府不需要介入,但我们仍然需要帮助。”
日本AI,失去的不止三十年
Irene Benedicto

■今年早些时候,在芝加哥市长选举前夕,网上出现了一段关于温和派民主党候选人保罗·瓦拉斯(Paul Vallas)的视频。该视频由“芝加哥湖畔新闻”(Chicago Lakefront News)发布,似乎展示了瓦拉斯对芝加哥无法无天状况的抨击,并宣称曾经有一段时间,“人们对致命的警察枪击事件视而不见”。

在瓦拉斯的竞选团队谴责它是由人工智能制造的假视频之前,这段看似真实的视频已经在网上被广泛分享,而最初发布这段视频、注册仅两天的推特账户也消失了。虽然很难说它是否对瓦拉斯在与前教师和工会组织者布兰登-约翰逊(Brandon Johnson)的竞争中失利有任何影响,但这是对高风险的人工智能欺骗行为的一个较低风险的管窥,在即将到来的美国总统大选中,这可能会搅乱公共讨论。这也提出了一个关键问题:像Facebook和Twitter这样的平台将如何缓解这些问题?

芝加哥市长候选人保罗·瓦拉斯在今年早些时候遭遇了一则深度伪造的广告,该广告错误地描述了他在2023年该市市长竞选中的政治立场。图片来源:GETTY IMAGES

这是一个艰巨的挑战。由于没有实际的法律来规范人工智能如何在政治竞选中使用,平台决定了用户将在他们的信息流中看到哪些深度虚假信息,而现在,大多数平台都在努力解决如何自我监管的问题。加州大学伯克利分校的电子工程和计算机科学教授哈尼·法里德(Hany Farid)在接受《福布斯》采访时表示:“这些都是对我们民主的威胁。我没有看到各平台认真对待这个问题。”

目前,大多数大型社交媒体平台都没有与人工智能生成的内容相关的具体政策,不管是政治内容还是其他内容。

Meta发言人凯文·麦卡利斯特(Kevin McAlister)在接受《福布斯》采访时表示,在Meta的Facebook和Instagram平台上,当某段内容被标记为潜在的错误信息时,第三方事实核查员会对其进行审查,并在系统的提示下将其标记为“伪造、篡改或转换的音频、视频或照片”,不管这些内容是通过老派的Photoshop还是人工智能生成工具进行篡改的。

同样,Reddit将继续依靠其反对内容篡改的政策,这些政策适用于“虚假信息活动、伪造文件和旨在误导的深度造假”。YouTube还将删除违反虚假信息政策的选举相关内容,该政策明确禁止通过技术操纵来误导用户并可能构成严重风险或潜在伤害的图像。

Twitter的老板埃隆·马斯克(Elon Musk)在4月份更新了该公司的合成和操纵传播内容政策,声称如果推文包含误导性信息,就“可能会”被贴上标签,该公司还将继续删除那些对个人或社区有害的推文。该政策指出,“通过使用人工智能算法”捏造的传播内容将受到更严格的审查。

到目前为止,只有一家大型社交媒体公司制定了旨在审核人工智能生成内容的更全面政策,那就是TikTok。

2023年3月,TikTok宣布了一项新的“合成传播内容政策”,要求创作者发布由人工智能生成或修改的逼真场景时,必须明确披露这种技术的使用情况。至于选举相关的传播内容,将禁止所有人工智能生成的假冒公众人物进行政治背书的图片。

今年4月,TikTok开始删除不遵守新规定的内容,但内容创作者在公开免责声明方面有一定的灵活性:只要不具有误导性,免责声明可以放在字幕、标题或标签中。该平台还没有自动封禁分享未经授权内容的账户,只是给与了警告。

但是,尽管这种透明度是提醒用户内容来源的第一步,但它可能不足以防止错误信息的传播。斯坦福互联网观测站的研究经理Renee DiResta说:“当然会有坏人试图逃避任何政策或标准。”

DiResta认为,这就是为什么保留一个诚信团队是应对挑战的关键。Twitter尤其可能在下一次选举中遇到困难:自从埃隆·马斯克接手以来,他已经解雇了整个处理错误信息的团队,并终止了与第三方内容审核员的合同。

错误信息的传播长期以来一直是社交媒体平台的一大问题,1月6日对美国国会大厦的袭击就证明了一个主要通过网络组织的活动是如何造成致命的现实后果的。但在2024年的美国总统大选中,竞选团队及其支持者将首次能够使用强大的人工智能工具,这些工具可以在几秒钟内生成逼真的虚假内容。

“虚假信息的问题仍在继续。我们以生成式人工智能和深度造假的形式在这个问题上添了一把火。”

然而,专家们警告说,不要夸大人工智能生成的内容在下次选举中可能造成的破坏性。

“如果我们给人们造成这样一种印象,即利用深度造假的虚假信息活动必然会成功,我们可能就会破坏人们对民主制度的信任,虽然事实并非如此。”乔治城大学安全和新兴技术中心(Center for Security and Emerging Technology)赛博人工智能团队研究员乔希·戈德斯坦(Josh Goldstein)说。

除了社交媒体,搜索引擎也需要防范人工智能生成的内容。

谷歌已经对此进行了干预,将被操纵的内容从知识面板和特色片段的突出显示结果中排除。至于谷歌广告,被操纵的传播内容是被禁止的,广告商需要通过身份验证过程,并在广告中披露谁在为其付费。

今年5月,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)宣布推出一款名为“关于这张图片”的新工具,用于披露用户通过谷歌搜索找到的图片是否是由人工智能生成的。新功能还将显示某张图片和其他类似图片首次被索引的时间,以及它是否曾经在网上的其他地方出现,如新闻、社交媒体或事实核查网站。

皮查伊还宣布,谷歌将很快开始自动为其内部生成模型创建的图像和视频添加水印,这样用户就可以轻松识别合成内容。

谷歌并不是唯一引入这种方法的公司。水印是内容真实性倡议组织(Content Authenticity Initiative)的核心要求之一。该倡议组织是一个由200多家媒体、数字、内容和技术组织组成的联盟,旨在推动采用内容真实性的行业标准。

除此以外,法里德还提出了一个比那更进一步的想法,那就是强制内容创作者在内容中加入某种“营养标签”,以披露其内容是如何创建的。例如,一个视频标题可能会指出,附带的视频是用iPhone 14录制的,并使用Adobe的人工智能图像生成器Firefly进行过编辑。

悬而未决的问题是,科技公司是否能够成功地进行自我监管,或者政府是否需要干预。法里德说:“我希望政府不需要介入,但我们仍然需要帮助。”■ 

注:本文仅代表作者个人观点                                                                                              
读者评论
MORE +

热门排行榜
OR
+
日本AI,失去的不止三十年
2023-07-07 20:42
科技

AI生成的内容已经开始影响美国选举

悬而未决的问题是,科技公司是否能够成功地进行自我监管,或者政府是否需要干预。法里德说:“我希望政府不需要介入,但我们仍然需要帮助。”
Irene Benedicto

■今年早些时候,在芝加哥市长选举前夕,网上出现了一段关于温和派民主党候选人保罗·瓦拉斯(Paul Vallas)的视频。该视频由“芝加哥湖畔新闻”(Chicago Lakefront News)发布,似乎展示了瓦拉斯对芝加哥无法无天状况的抨击,并宣称曾经有一段时间,“人们对致命的警察枪击事件视而不见”。

在瓦拉斯的竞选团队谴责它是由人工智能制造的假视频之前,这段看似真实的视频已经在网上被广泛分享,而最初发布这段视频、注册仅两天的推特账户也消失了。虽然很难说它是否对瓦拉斯在与前教师和工会组织者布兰登-约翰逊(Brandon Johnson)的竞争中失利有任何影响,但这是对高风险的人工智能欺骗行为的一个较低风险的管窥,在即将到来的美国总统大选中,这可能会搅乱公共讨论。这也提出了一个关键问题:像Facebook和Twitter这样的平台将如何缓解这些问题?

芝加哥市长候选人保罗·瓦拉斯在今年早些时候遭遇了一则深度伪造的广告,该广告错误地描述了他在2023年该市市长竞选中的政治立场。图片来源:GETTY IMAGES

这是一个艰巨的挑战。由于没有实际的法律来规范人工智能如何在政治竞选中使用,平台决定了用户将在他们的信息流中看到哪些深度虚假信息,而现在,大多数平台都在努力解决如何自我监管的问题。加州大学伯克利分校的电子工程和计算机科学教授哈尼·法里德(Hany Farid)在接受《福布斯》采访时表示:“这些都是对我们民主的威胁。我没有看到各平台认真对待这个问题。”

目前,大多数大型社交媒体平台都没有与人工智能生成的内容相关的具体政策,不管是政治内容还是其他内容。

Meta发言人凯文·麦卡利斯特(Kevin McAlister)在接受《福布斯》采访时表示,在Meta的Facebook和Instagram平台上,当某段内容被标记为潜在的错误信息时,第三方事实核查员会对其进行审查,并在系统的提示下将其标记为“伪造、篡改或转换的音频、视频或照片”,不管这些内容是通过老派的Photoshop还是人工智能生成工具进行篡改的。

同样,Reddit将继续依靠其反对内容篡改的政策,这些政策适用于“虚假信息活动、伪造文件和旨在误导的深度造假”。YouTube还将删除违反虚假信息政策的选举相关内容,该政策明确禁止通过技术操纵来误导用户并可能构成严重风险或潜在伤害的图像。

Twitter的老板埃隆·马斯克(Elon Musk)在4月份更新了该公司的合成和操纵传播内容政策,声称如果推文包含误导性信息,就“可能会”被贴上标签,该公司还将继续删除那些对个人或社区有害的推文。该政策指出,“通过使用人工智能算法”捏造的传播内容将受到更严格的审查。

到目前为止,只有一家大型社交媒体公司制定了旨在审核人工智能生成内容的更全面政策,那就是TikTok。

2023年3月,TikTok宣布了一项新的“合成传播内容政策”,要求创作者发布由人工智能生成或修改的逼真场景时,必须明确披露这种技术的使用情况。至于选举相关的传播内容,将禁止所有人工智能生成的假冒公众人物进行政治背书的图片。

今年4月,TikTok开始删除不遵守新规定的内容,但内容创作者在公开免责声明方面有一定的灵活性:只要不具有误导性,免责声明可以放在字幕、标题或标签中。该平台还没有自动封禁分享未经授权内容的账户,只是给与了警告。

但是,尽管这种透明度是提醒用户内容来源的第一步,但它可能不足以防止错误信息的传播。斯坦福互联网观测站的研究经理Renee DiResta说:“当然会有坏人试图逃避任何政策或标准。”

DiResta认为,这就是为什么保留一个诚信团队是应对挑战的关键。Twitter尤其可能在下一次选举中遇到困难:自从埃隆·马斯克接手以来,他已经解雇了整个处理错误信息的团队,并终止了与第三方内容审核员的合同。

错误信息的传播长期以来一直是社交媒体平台的一大问题,1月6日对美国国会大厦的袭击就证明了一个主要通过网络组织的活动是如何造成致命的现实后果的。但在2024年的美国总统大选中,竞选团队及其支持者将首次能够使用强大的人工智能工具,这些工具可以在几秒钟内生成逼真的虚假内容。

“虚假信息的问题仍在继续。我们以生成式人工智能和深度造假的形式在这个问题上添了一把火。”

然而,专家们警告说,不要夸大人工智能生成的内容在下次选举中可能造成的破坏性。

“如果我们给人们造成这样一种印象,即利用深度造假的虚假信息活动必然会成功,我们可能就会破坏人们对民主制度的信任,虽然事实并非如此。”乔治城大学安全和新兴技术中心(Center for Security and Emerging Technology)赛博人工智能团队研究员乔希·戈德斯坦(Josh Goldstein)说。

除了社交媒体,搜索引擎也需要防范人工智能生成的内容。

谷歌已经对此进行了干预,将被操纵的内容从知识面板和特色片段的突出显示结果中排除。至于谷歌广告,被操纵的传播内容是被禁止的,广告商需要通过身份验证过程,并在广告中披露谁在为其付费。

今年5月,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)宣布推出一款名为“关于这张图片”的新工具,用于披露用户通过谷歌搜索找到的图片是否是由人工智能生成的。新功能还将显示某张图片和其他类似图片首次被索引的时间,以及它是否曾经在网上的其他地方出现,如新闻、社交媒体或事实核查网站。

皮查伊还宣布,谷歌将很快开始自动为其内部生成模型创建的图像和视频添加水印,这样用户就可以轻松识别合成内容。

谷歌并不是唯一引入这种方法的公司。水印是内容真实性倡议组织(Content Authenticity Initiative)的核心要求之一。该倡议组织是一个由200多家媒体、数字、内容和技术组织组成的联盟,旨在推动采用内容真实性的行业标准。

除此以外,法里德还提出了一个比那更进一步的想法,那就是强制内容创作者在内容中加入某种“营养标签”,以披露其内容是如何创建的。例如,一个视频标题可能会指出,附带的视频是用iPhone 14录制的,并使用Adobe的人工智能图像生成器Firefly进行过编辑。

悬而未决的问题是,科技公司是否能够成功地进行自我监管,或者政府是否需要干预。法里德说:“我希望政府不需要介入,但我们仍然需要帮助。”■ 

注:本文仅代表作者个人观点                                                                                              
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......