OpenAI再次痛失一员大将。
发布日期：2024-11-10 13:12
从周二起，中国国家互联网信息办公室将实施新的规定，以限制“深度造假”。
Karen Hao
■中国将实施新的规定，以限制“深度造假”。深度造假指通过人工智能软件制作或编辑媒体内容，使人们看似说了实际从未说过的话，或者做了实际从未做过的事。
中国政府的互联网监管机构国家互联网信息办公室将从周二起对“深度合成”技术实施监管，该技术包括人工智能支持的图像、视频和文本生成软件，该机构由此成为全球首个全面尝试遏制这个人工智能发展中最具爆炸性和争议性领域之一的主要监管机构。
这类技术是OpenAI开发的文本生成器ChatGPT和自动生成个性化数字头像的Lensa等大受欢迎的应用程序的基础，也带来了新的挑战，因为它们有可能生成更具欺骗性的媒体内容，可能会助长错误信息，使人们对数字领域中几乎所有事物的真实性产生怀疑。
上述新规中要求，不得利用人工智能合成的内容传播虚假新闻信息，或者扰乱经济或危害国家安全的信息。而相关信息的类别定义宽泛，让有关部门有很大的解释空间。规定还要求，深度合成图形、视频和文字可能导致公众混淆或者误认的，包括企业、研究机构和个人在内的深度合成技术提供者应当进行显著标识，标明其为合成或编辑内容。
这些新规于去年12月11日首次发布，本月开始实施。此前，中国在去年8月针对支撑着这个全球最强大互联网平台的算法公布了管理规定。
科技政策分析人士表示，有关深度造假工具和算法的新规是否会产生预期效果，对于中国政府管理一批快速发展的新技术的能力将是一次检验，这类技术正使全球监管机构感到困惑。
美国议员曾试图解决深度造假蔓延和潜在滥用的问题，但这些努力因言论自由担忧而停滞不前。总部设在柏林的非营利性研究和游说组织AlgorithmWatch的执行董事Matthias Spielkamp称，在欧盟，监管机构在这方面进展更大，但采取了比中国更谨慎的方式，强烈建议平台设法削弱深度造假传播虚假信息的能力，而不是直接禁止。
斯坦福大学研究学者Graham Webster说，中国在监管方面的尝试表明，中国政府受到围绕该技术的全球争论的严重影响。Webster运营着追踪中国数字政策发展情况的项目DigiChina Project。
他表示，中国正在与全球一起学习这些技术的潜在影响，但中国正在更快地推进强制性规定和执行；全世界的人都应该观察发生了什么。
深度造假是在2014年一种开源算法诞生后出现的，这种算法能够制作超现实的图像，即看起来像实际并不存在的人和物的照片。这项发明引发了对强大的图像合成软件的研究浪潮，同时也引发了新的滥用，比如未经同意就将人脸嫁接到色情视频中，被嫁接的多数为女性。
人工智能驱动的合成技术此后一直在不断发展，并扩展到不同的媒介，包括插图、视频、语音、文本和聊天对话，一个原因是它们在商业和娱乐应用中的效用越来越大。所有这些应用现在通常被归类为“生成式人工智能”。
Reface等换脸应用，以及TikTok和Snapchat上为自拍添加狗耳朵的功能，都使用了各种生成算法来达到效果。2021年，一部关于已故名厨安东尼·波登(Anthony Bourdain)的纪录片使用深度造假重现了他的声音，让他说出了他写过但没有说过的话。
但对滥用生成技术制造深度造假影像的担忧持续加剧。例如，现在比以往任何时候都更容易制作政界人士似乎说过什么的视频，这有可能引发混乱，尤其是在选举或战争期间。用于训练ChatGPT和Lensa等新一代人工智能软件的海量数据，从互联网上扒下的数以万亿计的文字和图像，也引发了人们对数据隐私和许可的普遍担忧。
虽然美国带动了多数生成式人工智能的发展，但包括百度(Baidu Inc, 9888.HK)、腾讯控股有限公司(Tencent Holdings Ltd.,TCEHY, 0700.HK, 简称﹕腾讯)和有政府背景的北京智源人工智能研究院(Beijing Academy of Artificial Intelligence)在内的一些中国公司和机构已在寻求开发自己的算法，或将现有算法重新用于娱乐或商业目的，如生成国画或创建虚拟人物。
近年来，关于这种技术被用于欺诈和诈骗的详细报道也越来越多。根据官媒新华社4月份的一篇报道，在其中一起案件中，港口城市温州的一名男子称，犯罪分子利用换脸技术冒充自己的一位朋友，骗走了他大约7,200美元。
据新华社的一份声明称，2021年3月，一款人工智能消费者应用程序因将人脸静态照片制作成搞笑视频而在中国一举走红，之后互联网监管机构召集了11家公司以更好地了解围绕深度合成技术的安全问题，其中包括阿里巴巴集团控股有限公司(Alibaba Group Holding Limited, 9988.HK, BABA, 简称：阿里巴巴)、腾讯和TikTok运营商字节跳动(Bytedance Ltd.)。
总部设在纽约的非营利人权组织Witness的项目主任Sam Gregory说，在美国和欧盟，监管深度造假技术的挑战在于，在不限制政治讽刺等合法言论形式的情况下减轻该技术的负面效应。他表示，相比之下，中国的监管规定将政府对言论原本就已相当严格的管控扩展到了新的媒介。
研究了新规的Gregory称，这显然是在为大量应用场景制定框架，而在这些场景的讽刺性言论是不被接受的。
中国法规的某些特点与全球其他地方的新兴规范相一致。Gregory说，例如，中国的新规要求面向用户的人工智能合成内容要有可见标签以及数字水印，这些措施被认为是对抗深度造假技术的欺骗性影响的最有效方法之一，并使互联网平台能够处理那些被认为违反规则的内容。
斯坦福大学的Webster称，中国的规则将为中国以外的观察人士提供一个案例研究，即这些规则在现实世界中可能如何发挥作用，以及可能对商业产生怎样的影响。他称，这是全球试图解决社会所面临最大挑战之一的早期大规模努力之一。■
中国政府的互联网监管机构国家互联网信息办公室将从周二起对“深度合成”技术实施监管，该技术包括人工智能支持的图像、视频和文本生成软件，该机构由此成为全球首个全面尝试遏制这个人工智能发展中最具爆炸性和争议性领域之一的主要监管机构。
这类技术是OpenAI开发的文本生成器ChatGPT和自动生成个性化数字头像的Lensa等大受欢迎的应用程序的基础，也带来了新的挑战，因为它们有可能生成更具欺骗性的媒体内容，可能会助长错误信息，使人们对数字领域中几乎所有事物的真实性产生怀疑。
上述新规中要求，不得利用人工智能合成的内容传播虚假新闻信息，或者扰乱经济或危害国家安全的信息。而相关信息的类别定义宽泛，让有关部门有很大的解释空间。规定还要求，深度合成图形、视频和文字可能导致公众混淆或者误认的，包括企业、研究机构和个人在内的深度合成技术提供者应当进行显著标识，标明其为合成或编辑内容。
这些新规于去年12月11日首次发布，本月开始实施。此前，中国在去年8月针对支撑着这个全球最强大互联网平台的算法公布了管理规定。
科技政策分析人士表示，有关深度造假工具和算法的新规是否会产生预期效果，对于中国政府管理一批快速发展的新技术的能力将是一次检验，这类技术正使全球监管机构感到困惑。
美国议员曾试图解决深度造假蔓延和潜在滥用的问题，但这些努力因言论自由担忧而停滞不前。总部设在柏林的非营利性研究和游说组织AlgorithmWatch的执行董事Matthias Spielkamp称，在欧盟，监管机构在这方面进展更大，但采取了比中国更谨慎的方式，强烈建议平台设法削弱深度造假传播虚假信息的能力，而不是直接禁止。
斯坦福大学研究学者Graham Webster说，中国在监管方面的尝试表明，中国政府受到围绕该技术的全球争论的严重影响。Webster运营着追踪中国数字政策发展情况的项目DigiChina Project。
他表示，中国正在与全球一起学习这些技术的潜在影响，但中国正在更快地推进强制性规定和执行；全世界的人都应该观察发生了什么。
深度造假是在2014年一种开源算法诞生后出现的，这种算法能够制作超现实的图像，即看起来像实际并不存在的人和物的照片。这项发明引发了对强大的图像合成软件的研究浪潮，同时也引发了新的滥用，比如未经同意就将人脸嫁接到色情视频中，被嫁接的多数为女性。
人工智能驱动的合成技术此后一直在不断发展，并扩展到不同的媒介，包括插图、视频、语音、文本和聊天对话，一个原因是它们在商业和娱乐应用中的效用越来越大。所有这些应用现在通常被归类为“生成式人工智能”。
Reface等换脸应用，以及TikTok和Snapchat上为自拍添加狗耳朵的功能，都使用了各种生成算法来达到效果。2021年，一部关于已故名厨安东尼·波登(Anthony Bourdain)的纪录片使用深度造假重现了他的声音，让他说出了他写过但没有说过的话。
但对滥用生成技术制造深度造假影像的担忧持续加剧。例如，现在比以往任何时候都更容易制作政界人士似乎说过什么的视频，这有可能引发混乱，尤其是在选举或战争期间。用于训练ChatGPT和Lensa等新一代人工智能软件的海量数据，从互联网上扒下的数以万亿计的文字和图像，也引发了人们对数据隐私和许可的普遍担忧。
虽然美国带动了多数生成式人工智能的发展，但包括百度(Baidu Inc, 9888.HK)、腾讯控股有限公司(Tencent Holdings Ltd.,TCEHY, 0700.HK, 简称﹕腾讯)和有政府背景的北京智源人工智能研究院(Beijing Academy of Artificial Intelligence)在内的一些中国公司和机构已在寻求开发自己的算法，或将现有算法重新用于娱乐或商业目的，如生成国画或创建虚拟人物。
近年来，关于这种技术被用于欺诈和诈骗的详细报道也越来越多。根据官媒新华社4月份的一篇报道，在其中一起案件中，港口城市温州的一名男子称，犯罪分子利用换脸技术冒充自己的一位朋友，骗走了他大约7,200美元。
据新华社的一份声明称，2021年3月，一款人工智能消费者应用程序因将人脸静态照片制作成搞笑视频而在中国一举走红，之后互联网监管机构召集了11家公司以更好地了解围绕深度合成技术的安全问题，其中包括阿里巴巴集团控股有限公司(Alibaba Group Holding Limited, 9988.HK, BABA, 简称：阿里巴巴)、腾讯和TikTok运营商字节跳动(Bytedance Ltd.)。
总部设在纽约的非营利人权组织Witness的项目主任Sam Gregory说，在美国和欧盟，监管深度造假技术的挑战在于，在不限制政治讽刺等合法言论形式的情况下减轻该技术的负面效应。他表示，相比之下，中国的监管规定将政府对言论原本就已相当严格的管控扩展到了新的媒介。
研究了新规的Gregory称，这显然是在为大量应用场景制定框架，而在这些场景的讽刺性言论是不被接受的。
中国法规的某些特点与全球其他地方的新兴规范相一致。Gregory说，例如，中国的新规要求面向用户的人工智能合成内容要有可见标签以及数字水印，这些措施被认为是对抗深度造假技术的欺骗性影响的最有效方法之一，并使互联网平台能够处理那些被认为违反规则的内容。
斯坦福大学的Webster称，中国的规则将为中国以外的观察人士提供一个案例研究，即这些规则在现实世界中可能如何发挥作用，以及可能对商业产生怎样的影响。他称，这是全球试图解决社会所面临最大挑战之一的早期大规模努力之一。■
读者评论
热门排行榜
OR
2023-01-09 19:33
商业与经济
中国开始监管深度合成，在算法监管方面领先一步
中国开始监管深度合成，在算法监管方面领先一步
中国将实施新的规定，以限制“深度造假”。深度造假指通过人工智能软件制作或编辑媒体内容，使人们看似说了实际从未说过的话，或者做了实际从未做过的事。
从周二起，中国国家互联网信息办公室将实施新的规定，以限制“深度造假”。
Karen Hao
■中国将实施新的规定，以限制“深度造假”。深度造假指通过人工智能软件制作或编辑媒体内容，使人们看似说了实际从未说过的话，或者做了实际从未做过的事。
中国政府的互联网监管机构国家互联网信息办公室将从周二起对“深度合成”技术实施监管，该技术包括人工智能支持的图像、视频和文本生成软件，该机构由此成为全球首个全面尝试遏制这个人工智能发展中最具爆炸性和争议性领域之一的主要监管机构。
这类技术是OpenAI开发的文本生成器ChatGPT和自动生成个性化数字头像的Lensa等大受欢迎的应用程序的基础，也带来了新的挑战，因为它们有可能生成更具欺骗性的媒体内容，可能会助长错误信息，使人们对数字领域中几乎所有事物的真实性产生怀疑。
上述新规中要求，不得利用人工智能合成的内容传播虚假新闻信息，或者扰乱经济或危害国家安全的信息。而相关信息的类别定义宽泛，让有关部门有很大的解释空间。规定还要求，深度合成图形、视频和文字可能导致公众混淆或者误认的，包括企业、研究机构和个人在内的深度合成技术提供者应当进行显著标识，标明其为合成或编辑内容。
这些新规于去年12月11日首次发布，本月开始实施。此前，中国在去年8月针对支撑着这个全球最强大互联网平台的算法公布了管理规定。
科技政策分析人士表示，有关深度造假工具和算法的新规是否会产生预期效果，对于中国政府管理一批快速发展的新技术的能力将是一次检验，这类技术正使全球监管机构感到困惑。
美国议员曾试图解决深度造假蔓延和潜在滥用的问题，但这些努力因言论自由担忧而停滞不前。总部设在柏林的非营利性研究和游说组织AlgorithmWatch的执行董事Matthias Spielkamp称，在欧盟，监管机构在这方面进展更大，但采取了比中国更谨慎的方式，强烈建议平台设法削弱深度造假传播虚假信息的能力，而不是直接禁止。
斯坦福大学研究学者Graham Webster说，中国在监管方面的尝试表明，中国政府受到围绕该技术的全球争论的严重影响。Webster运营着追踪中国数字政策发展情况的项目DigiChina Project。
他表示，中国正在与全球一起学习这些技术的潜在影响，但中国正在更快地推进强制性规定和执行；全世界的人都应该观察发生了什么。
深度造假是在2014年一种开源算法诞生后出现的，这种算法能够制作超现实的图像，即看起来像实际并不存在的人和物的照片。这项发明引发了对强大的图像合成软件的研究浪潮，同时也引发了新的滥用，比如未经同意就将人脸嫁接到色情视频中，被嫁接的多数为女性。
人工智能驱动的合成技术此后一直在不断发展，并扩展到不同的媒介，包括插图、视频、语音、文本和聊天对话，一个原因是它们在商业和娱乐应用中的效用越来越大。所有这些应用现在通常被归类为“生成式人工智能”。
Reface等换脸应用，以及TikTok和Snapchat上为自拍添加狗耳朵的功能，都使用了各种生成算法来达到效果。2021年，一部关于已故名厨安东尼·波登(Anthony Bourdain)的纪录片使用深度造假重现了他的声音，让他说出了他写过但没有说过的话。
但对滥用生成技术制造深度造假影像的担忧持续加剧。例如，现在比以往任何时候都更容易制作政界人士似乎说过什么的视频，这有可能引发混乱，尤其是在选举或战争期间。用于训练ChatGPT和Lensa等新一代人工智能软件的海量数据，从互联网上扒下的数以万亿计的文字和图像，也引发了人们对数据隐私和许可的普遍担忧。
虽然美国带动了多数生成式人工智能的发展，但包括百度(Baidu Inc, 9888.HK)、腾讯控股有限公司(Tencent Holdings Ltd.,TCEHY, 0700.HK, 简称﹕腾讯)和有政府背景的北京智源人工智能研究院(Beijing Academy of Artificial Intelligence)在内的一些中国公司和机构已在寻求开发自己的算法，或将现有算法重新用于娱乐或商业目的，如生成国画或创建虚拟人物。
近年来，关于这种技术被用于欺诈和诈骗的详细报道也越来越多。根据官媒新华社4月份的一篇报道，在其中一起案件中，港口城市温州的一名男子称，犯罪分子利用换脸技术冒充自己的一位朋友，骗走了他大约7,200美元。
据新华社的一份声明称，2021年3月，一款人工智能消费者应用程序因将人脸静态照片制作成搞笑视频而在中国一举走红，之后互联网监管机构召集了11家公司以更好地了解围绕深度合成技术的安全问题，其中包括阿里巴巴集团控股有限公司(Alibaba Group Holding Limited, 9988.HK, BABA, 简称：阿里巴巴)、腾讯和TikTok运营商字节跳动(Bytedance Ltd.)。
总部设在纽约的非营利人权组织Witness的项目主任Sam Gregory说，在美国和欧盟，监管深度造假技术的挑战在于，在不限制政治讽刺等合法言论形式的情况下减轻该技术的负面效应。他表示，相比之下，中国的监管规定将政府对言论原本就已相当严格的管控扩展到了新的媒介。
研究了新规的Gregory称，这显然是在为大量应用场景制定框架，而在这些场景的讽刺性言论是不被接受的。
中国法规的某些特点与全球其他地方的新兴规范相一致。Gregory说，例如，中国的新规要求面向用户的人工智能合成内容要有可见标签以及数字水印，这些措施被认为是对抗深度造假技术的欺骗性影响的最有效方法之一，并使互联网平台能够处理那些被认为违反规则的内容。
斯坦福大学的Webster称，中国的规则将为中国以外的观察人士提供一个案例研究，即这些规则在现实世界中可能如何发挥作用，以及可能对商业产生怎样的影响。他称，这是全球试图解决社会所面临最大挑战之一的早期大规模努力之一。■
中国政府的互联网监管机构国家互联网信息办公室将从周二起对“深度合成”技术实施监管，该技术包括人工智能支持的图像、视频和文本生成软件，该机构由此成为全球首个全面尝试遏制这个人工智能发展中最具爆炸性和争议性领域之一的主要监管机构。
这类技术是OpenAI开发的文本生成器ChatGPT和自动生成个性化数字头像的Lensa等大受欢迎的应用程序的基础，也带来了新的挑战，因为它们有可能生成更具欺骗性的媒体内容，可能会助长错误信息，使人们对数字领域中几乎所有事物的真实性产生怀疑。
上述新规中要求，不得利用人工智能合成的内容传播虚假新闻信息，或者扰乱经济或危害国家安全的信息。而相关信息的类别定义宽泛，让有关部门有很大的解释空间。规定还要求，深度合成图形、视频和文字可能导致公众混淆或者误认的，包括企业、研究机构和个人在内的深度合成技术提供者应当进行显著标识，标明其为合成或编辑内容。
这些新规于去年12月11日首次发布，本月开始实施。此前，中国在去年8月针对支撑着这个全球最强大互联网平台的算法公布了管理规定。
科技政策分析人士表示，有关深度造假工具和算法的新规是否会产生预期效果，对于中国政府管理一批快速发展的新技术的能力将是一次检验，这类技术正使全球监管机构感到困惑。
美国议员曾试图解决深度造假蔓延和潜在滥用的问题，但这些努力因言论自由担忧而停滞不前。总部设在柏林的非营利性研究和游说组织AlgorithmWatch的执行董事Matthias Spielkamp称，在欧盟，监管机构在这方面进展更大，但采取了比中国更谨慎的方式，强烈建议平台设法削弱深度造假传播虚假信息的能力，而不是直接禁止。
斯坦福大学研究学者Graham Webster说，中国在监管方面的尝试表明，中国政府受到围绕该技术的全球争论的严重影响。Webster运营着追踪中国数字政策发展情况的项目DigiChina Project。
他表示，中国正在与全球一起学习这些技术的潜在影响，但中国正在更快地推进强制性规定和执行；全世界的人都应该观察发生了什么。
深度造假是在2014年一种开源算法诞生后出现的，这种算法能够制作超现实的图像，即看起来像实际并不存在的人和物的照片。这项发明引发了对强大的图像合成软件的研究浪潮，同时也引发了新的滥用，比如未经同意就将人脸嫁接到色情视频中，被嫁接的多数为女性。
人工智能驱动的合成技术此后一直在不断发展，并扩展到不同的媒介，包括插图、视频、语音、文本和聊天对话，一个原因是它们在商业和娱乐应用中的效用越来越大。所有这些应用现在通常被归类为“生成式人工智能”。
Reface等换脸应用，以及TikTok和Snapchat上为自拍添加狗耳朵的功能，都使用了各种生成算法来达到效果。2021年，一部关于已故名厨安东尼·波登(Anthony Bourdain)的纪录片使用深度造假重现了他的声音，让他说出了他写过但没有说过的话。
但对滥用生成技术制造深度造假影像的担忧持续加剧。例如，现在比以往任何时候都更容易制作政界人士似乎说过什么的视频，这有可能引发混乱，尤其是在选举或战争期间。用于训练ChatGPT和Lensa等新一代人工智能软件的海量数据，从互联网上扒下的数以万亿计的文字和图像，也引发了人们对数据隐私和许可的普遍担忧。
虽然美国带动了多数生成式人工智能的发展，但包括百度(Baidu Inc, 9888.HK)、腾讯控股有限公司(Tencent Holdings Ltd.,TCEHY, 0700.HK, 简称﹕腾讯)和有政府背景的北京智源人工智能研究院(Beijing Academy of Artificial Intelligence)在内的一些中国公司和机构已在寻求开发自己的算法，或将现有算法重新用于娱乐或商业目的，如生成国画或创建虚拟人物。
近年来，关于这种技术被用于欺诈和诈骗的详细报道也越来越多。根据官媒新华社4月份的一篇报道，在其中一起案件中，港口城市温州的一名男子称，犯罪分子利用换脸技术冒充自己的一位朋友，骗走了他大约7,200美元。
据新华社的一份声明称，2021年3月，一款人工智能消费者应用程序因将人脸静态照片制作成搞笑视频而在中国一举走红，之后互联网监管机构召集了11家公司以更好地了解围绕深度合成技术的安全问题，其中包括阿里巴巴集团控股有限公司(Alibaba Group Holding Limited, 9988.HK, BABA, 简称：阿里巴巴)、腾讯和TikTok运营商字节跳动(Bytedance Ltd.)。
总部设在纽约的非营利人权组织Witness的项目主任Sam Gregory说，在美国和欧盟，监管深度造假技术的挑战在于，在不限制政治讽刺等合法言论形式的情况下减轻该技术的负面效应。他表示，相比之下，中国的监管规定将政府对言论原本就已相当严格的管控扩展到了新的媒介。
研究了新规的Gregory称，这显然是在为大量应用场景制定框架，而在这些场景的讽刺性言论是不被接受的。
中国法规的某些特点与全球其他地方的新兴规范相一致。Gregory说，例如，中国的新规要求面向用户的人工智能合成内容要有可见标签以及数字水印，这些措施被认为是对抗深度造假技术的欺骗性影响的最有效方法之一，并使互联网平台能够处理那些被认为违反规则的内容。
斯坦福大学的Webster称，中国的规则将为中国以外的观察人士提供一个案例研究，即这些规则在现实世界中可能如何发挥作用，以及可能对商业产生怎样的影响。他称，这是全球试图解决社会所面临最大挑战之一的早期大规模努力之一。■
读者评论OR
读者评论
OR
分享：
每日头条
OR
最新资讯
OR
热门排行榜
OR
OR品牌理念
■ 或者, 留一段影像，回一曲挂牵。丝丝入扣、暖暖心灵 ，需飘过的醇厚与共。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台，旨在为用户提供优质的阅读体验。网站的网址是oror.vip，用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......