OpenAI再次痛失一员大将。
发布日期：2024-11-10 13:12
Shen Lu
■AI在中国人的日常生活中越来越常见，相关诈骗案件也随之激增。
中国政府监管国内互联网的严格程度在世界领先，如今在约束对AI生成的超现实内容的使用方面也已堪称先锋。
最近几周，中国多地警方在官方社交媒体账户上提醒说，犯罪分子已利用AI软件生成具有欺骗性的文本，冒充目标人物的朋友行骗。
今年4月，一名郭姓男子在中国聊天应用微信上收到一个冒名顶替者打来的视频电话。这个骗子冒充郭先生的好友，在10分钟内说服他将约合60万美元的资金转到了内蒙古的一个银行账户。他照做后联系好友确认转账事宜，才意识到自己被骗了。
根据内蒙古警方在社交媒体上发布的信息，郭先生对警方描述道，“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
郭先生随即向福州当地警方报案，福州警方联系了内蒙古警方；该骗子在内蒙古开设了银行账户。根据警方发在微信账号上的帖子，警方成功止付拦截了大部分资金，并正在全力追缴其余被转走的资金。
就在同一个月，据安徽省的一个官方媒体《新安晚报》报道，警方逮捕了一伙诈骗犯，他们利用AI换脸和语音合成技术，骗取一名男子向所谓的朋友转了一大笔钱。
全球监管机构在监管深伪技术上一直面临着挑战；所谓深伪(deepfake)是指把图片、音频或视频中的人替换成其他人。中国已迅速推出法规，并利用现有工具来追踪AI诈骗者。
今年1月，中国互联网监管机构中国国家互联网信息办公室(Cyberspace Administration of China)开始执行新法规，禁止使用AI生成的图像、音频和文本传播违法或被认为破坏经济或国家安全的不良信息或内容。对相关类别的宽泛定义使主管部门拥有很大自由度。
郭先生受骗之事在中国社会引起强烈反响。警方5月份公布此案之后，话题“#AI诈骗正在全国爆发#”冲上微博热搜。后来该话题无法找到，意味着审查人员正试图限制相关讨论。对该话题进行搜索得到的信息是：根据相关法律法规和政策，搜索结果未予显示。
字节跳动(Bytedance)旗下抖音（TikTok的中文版）在5月提出了关于AI生成内容的平台规范和行业倡议，呼吁同行禁止利用AI软件生成欺骗性内容和谣言。
最近几周，中国政府部门打击整治了AI聊天机器人生成的虚假信息，有些虚假信息的内容似乎是以之前一些在社交媒体上引发轩然大波的事件为模型。
上个月，甘肃省有关部门拘留了一名男子，他据称利用在网上收集的新闻片段，在ChatGPT上生成了一篇有关火车撞人事故的虚假文章。据警方称，该男子在一个自媒体平台上发表了这篇文章；用户可以分享该自媒体平台基于流量的广告收入。警方说，这篇文章的浏览量达15,000次。
今年5月，河南省有关部门指称一名男子利用ChatGPT生成了一家餐馆发生斗殴事件的虚假不实信息以吸引流量。文中的一些重要信息误导人们称，一名女子在这场殴打事件中被一名男子用砖头砸中头部后死亡。
这些消息让人联想到去年在网上广泛传播的一些视频，这些视频显示一群男子在一家餐厅殴打几名女子，这在网上引发了关于针对女性的性别暴力的热议。
ChatGPT的流行在中国激起了一阵热潮，因两年的监管整顿和经济形势不稳定而受到冲击的中国科技企业将这项技术视为增长的新动力。
搜索引擎公司百度(Baidu, BIDU)、电商巨头阿里巴巴集团(Alibaba Group Holding Limited, BABA, 9988.HK)和AI公司商汤集团(SenseTime Group Inc., 0020.HK)已推出自家的大语言模型；大语言模型是ChatGPT背后的基础技术。其他科技公司也正在探索如何将AI技术融入各自的产品。
世界各国政府都担心，类似ChatGPT的服务可能会传播歧视性或有害的信息。其他国家的监管机构开始研究对新一波生成式AI技术实施潜在检查之际，中国已准备好一套监管框架来审查聊天机器人。
中国国家互联网信息办公室4月份出台了新规，要求公司在推出此类AI聊天机器人之前要先经过安全审查。此外，根据新的法规草案，公司有责任确保其AI服务生成的内容是真实的，并且需体现社会主义价值观。■
中国政府监管国内互联网的严格程度在世界领先，如今在约束对AI生成的超现实内容的使用方面也已堪称先锋。
最近几周，中国多地警方在官方社交媒体账户上提醒说，犯罪分子已利用AI软件生成具有欺骗性的文本，冒充目标人物的朋友行骗。
今年4月，一名郭姓男子在中国聊天应用微信上收到一个冒名顶替者打来的视频电话。这个骗子冒充郭先生的好友，在10分钟内说服他将约合60万美元的资金转到了内蒙古的一个银行账户。他照做后联系好友确认转账事宜，才意识到自己被骗了。
根据内蒙古警方在社交媒体上发布的信息，郭先生对警方描述道，“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
郭先生随即向福州当地警方报案，福州警方联系了内蒙古警方；该骗子在内蒙古开设了银行账户。根据警方发在微信账号上的帖子，警方成功止付拦截了大部分资金，并正在全力追缴其余被转走的资金。
就在同一个月，据安徽省的一个官方媒体《新安晚报》报道，警方逮捕了一伙诈骗犯，他们利用AI换脸和语音合成技术，骗取一名男子向所谓的朋友转了一大笔钱。
全球监管机构在监管深伪技术上一直面临着挑战；所谓深伪(deepfake)是指把图片、音频或视频中的人替换成其他人。中国已迅速推出法规，并利用现有工具来追踪AI诈骗者。
今年1月，中国互联网监管机构中国国家互联网信息办公室(Cyberspace Administration of China)开始执行新法规，禁止使用AI生成的图像、音频和文本传播违法或被认为破坏经济或国家安全的不良信息或内容。对相关类别的宽泛定义使主管部门拥有很大自由度。
郭先生受骗之事在中国社会引起强烈反响。警方5月份公布此案之后，话题“#AI诈骗正在全国爆发#”冲上微博热搜。后来该话题无法找到，意味着审查人员正试图限制相关讨论。对该话题进行搜索得到的信息是：根据相关法律法规和政策，搜索结果未予显示。
字节跳动(Bytedance)旗下抖音（TikTok的中文版）在5月提出了关于AI生成内容的平台规范和行业倡议，呼吁同行禁止利用AI软件生成欺骗性内容和谣言。
最近几周，中国政府部门打击整治了AI聊天机器人生成的虚假信息，有些虚假信息的内容似乎是以之前一些在社交媒体上引发轩然大波的事件为模型。
上个月，甘肃省有关部门拘留了一名男子，他据称利用在网上收集的新闻片段，在ChatGPT上生成了一篇有关火车撞人事故的虚假文章。据警方称，该男子在一个自媒体平台上发表了这篇文章；用户可以分享该自媒体平台基于流量的广告收入。警方说，这篇文章的浏览量达15,000次。
今年5月，河南省有关部门指称一名男子利用ChatGPT生成了一家餐馆发生斗殴事件的虚假不实信息以吸引流量。文中的一些重要信息误导人们称，一名女子在这场殴打事件中被一名男子用砖头砸中头部后死亡。
这些消息让人联想到去年在网上广泛传播的一些视频，这些视频显示一群男子在一家餐厅殴打几名女子，这在网上引发了关于针对女性的性别暴力的热议。
ChatGPT的流行在中国激起了一阵热潮，因两年的监管整顿和经济形势不稳定而受到冲击的中国科技企业将这项技术视为增长的新动力。
搜索引擎公司百度(Baidu, BIDU)、电商巨头阿里巴巴集团(Alibaba Group Holding Limited, BABA, 9988.HK)和AI公司商汤集团(SenseTime Group Inc., 0020.HK)已推出自家的大语言模型；大语言模型是ChatGPT背后的基础技术。其他科技公司也正在探索如何将AI技术融入各自的产品。
世界各国政府都担心，类似ChatGPT的服务可能会传播歧视性或有害的信息。其他国家的监管机构开始研究对新一波生成式AI技术实施潜在检查之际，中国已准备好一套监管框架来审查聊天机器人。
中国国家互联网信息办公室4月份出台了新规，要求公司在推出此类AI聊天机器人之前要先经过安全审查。此外，根据新的法规草案，公司有责任确保其AI服务生成的内容是真实的，并且需体现社会主义价值观。■
读者评论
热门排行榜
OR
2023-06-06 05:29
社会与生活 科技
AI诈骗激增，中国出手整治
AI诈骗激增，中国出手整治
在中国，与AI相关的诈骗案件激增，中国政府随之加大了对AI生成的超现实内容的使用等方面的监管力度。
Shen Lu
■AI在中国人的日常生活中越来越常见，相关诈骗案件也随之激增。
中国政府监管国内互联网的严格程度在世界领先，如今在约束对AI生成的超现实内容的使用方面也已堪称先锋。
最近几周，中国多地警方在官方社交媒体账户上提醒说，犯罪分子已利用AI软件生成具有欺骗性的文本，冒充目标人物的朋友行骗。
今年4月，一名郭姓男子在中国聊天应用微信上收到一个冒名顶替者打来的视频电话。这个骗子冒充郭先生的好友，在10分钟内说服他将约合60万美元的资金转到了内蒙古的一个银行账户。他照做后联系好友确认转账事宜，才意识到自己被骗了。
根据内蒙古警方在社交媒体上发布的信息，郭先生对警方描述道，“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
郭先生随即向福州当地警方报案，福州警方联系了内蒙古警方；该骗子在内蒙古开设了银行账户。根据警方发在微信账号上的帖子，警方成功止付拦截了大部分资金，并正在全力追缴其余被转走的资金。
就在同一个月，据安徽省的一个官方媒体《新安晚报》报道，警方逮捕了一伙诈骗犯，他们利用AI换脸和语音合成技术，骗取一名男子向所谓的朋友转了一大笔钱。
全球监管机构在监管深伪技术上一直面临着挑战；所谓深伪(deepfake)是指把图片、音频或视频中的人替换成其他人。中国已迅速推出法规，并利用现有工具来追踪AI诈骗者。
今年1月，中国互联网监管机构中国国家互联网信息办公室(Cyberspace Administration of China)开始执行新法规，禁止使用AI生成的图像、音频和文本传播违法或被认为破坏经济或国家安全的不良信息或内容。对相关类别的宽泛定义使主管部门拥有很大自由度。
郭先生受骗之事在中国社会引起强烈反响。警方5月份公布此案之后，话题“#AI诈骗正在全国爆发#”冲上微博热搜。后来该话题无法找到，意味着审查人员正试图限制相关讨论。对该话题进行搜索得到的信息是：根据相关法律法规和政策，搜索结果未予显示。
字节跳动(Bytedance)旗下抖音（TikTok的中文版）在5月提出了关于AI生成内容的平台规范和行业倡议，呼吁同行禁止利用AI软件生成欺骗性内容和谣言。
最近几周，中国政府部门打击整治了AI聊天机器人生成的虚假信息，有些虚假信息的内容似乎是以之前一些在社交媒体上引发轩然大波的事件为模型。
上个月，甘肃省有关部门拘留了一名男子，他据称利用在网上收集的新闻片段，在ChatGPT上生成了一篇有关火车撞人事故的虚假文章。据警方称，该男子在一个自媒体平台上发表了这篇文章；用户可以分享该自媒体平台基于流量的广告收入。警方说，这篇文章的浏览量达15,000次。
今年5月，河南省有关部门指称一名男子利用ChatGPT生成了一家餐馆发生斗殴事件的虚假不实信息以吸引流量。文中的一些重要信息误导人们称，一名女子在这场殴打事件中被一名男子用砖头砸中头部后死亡。
这些消息让人联想到去年在网上广泛传播的一些视频，这些视频显示一群男子在一家餐厅殴打几名女子，这在网上引发了关于针对女性的性别暴力的热议。
ChatGPT的流行在中国激起了一阵热潮，因两年的监管整顿和经济形势不稳定而受到冲击的中国科技企业将这项技术视为增长的新动力。
搜索引擎公司百度(Baidu, BIDU)、电商巨头阿里巴巴集团(Alibaba Group Holding Limited, BABA, 9988.HK)和AI公司商汤集团(SenseTime Group Inc., 0020.HK)已推出自家的大语言模型；大语言模型是ChatGPT背后的基础技术。其他科技公司也正在探索如何将AI技术融入各自的产品。
世界各国政府都担心，类似ChatGPT的服务可能会传播歧视性或有害的信息。其他国家的监管机构开始研究对新一波生成式AI技术实施潜在检查之际，中国已准备好一套监管框架来审查聊天机器人。
中国国家互联网信息办公室4月份出台了新规，要求公司在推出此类AI聊天机器人之前要先经过安全审查。此外，根据新的法规草案，公司有责任确保其AI服务生成的内容是真实的，并且需体现社会主义价值观。■
中国政府监管国内互联网的严格程度在世界领先，如今在约束对AI生成的超现实内容的使用方面也已堪称先锋。
最近几周，中国多地警方在官方社交媒体账户上提醒说，犯罪分子已利用AI软件生成具有欺骗性的文本，冒充目标人物的朋友行骗。
今年4月，一名郭姓男子在中国聊天应用微信上收到一个冒名顶替者打来的视频电话。这个骗子冒充郭先生的好友，在10分钟内说服他将约合60万美元的资金转到了内蒙古的一个银行账户。他照做后联系好友确认转账事宜，才意识到自己被骗了。
根据内蒙古警方在社交媒体上发布的信息，郭先生对警方描述道，“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
郭先生随即向福州当地警方报案，福州警方联系了内蒙古警方；该骗子在内蒙古开设了银行账户。根据警方发在微信账号上的帖子，警方成功止付拦截了大部分资金，并正在全力追缴其余被转走的资金。
就在同一个月，据安徽省的一个官方媒体《新安晚报》报道，警方逮捕了一伙诈骗犯，他们利用AI换脸和语音合成技术，骗取一名男子向所谓的朋友转了一大笔钱。
全球监管机构在监管深伪技术上一直面临着挑战；所谓深伪(deepfake)是指把图片、音频或视频中的人替换成其他人。中国已迅速推出法规，并利用现有工具来追踪AI诈骗者。
今年1月，中国互联网监管机构中国国家互联网信息办公室(Cyberspace Administration of China)开始执行新法规，禁止使用AI生成的图像、音频和文本传播违法或被认为破坏经济或国家安全的不良信息或内容。对相关类别的宽泛定义使主管部门拥有很大自由度。
郭先生受骗之事在中国社会引起强烈反响。警方5月份公布此案之后，话题“#AI诈骗正在全国爆发#”冲上微博热搜。后来该话题无法找到，意味着审查人员正试图限制相关讨论。对该话题进行搜索得到的信息是：根据相关法律法规和政策，搜索结果未予显示。
字节跳动(Bytedance)旗下抖音（TikTok的中文版）在5月提出了关于AI生成内容的平台规范和行业倡议，呼吁同行禁止利用AI软件生成欺骗性内容和谣言。
最近几周，中国政府部门打击整治了AI聊天机器人生成的虚假信息，有些虚假信息的内容似乎是以之前一些在社交媒体上引发轩然大波的事件为模型。
上个月，甘肃省有关部门拘留了一名男子，他据称利用在网上收集的新闻片段，在ChatGPT上生成了一篇有关火车撞人事故的虚假文章。据警方称，该男子在一个自媒体平台上发表了这篇文章；用户可以分享该自媒体平台基于流量的广告收入。警方说，这篇文章的浏览量达15,000次。
今年5月，河南省有关部门指称一名男子利用ChatGPT生成了一家餐馆发生斗殴事件的虚假不实信息以吸引流量。文中的一些重要信息误导人们称，一名女子在这场殴打事件中被一名男子用砖头砸中头部后死亡。
这些消息让人联想到去年在网上广泛传播的一些视频，这些视频显示一群男子在一家餐厅殴打几名女子，这在网上引发了关于针对女性的性别暴力的热议。
ChatGPT的流行在中国激起了一阵热潮，因两年的监管整顿和经济形势不稳定而受到冲击的中国科技企业将这项技术视为增长的新动力。
搜索引擎公司百度(Baidu, BIDU)、电商巨头阿里巴巴集团(Alibaba Group Holding Limited, BABA, 9988.HK)和AI公司商汤集团(SenseTime Group Inc., 0020.HK)已推出自家的大语言模型；大语言模型是ChatGPT背后的基础技术。其他科技公司也正在探索如何将AI技术融入各自的产品。
世界各国政府都担心，类似ChatGPT的服务可能会传播歧视性或有害的信息。其他国家的监管机构开始研究对新一波生成式AI技术实施潜在检查之际，中国已准备好一套监管框架来审查聊天机器人。
中国国家互联网信息办公室4月份出台了新规，要求公司在推出此类AI聊天机器人之前要先经过安全审查。此外，根据新的法规草案，公司有责任确保其AI服务生成的内容是真实的，并且需体现社会主义价值观。■
读者评论OR
读者评论
OR
分享：
每日头条
OR
最新资讯
OR
热门排行榜
OR
OR品牌理念
■ 或者, 留一段影像，回一曲挂牵。丝丝入扣、暖暖心灵 ，需飘过的醇厚与共。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台，旨在为用户提供优质的阅读体验。网站的网址是oror.vip，用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......