拜登政府考虑针对ChatGPT等AI工具的潜在法规
+ 查看更多

拜登政府已经开始研究是否需要限制ChatGPT等AI工具，目前对该技术可能被用于歧视或传播有害信息的担忧与日俱增。

Ryan Tracy

■拜登(Joe Biden)政府已经开始研究是否需要限制ChatGPT等AI工具，目前对该技术可能被用于歧视或传播有害信息的担忧与日俱增。

作为通往潜在监管的第一步，美国商务部周二就其所谓的问责措施正式公开征求意见，包括具有潜在风险的新AI模型在发布前是否要走认证核准程序。

拜登政府的行动适逢可快速生成类似人类手笔的文字、图像、视频等内容的AI工具大行其道。据一些分析师估计，OpenAI旗下聊天机器人ChatGPT是有史以来用户数量最快达到1亿的消费者应用；OpenA是一家得到微软(Microsoft Corp., MSFT)支持的初创企业。

“这些工具即使在相对初级的阶段也能做到的事情令人惊叹，”美国商务部国家电信和信息管理局(National Telecommunications and Information Administration)负责人Alan Davidson说。“我们知道，需要设置一些护栏来确保相关方以负责任的方式使用它们。”国家电信和信息管理局负责进行此次意见征询。

未来60天里将接收各种意见反馈，Davidson说，收集到的意见将用来帮助制定提交给美国决策者的关于如何对待AI的建议。他还说，他所在机构的法定任务是向总统提供科技政策建议，而不是编写或执行法规。

行业和政府官员已对AI可能带来的一系列危害表示担忧，比如利用AI技术进行犯罪或传播虚假信息等。

科罗拉多州民主党参议员Michael Bennet上个月给一些AI研发公司致函，询问有关聊天机器人在公开实验中向标记为年轻人的用户提供令人不安的建议的情况，他在信中称儿童安全是他最关心的问题。

康涅狄格州民主党参议员Richard Blumenthal在接受采访时说：“围绕AI可能做出耸人听闻的好事和坏事的话题，相关讨论非常活跃。”他说：“这对国会来说是个终极挑战，高度复杂、技术性强、干系重大，并具有巨大紧迫性。”

包括马斯克(Elon Musk)在内的众多科技界大佬最近呼吁在六个月里暂停开发比GPT-4更强大的系统，GPT-4是OpenAI在大约一个月前发布的聊天机器人版本。这些大佬们警告说，OpenAI和Alphabet Inc.旗下谷歌(Google)等AI研发的参与者在没有对潜在风险进行充分管理和规划的情况下展开竞赛。

上周，美国总统拜登在白宫与一个科学家顾问委员会讨论了这个话题。当记者问及该技术是否危险时，拜登说：“还有待观察，有可能是危险的。”

该顾问委员会的成员中有来自微软和谷歌的代表。这两家公司以及其他一些发布AI系统的公司都表示，正在不断更新安全护栏，比如通过编程让聊天机器人拒绝回答某些问题。

在某些情况下，企业已表示欢迎并寻求制定新的监管法规。

“我们认为，功能强大的AI系统应当接受严格的安全评估，”OpenAI在最近的一篇博文中说。“需要通过监管来确保这种做法得到采纳，我们正在积极与政府接触，探讨这种监管可能采取的最佳形式。”

众议院监督委员会(House Oversight Committee)技术小组主席、南卡罗莱纳州共和党众议员Nancy Mace上个月在一个关于AI的听证会上发表了三分钟的开场讲话，讨论了AI的风险和好处。然后她补充说：“你猜对了，我刚才在开场发言中所说的一切，是ChatGPT写的。”

然后是Mace自己的发言，她询问证人AI是否发展得太快了。“我们是否有能力开发出可能对人类生存构成威胁的AI？”她说。“或者说那只是科幻小说里的情节？”

证人之一、前谷歌首席执行官施密特(Eric Schmidt)说：“每个人都认为我们正在打造的AI是他们在《终结者》(Terminator)电影里看到的东西，其实并非如此。”施密特曾领导国会下属一个负责研究AI国家安全影响的委员会。

施密特称，国会应专注于推动人才培养和创新。“让美国的智慧、美国的科学家、美国的政府和美国的公司来创造这个未来，我们将得到非常接近我们梦想的东西，”他告诉议员。“然后你们可以从旁监督，关注滥用误用问题。”

弗吉尼亚州民主党籍众议员Gerry Connolly对国会通过AI法规的能力表示怀疑，他指出国会并没有采取行动来解决社交媒体公司所拥有的“可怕影响力”。

“这些公司在内容、允许或不允许什么以及谁可以使用内容方面作出了各种重大决定，完全没有政府干预，”他说。“我们凭什么认为在AI问题上会有很大不同？”

由于没有专门针对AI系统的联邦法律，一些政府机构已使用了其他法律权力。

金融部门的监管机构已经在调查贷款机构可能如何利用AI来审核贷款，目的是防止对少数族裔的歧视。

美国司法部的反垄断部门表示，正在监测AI领域的竞争；美国邦贸易委员会(Federal Trade Commission, 简称FTC)则告诫各公司，如果对AI产品做出虚假或未经证实的声明，企业可能会面临法律后果。

在周二发布的公共意见文件中，国家电信和信息管理局询问民众是否应当增加措施，比如“质量保证认证”，以确保公众对AI系统的信任。

该文件询问民众是否应当制定对AI适用的新法律或法规，但没有详细说明AI的潜在危害，也没有表示支持任何具体的保障措施。■

又讯：中国对AI聊天机器人行业提出新规，百度、商汤股价下跌

Weilun Soon

■中国监管机构周二提出针对AI聊天机器人这个新兴行业的新规，令投资者对该行业寄予的厚望打了折扣。

中国AI软件公司商汤集团股份有限公司(SenseTime Group Inc., 0020.HK, 简称：商汤)股价在当天早些时候一度大涨，但在中国国家互联网信息办公室（简称：网信办）表示AI技术必须受到监管之后下跌。该公司周一发布了名为商量(SenseChat)的新聊天机器人。

在网信办就其拟议指导方针征求意见之前，一家中国官媒发表评论说，开发热门的ChatGPT底层系统类似技术的一些公司股票已经有估值泡沫化迹象。

互联网搜索巨头百度(Baidu, BIDU)周二在香港交易时段股价下跌5.4%；该公司上个月推出了自家的聊天机器人后股价飙升。最新的下跌使该股达到了自3月16日百度推出自家的人工智能聊天机器人以来的最低收盘水平。电商巨头阿里巴巴集团控股有限公司(Alibaba Group Holding Ltd., 9988.HK, BABA, 简称：阿里巴巴)也即将推出一款聊天机器人。其股价在周二小幅上涨。■