教育：人工智能课程进学校的隐忧
+ 查看更多

徐海娜：日常生活中，AI的出现使得我们做事的成本降低了，效率提升了；但人类也会利用AI做坏事。在AI课程进学校的同时，AI伦理能否得到足够重视将成为巨大隐忧。

徐海娜

■

近日来，DeepSeek的出现引发了人们使用AI的热潮，和当初ChatGPT刚刚发布时一样热闹，但喧嚣过后，人们要面对不仅是AI带来的效率提升和一系列便利，还包括AI带来的风险和伤害。

去年年底，中国教育部办公厅印发通知，部署加强中小学人工智能教育，通知要求“小学低年级段侧重感知和体验人工智能技术，小学高年级段和初中阶段侧重理解和应用人工智能技术，高中阶段侧重项目创作和前沿应用。”但对于AI使用涉及的伦理道德问题、违法犯罪问题等重视不足。其实，当我们将AI课程引进学校的时候，最应被优先考虑的问题是如何教会孩子们合理合法地使用AI。

AI带给人类社会的危险和伤害绝对不是危言耸听。2023年马来西亚六州选举中的一位候选人马国民主联合阵（MUDA）党员林慧娴，就成为AI深度伪造诈骗的受害者。林慧娴，不仅是政治名人，而且形容姣美，在社交媒体上也相当活跃，在Instagram上有超过10万的追随者。她因为频繁接到人身威胁和来自境外的追索钱财的信息，深受困扰，怀疑自己的身份被盗用，于是报警。公众才得知不法分子如果用AI深度伪造的方式冒用他人身份会带来什么。其中一位受害者是来自土耳其的29岁男子Yusuf，他在接受有关采访时说，从2022年12月起，一位自称“Li Chu Xue”的人与他开始网恋，并游说他进行加密货币交易，最终他被骗9万多美元。他接受调查时仍坚信自己曾经视频通话4次的“Li Chu Xue”就是林慧娴本人。他说，视频通话时，画面高清、声音清楚，就算林慧娴报警也证明不了什么。另外，在土耳其，至少还有27人也声称被在网上使用不同姓名的林慧娴诈骗钱财，并已经在土耳其报警。

假如有一天，你也不小心成为了诈骗案的受害者，如何才能证明和你视频通话的“那个她”就是她呢？或者反过来，如何说清“那个自己”不是自己呢？你现在也许可以说，自己不是名人，不会有这一天。但是当人们忽略这种危害的时候，那一天迟早会到来。

这件事让我想曾经在新加坡美术馆（SAM）看展时，一位工作人员的告诫。那时，一场以“AI挑战人类身份认同与真实性”为主题的当代艺术展吸引了很多人的目光，不少展品都使用了AI深度伪造的技术来提醒人们，眼见不为实，人的身份问题充满挑战、风险和陷阱。当时，现场有位工作人员主动给我们一行人介绍完展品后，又和我们聊了一会儿天。和她聊天时才得知，原来她也曾经是IT从业者。她告诫我们，要学会保护自己的个人身份信息，包括脸部的正面照片、自己的声音等生物信息。同时，她还感叹，各国政府对技术监管的重视 “已经太晚了！来不及了！”因此，当时我还写了一篇《AI深度合成技术带来的痛与忧》，发表在新加坡《联合早报》上。

个人信息、照片、视频、声音等在网上唾手可得的时代，利用AI技术进行深度伪造变得越来越容易，然而监管技术还没有以同样的步伐跟上。网络上还流传过新加坡前总理李显龙宣传加密货币的视频、其他政治名人为某个商业项目站台的视频等。涉及商业的，有的用常识可以判断真伪，但不是所有人都具备相当程度的常识；假如涉及某种理念或思想的传播，普通人就更加难以分辨真伪。据报道，科技公司Sumsub发布的有关报告中显示，2023年全球深度伪造视频比2022年增加了10倍，其中亚太地区增长了1530%。

2024年11月，新加坡还发生过一起学生涉嫌伪造女同学裸照并在网络群组传播的事件。当时，一位体育学校的学生家长向《新明日报》爆料，揭发了这起事件。校方得知情况后立即对涉事学生进行了纪律处分，包括打鞭、禁止他们外出出赛、停学、暂停训练、暂停住宿等，警方也介入调查。

类似事件，在世界范围内屡屡发生，根据程度不同，有的已经涉嫌犯罪。2024年4月，英国宣布，将把未经同意制作露骨深伪图像的行为，列为刑事犯罪；广泛传播这类图像的行为，也将被对处以无上限罚款，甚至监禁。澳洲也拟立新法，针对未经当事人同意分享深度伪造色情图片者设立刑罚。前不久，新加坡政府也宣布，今年将修订《刑事法典》，要把使用人工智能技术生成深度伪造色情内容的行为，定为犯罪。虽然世界各国的政府已经努力在立法层面开展对AI使用的监管，但预防违法犯罪行为的发生，单靠立法远远不够。

2024年年底，中信读书会主办了一场线上直播对谈节目，名为《强人工智能时代下的技术、商业与个人》，对谈嘉宾是李开复和尤瓦尔•赫拉利，他们分别是关注人工智能发展的科学家和社会历史学家。尤瓦尔•赫拉利也是《智人之上——从石器时代到AI 时代的信息网络简史》（NEXUS）的作者。在这场直播对谈中，尤瓦尔•赫拉利指出，AI带来的风险主要集中在三个方面：一是，人们可能利用AI来做坏事；二是，AI在执行人类指令的时候，无意中伤害了人类；三是，AI本身产生做坏事的欲望。直播中，他还不断强调，目前最需要防范的是前两点。李开复则希望鼓励更多人致力于用技术去降低AI带来的风险。在他们的对谈中，他们也提到，在未来，AI变得越来越聪明、越来越强大的时候，人们将面对如何定义人的问题。

一位在新加坡经营课外学习机构FOGG的负责人曾经这样说：“无论再怎么鼓吹AI对孩子学习的帮助，都不能不谈AI、网络世界、游戏等给孩子成长带来的巨大冲击与困境。”她还引用一位专门为新加坡中小学生做AI讲座的培训师的话说：“跟孩子讲AI，最重要的第一课是AI ethic（AI伦理）。不讲好这个，不讲怎么用AI？”

拥抱AI没有错，将AI课程引入中小学也是大势所趋。但是熙熙攘攘的热潮之中，越是对教育给予厚望的人，越要保持冷静，对AI带来的风险，时刻保持警惕，并有所准备。将AI引进课堂，AI伦理部分有没有计划教，具体要如何教，孩子们要如何学会正确使用AI，这个才是最大的隐忧。

注：本文仅代表作者个人观点

■