6月27日-29日，2023年夏季达沃斯世界经济论坛在中国天津召开，主题为“企业家精神：世界经济驱动力”。此次会议汇聚全球近100个国家和地区的1500多名政商学界精英领袖们，也是自2019年以来夏季达沃斯首次回到线下举行。

(资料图)

面对当前世界低增长、生活成本高涨、地缘政治分化加剧、不平等扩大以及气候和自然危机日益严重的影响，等相互交织的危机，达沃斯世界经济论坛旨在通过搭建对话、呼吁创新与恢复合作的方式，应对共同挑战，重振全球经济增长。

澎湃研究所研究员在达沃斯现场发现，新兴科技的发展以及它所带来的政治经济影响，是本届达沃斯众多论坛中的一大焦点。在为期3天的达沃斯时间中，弥漫着对新兴技术的喜与忧。

2023年6月27日，天津，第十四届夏季达沃斯论坛举办。视觉中国 图

你也信过AI说的慌吗？

2022年末ChatGPT的横空出世，令生成式人工智能走进全球的聚光灯下。除了对话类生成式人工智能，其代表技术还包括在文化创作中的自动创作，在图像应用上的深度伪造等。

生成式人工智能的时代已经到来，随着时间推移，它进一步改变甚至颠覆各行各业，好的一方面是，它将提高生产力，开启一个创新新时代；但另一方面，许多工作将受到冲击与重新定位，技术的不透明也会引发信任危机等。

在“生成式人工智能：是敌是友？”的圆桌论坛上，AI教育公司Learnable董事长王冠表示，AI可以帮助人类，以其所在的教育领域为例，虽然教师与学生的互动和情感无法被替代，但在批改试卷和辅助教学上AI可以帮助教师。AI比人类成本更低、效率更高，可以更大规模地进行部署。“甚至下一步可以应用于中国的高考批改中。”同时，他相信，随着AI产品更加成熟，产品价格会变得更加便宜，也许一块平板电脑就能弥合中国城乡间的教育资源差距。

但王冠也指出，垂直行业的AI与目前OpenAI（ChatGPT制造商）的不同之处在于，现在用户能够容忍OpenAI的并非百分百准确，“但在教育领域不能冒险”。同样不能出差错的还包括医疗、自动驾驶等多个垂直领域。

“几年前大家一直把第四次工业革命挂在嘴边，”从事自然语言处理30多年的香港科技大学电子和计算机工程系主任教授冯雁说，“如今生成式AI的出现，我觉得超过工业范畴，它所带来的冲击是属于人类文明的下一个革命。”而AI与人的区别在于，它们没有丰富的内心世界。虽然AI在认知层面做任务，完全可以与人类大脑并论，但是机器不给提示，它什么都不会做。

同时，冯雁指出目前的语言模型所存在的问题。首先是不透明，对用户的不透明导致人们对智能技术的信任危机；对研究者、学者也不透明，这意味着无法预期AI生成的答案。通过对标研究，冯雁团队发现，选择的提示词不同，会导致不同的答案，这被他们称为AI出现“幻觉”的现象。生成式AI会按照指令生成指令者任何想要的内容，有些是基于客观事实存在的，但有些是编造的。

“我也曾相信过ChatGPT说的谎。”冯雁表示，减少AI的幻觉，成为研究者们的一大努力方向。

第二，ChatGPT的回答中带有偏见与恶意。某种程度上，ChatGPT的答案反映的是社会现状，所以也包含着当下存在的社会偏见。例如，清华大学交叉信息研究院助理教授于洋曾对澎湃新闻 表示，AI的性别歧视主要源于：1）供AI学习训练的数据本身具有性别偏见，也成为社会现实的一个反射；2）设计开发者主要为白人中青年男性，对第三世界、边缘群体的关注不到位；3）算法本身的不足，也加剧歧视。

冯雁还指出，大型语言模型大多数基于英文数据，除了中文与西语作为另外两大被广泛运用的语言外，小众语言在网络上的数据相对有限，也局限了其自然语言处理上的发展。冯雁建议，政府应助力加强其他语言的资源，让更多的语言有更多更好的模型。“我们现在不想看到经济上的贫富差距，复制到模型上的差距。”。

除了嘉宾们提及的生成式AI会“产生幻觉”、“说谎”、带有社会偏见之外，更令人担忧的也许不是技术本身，而是技术被人另作他用的风险。例如IBM大中华区董事长兼总经理陈旭东称，IBM很早开始研究AI背后的风险以及AI伦理。对此，IBM放弃了对人脸识别的研究，因为这项技术可能会被非法利用。

可见，技术狂奔之下，技术治理应该跟上步伐。如何保护科技伦理、数据隐私和知识产权等诸多问题，正成为政商学各界共同关注的焦点。

在另一场“拥抱人工智能革命，提高人工智能水平”的圆桌讨论上，话题聚焦在哪些框架和做法能帮助快速提高国家的人工智能的治理水平？——谁来监管？如何监管？如何兼顾创新与安全？——这些追问成为话题的风暴中心。

拥抱AI革命，各国监管方式不一

互联网世界是否值得信任？

在世界经济论坛的《互联世界状况（2023 年版）》调查报告中，超过八成的受访者表示，对负责任地使用互联设备生成的数据缺乏信心。而如果消费者不信任这些设备，那么就难以大规模扩展这些设备带来的益处。

巴斯大学计算机科学系副教授Joanna Bryson表示，数字行业长期来没有足够的规范，人们使用的很多平台，如邮箱、社交平台，运营并不透明。她指出大众不信任AI是因为获取的信息还不够透明，建议推出一种“透明度文化”。同时，她也呼吁政府出台对技术的监管，以确保新的AI公司以合规的方式使用新技术。

卢旺达信息通信技术与创新部部长Paula Ingabire表示，数据是AI的核心，如何让数据被业界合理使用至关重要。卢旺达政府推出数据管理平台，平衡技术创新和个人数据保护，例如通过统一全国医疗机构的病历，建立病历信息交换平台，通过数据隐私保护法律，最终让数据所有权属于病患本人。

Paula Ingabire也提出，AI监管应由政府牵头，制定合理的方案。“其实政府也无法单打独斗，必须要和企业合作，私营部门的力量也要进来。”

澎湃研究所研究员梳理发现，不同国家对AI的监管治理方式不一。欧盟已通过人工智能法案，多国加速研究监管框架，也有国家并不急于监管。

欧盟于今年6月通过《人工智能法案》（AI Act），对AI及其相关应用进行分级风险管理，基于风险划分的四种等级分别为被禁止、高风险、有限风险、低风险。其中，实时远程生物识别技术（即公开场合人脸识别）被设为“被禁止”级别，对生成式AI（例如ChatGPT）提出必须对生成的内容进行标注，以区别“深度伪造信息”，并要求公司披露生成式AI训练数据的版权。

英国组建“人工智能基础模型工作组”（AI Foundation Model Taskforce），研究人工智能带来的安全风险，研究安全开发人工智能的方法，并为制定国际安全准则提供信息。

美国也在加速准备关于人工智能的监管立法框架。2022年10月，美国推出《人工智能权利法案蓝图》，关注技术下的隐私保护和公平性原则。而在今年6月欧盟通过《人工智能法案》之后，美国加速了推进AI监管的步伐，预计将于今夏推出一些政策行动。

今年4月，中国也就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见，征求意见稿中提到包括：生成式人工智能生成的内容应当真实准确，防止生成虚假信息；用于训练生成式人工智能的数据，应当保证数据的真实性、准确性等内容。

但也有政府并不急于制定AI法规。例如新加坡政府在近日就表示，目前没有制定AI法规的想法。但同时，新加坡政府在努力促进“负责任地”使用人工智能，并与企业合作开发了全球首个AI测试工具包，让用户可以对AI模型进行技术测试并记录过程检查。

对AI监管的呼吁外，也有观点提出担忧，法规与监管是否会限制AI创新发展？

例如圆桌论坛上，英国人工智能公司CausaLens的CEO Darko Matovski表示，一个很好的监管技术如果用不正确的方式落实，可能会对新技术带来影响。“规则的落实会决定AI的未来。必须要用正确的、实际的方式进行监管，否则就会磨灭创新。”

东软集团董事长刘积仁也从技术开发的角度建议：“技术的发展需要给技术开发者一定空间，让他们先走一步，探索未知的领域。”

关键词：