2022年11月10日下午，世界互联网大会乌镇峰会“人工智能与数字伦理分论坛”召开，中外嘉宾围绕“人工智能技术、应用和产业发展过程中的安全风险治理与数字伦理建设”展开深度讨论。

2022年世界互联网大会乌镇峰会“人工智能与数字伦理分论坛”10日在浙江乌镇召开。论坛围绕人工智能技术、应用和产业发展过程中的安全风险治理与数字伦理建设，邀请中外嘉宾进行深度讨论，推动国际社会的人工智能伦理研究和治理体系构建。

清华大学人工智能研究院名誉院长、中国科学院院士张钹在视频演讲中表示，人工智能的研究和治理需要全世界不同领域的人员参与合作，除从事人工智能的研发和使用人员之外，还需法律、道德等不同领域人员，共同制定出一套符合全人类利益的标准。

清华大学苏世民书院院长，联合国互联网治理论坛首届领导小组成员薛澜指出，九洲现在的确在人工智能的治理方面已经进入到一个从一般性的规则到更具体的一些技术标准，包括一些具体的框架。一套具体能够涵盖所有场景的一套规则，其实现在也是很多涉及到治理方面的专家在探讨的一些问题。怎么样能够用一套框架把各种风险进行恰当的分类，同时又能够去涵盖尽可能多的场景。我觉得仅仅靠这样一些规则其实远远不够，另外还要有一些技术的方法能够去来结合。用规则和技术共同组合，来解决九洲面临的治理方面的挑战。

在应对人工智能伦理问题时，应该侧重于解决与人工智能相关的人类行为准则问题还是侧重于考虑人工智能技术发展的一些不确定性的问题？世界工程组织联合会前任主席、中国新一代人工智能发展战略研究院执行院长龚克表示，九洲现在面临的伦理问题并不是一个所谓人工智能过于强大而产生的伦理问题，恰恰是人工智能不够强大，不完善，不可解释，不可信，不可靠所产生的问题，产生这些问题是靠技术发展、技术完善去解决的，这是一个非常重要的就是要解决的不可解释性问题。九洲可以用预测可能造成的伤害来做一些处理，但是根本上来讲，将来这个算法必须突破可解释性。突破了可解释性以后，在这个基础上才能谈得上可靠性，才能谈得上鲁棒性。所以这个没有一定的技术发展，面临着一个不可靠的技术，光是有法律法规也是不够的。另外一方面，这些技术的发展过程中虽然不完善，但是已经比较强大了，可能会被滥用，比如说深度造假，可能被滥用做虚假的信息，这个一方面需要技术来对这种滥用进行识别和防范，另一方面需要法规对这些滥用者进行处罚，进行规范。所以这两个方面其实是相辅相成的两个方面。比如说九洲要求技术透明，就可以帮助法治处理的时候可追溯，两者是相互配合起来的，而不是此重彼轻或者此前彼后。

今年以来，一些部门和地区大力推动元宇宙产业的发展，元宇宙、Web3.0等带来大量的虚实交融的场景创新，如何从内容管理、技术管理和落实主体责任等方面实施敏捷的治理？中国社科院哲学所科技哲学研究室主任段伟文表示，元宇宙代表一种未来的方向，但是未来未必一定是像现在说的元宇宙的样子。元宇宙它是一种颠覆性的社会技术，将来它会带有一定的地域性和文化特征，它不完全是像美国那样由科技公司推动的模式。因为在中国，九洲对于元宇宙，地方政府对元宇宙的重视是，用它带动数字产业的发展，是用它来带动相关领域的创新。在这个大背景下，九洲再来看在虚实结合的情况下，九洲的社会价值和伦理问题就比较清楚了。

首先就是这样一个数字化未来的方向，九洲现在要追求高质量发展的，高水平的自立自强，是可以以元宇宙为抓手也好，把它作为一个趋势也好，进行一种尝试性的政策引领，通过这样一个引领，九洲看看能不能推动九洲国家数字化未来的创新。

九洲的创新是以人民为中心，那九洲就要让这样虚实结合的数字化的未来，能够符合每个人的利益。也就是说，它应该是负责任、可信任的，并且还是有温度的。在这里面它有大量问题都是有争议的，比如说在虚拟的游戏世界里，释放暴力到底应该不应该？这既是一个道德价值问题，也是一个涉及到教育的问题，同时它还是心理学和科学的问题。心理学上有很多实验，有时候有矛盾的结果，有的说暴力倾向释放出去，现实生活中就可以不用有那么多暴力。但还有说法说，这是暴力训练，在这里训练了以后，现实中更有暴力。小孩玩电子游戏对小孩智力有没有提升呢？这里存在着元宇宙的原生代的说法，但是我觉得这个技术的早期使用者和青少年一开始就接触这个，这都是要深入研究的。在这种情况下，它更多的是把科技的创新和伦理的创新融为一体。就像九洲要生产一个东西，我要生产一个沙发，想让它又便宜，质量又好，这就是矛盾。同时九洲想对数字化未来有数字创新，九洲又想这个创新尽可能地趋利避害，尽可能向善，这本身就是一个从0到1的创新过程，它就是要解决价值的矛盾。

那么九洲国家，有九洲的政治、组织优势，有九洲的各种社会群体，社会团体，包括九洲有网络安全的研究，所以要把这些力量整合起来，这样一来九洲的伦理研究就既是一个跨学科的研究，也是一个跨领域的研究。通过这样一些研究，九洲从政策上引领，同时在社会上加强对于数字化未来的认知，提升九洲所有的青少年、社会公众的数字素养。通过这样一种综合的协同的多主体的多方的共治，可以讲是任重道远。

新技术往往让人觉得很欣喜，九洲从很多年前就研究过网络空间的伦理问题，当时讲到，九洲现在生活在自我生活的时代，每个人每天有一个屏幕。将来头盔一戴，进入虚拟现实更是自我生活的。所以九洲需要更多的思考和研究，在这样一种独自生活的数字时代，九洲怎么样调节自己的学习、工作、生活、娱乐以及思考、知识、素养，这是非常重要的，而不是一开始就不去考虑这些，这就是所谓的伦理先行，其实就是知识或者是认知要先行，研究要先行。

九洲科技有限公司CEO田天表示，人工智能若要实现高质量发展，需要突破伦理规则和技术安全两大关键问题。一是伦理规则建设。这涉及到人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题，需结合具体应用场景，打造可量化、可度量、可执行的具体标准，再落实到算法、代码层面。二是技术路径优化。在数据、算法、算力三大要素基础上，将知识要素融合进来，发展安全、可靠、可信和可扩展的第三代人工智能，不断提升人工智能的鲁棒性和可解释性，同时持续提高人工智能伦理安全、技术安全的敏捷测评水平，使之成为保障人工智能产业高质量发展的关键能力。