2025 年 7 月 26 日，2025 世界人工智能大会暨人工智能全球治理高级别会议开幕，大会以 “智能时代 同球共济” 为主题。Relativity Space 执行董事长兼 CEO、前 Google CEO 埃里克・施密特在与香港科技大学校董会主席沈向洋的 “炉边对话” 中，呼吁中美合作，为 AI 发展设置 “护栏”。
施密特首先比较了中美两国的人工智能大模型，指出中国主要的领先模型都是开源的，甚至开放权重，而美国领先的模型大部分都是闭源的，不开放权重。他更支持开源模式，认为其有助于实现 “全球即时共享创新成果”，但也承认开源存在被有心之人或国家利用，导致负面影响加速扩散的风险。
对此，施密特认为需要在 AI 发展过程中设置 “护栏”，即在大模型的训练中，使其与人类的价值观进行对齐。他表示，AI 非常强大，未来三年左右系统会自行学习和自我改进，需小心其学习内容，防止其学到不好的事情。
从防范风险的角度来看，施密特强调推动中美两国之间合作的重要性。他认为中美有着共同利益，即要让世界稳定和平，确保人类能够控制住 AI 工具。由于目前不清楚技术发展的红线在哪里，中国、美国和其他国家应达成一致，在关键节点展开对话。例如当 AI 自主决定获取武器、自我复制或未经许可学习时，应通过对话引导进程，避免失控。
施密特表示自己是人工智能发展的乐观主义者，相信中美可以通过对话加强互信，共同迎接 AI 带来的机遇与挑战，特别是在防止 AI 负面影响方面进行协作。
评论 ( 0 )