动态观察 | 域外人工智能政策立法跟踪与产业发展动态（11月1日-15日）

首届人工智能安全峰会于11月1日至2日在英国布莱切利园举行，中美欧等28个国家达成了《关于人工智能安全的布莱切利宣言》（Bletchley Declaration on Artificial Intelligence Safety）。这是全球第一份针对人工智能这一快速新兴技术的国际性声明，旨在关注对未来强大人工智能模型构成人类生存威胁的担忧，以及对人工智能当前增强有害或偏见信息的担忧。在闭幕会上，英国首相苏纳克还宣布了人工智能模型测试协议。该协议由澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、美国和英国签署。根据该协议，相关政府将能够在八家科技公司发布新的人工智能模型之前对模型进行安全测试。苏纳克还表示，亚马逊网络服务、Anthropic、谷歌、谷歌DeepMind、Inflection AI、Meta、微软、Mistral AI和Open AI八家科技公司已同意进一步开放访问权限。

刚成立的联合国人工智能咨询小组将于今年底提交一份人工智能初步报告，引导各国政府和私营部门更多地思考人工智能的治理、风险和机遇。

经济合作与发展组织（OECD）通过了人工智能的新定义，“人工智能系统是一种基于机器的系统，针对显性或隐性的目标，根据接收到的输入推断如何生成影响物理或虚拟环境的输出，例如预测、内容、建议或决策。不同的人工智能系统在部署后的自主性和适应性水平各不相同”[1]。该定义很可能被纳入欧盟即将出台的《人工智能法案》之中。

此外，美国与澳大利亚、英国、加拿大、法国、德国、日本、荷兰、新加坡和韩国等45国共同启动实施《关于在军事上负责任地使用人工智能和自主性的政治宣言》（Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy）。

欧盟《人工智能法案》目前处于立法程序的最后阶段。欧盟部长理事会主席国西班牙提出人工智能基础模型治理框架，针对基础模型（Foundation models）、高风险基础模型（High-impact foundation models）和通用人工智能（General Purpose AI）分别设定相关义务，作为《人工智能法案》谈判的一部分。但该治理框架遭到法国、德国和意大利等多个成员国的强烈反对，欧盟《人工智能法案》谈判陷入僵局。此外，欧洲议会正在考虑《人工智能法案》在某些情况下允许有限使用实时远程生物识别（Remote biometric identification）技术。

美国两位参议员提出《联邦人工智能风险管理法案》（The Federal Artificial Intelligence Risk Management Act），要求联邦各机构遵守今年美国国家标准与技术研究院（NIST）制定的人工智能风险管理框架（RMF）安全标准。在美国参议院最近举行的人工智能洞察论坛上，Public Knowledge总裁兼首席执行官克里斯·刘易斯 (Chris Lewis)表示，通过《美国数据隐私和保护法案》（ADPPA）将为人工智能立法奠定坚实基础，建议通过限制数据收集来应对人工智能隐私威胁。

瑞士联邦数据保护和信息专员（FDPIC）发布指令，提醒人工智能模型的使用者，到2024年底现行《数据保护法》（Data Protection Act）仍适用于数据处理活动。并表示联邦委员会可能会针对各种人工智能用途发布特定部门立法。

美国国防部公布2023年《数据、分析和人工智能使用战略》（Data, Analytics and AI Adoption Strategy）。此前，国防部曾发布2018年人工智能战略和2020年数据战略。该战略重点关注加快先进人工智能能力的集成，以保持美国军事人员的卓越决策优势。美国管理和预算办公室(OMB)发布“关于推进对人工智能使用机构的治理、创新和风险管理”（Advancing Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence）的新政策草案。该草案要求在联邦机构任命首席人工智能官（Chief AI Officer），并要求各机构在开发人工智能技术应用程序时应遵循保障措施。美国国土安全部网络安全和基础设施安全局（CISA）发布了首个人工智能路线图，提出五个方面重点工作：一是负责任地使用人工智能来加强网络防御和支持其关键基础设施任务；二是评估和保障人工智能系统；三是保护关键基础设施免遭恶意使用人工智能的影响；四是就关键人工智能工作与机构、国际合作伙伴和公众开展沟通协作；五是增强工作队伍的人工智能专业知识。

德国联邦教育和研究部提出了一项新的人工智能行动计划，承诺在本届政府任期内对人工智能投资16亿欧元，以支持70项人工智能相关的研究、技能和基础设施开发等项目。德国希望在国家和欧洲层面推动人工智能发展，并与美国和中国进行全球竞争。

韩国科学技术信息通讯部（MSIT）通过国科院国家战略技术专门委员会审议并表决了“人工智能、尖端生物技术等未来革新领域的任务导向的战略路线图”，以配合《韩国国家战略技术促进特别法》的全面实施。韩国政府着眼于技术领域之间的联系、融合，以加入全球竞争为目标，提出了到2030年要完成的国家任务和相关的核心技术项目、投资以及政策方向。

根据芝加哥大学哈里斯分校和美联社-NORC公共事务研究中心的一项新民意调查，美国两党对2024年大选期间人工智能引发的虚假信息感到担忧。美国参议院将举办专家论坛，讨论人工智能对选举的影响。印度政府敦促社交媒体平台采取相关措施，积极识别、打击虚假信息和滥用人工智能造成的深度造假内容。

美国副总统哈里斯公布遏制人工智能风险的一系列措施，包括建立新的人工智能安全研究所。目前，美国商务部正在与美国国家标准与技术研究院（NIST）合作组建美国人工智能安全研究所（USAISI）。USAISI的核心使命是领导美国政府在人工智能安全和信任方面的工作，特别是对先进人工智能模型的评估。具体而言，该研究所将负责促进制定人工智能模型安全、保障和测试标准，制定生成式人工智能内容的认证标准，并为研究人员提供测试环境，以评估新兴人工智能风险并解决已知影响。

新加坡信息通信媒体发展局（IMDA）宣布与AI verify基金会共同发布首个生成式人工智能评估沙盒，能够评估可信的人工智能产品，并聚集了全球范围内的主要模型开发商、应用程序开发者与第三方测试机构。沙盒将整理现有常用的技术测试工具，并根据测试目的和方法组织测试，以及推荐一套用于生成人工智能产品的基线评估测试。

Open AI宣布推出GPT-4 Turbo人工智能模型，并宣布用户可以选择创建其ChatGPT聊天机器人的自定义版本。还推出一系列新的应用程序接口（API），包括用于文本到图像生成的DALL-E 3、用于文本到语音转换的音频API和用于提高跨语言性能的自动语音识别模型Whisper large-v3。

微软推出名为“LeMa”的人工智能训练新方法，该方法模仿人类从错误中学习的过程，有利于增强人工智能推理能力。

英伟达发布新的顶级人工智能芯片H200，将超越H100芯片，并计划明年开始向亚马逊、谷歌、甲骨文提供。

法律应用领域，总部位于英国的人工智能公司Luminance展示了世界上第一个完全由人工智能驱动的合同谈判。这是人工智能在法律领域应用进程中的重要里程碑。

智能手机领域，三星推出名为“三星高斯（Samsung Gauss）”的生成式人工智能模型，专为在其设备中实施人工智能而量身定制。此举使三星超越苹果成为智能手机制造商中采用生成式人工智能的潜在先驱。

政府服务领域，微软正在为政府服务推出全面的人工智能计划。该计划包括推出专为政府设计的Azure OpenAI生成工具、分类云工作负载、智能会议摘要和开源大型语言模型，旨在满足政府实体对先进人工智能解决方案日益增长的需求。

战争冲突领域，联合国聘请人工智能公司开发人工智能模型，用于分析巴以冲突的潜在解决方案。

Meta公布有关人工智能政治广告的新政策，将要求政治广告商披露在政治广告中使用第三方人工智能软件的情况，以应对人工智能对政治广告日益增长的影响。

YouTube推出新规则，要求创作者披露是否在视频中使用生成式人工智能，旨在让观众了解人工智能生成的内容。

《纽约时报》反对在人工智能训练数据集（AI training datasets）中使用其受版权保护的内容，并在探索向人工智能公司收取数据使用费用的方法。

[1]经济合作与发展组织（OECD）对人工智能的新定义：An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that [can] influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment