2023年11月9日,美国国务院发布《2024—2025财年AI战略:通过负责任的AI赋能外交》(EAIS),这是美国国务院第一份全面迎接AI时代的到来提出的应用指导性文件。为负责任地、安全地利用AI来推进美国外交工作,该战略文件确定了4个目标:
(1)利用安全的AI基础设施;
(2)培育拥抱AI技术的文化;
(3)确保负责任地应用AI;
(4)创新改革。
目标1:利用安全的AI基础设施
将AI技术集成到可持续和安全的AI使能基础设施中,以便在整个国务院构建和扩展各种AI应用。
目标1.1:实现AI技术集成
为构建和扩展各种AI技术,国务院将把有影响力的AI技术整合到可持续的、AI基础设施中,并把安全作为重中之重。国务院将努力提供与用户能力相称的AI功能,并将开源、商业可用和定制的AI系统结合起来。符合“零信任”原则的强大访问控制和身份验证机制将降低未经授权访问AI技术和部门数据的风险,以保障安全。
目标1.2:利用基础设施大规模应用AI
国务院将依靠强大的技术基础设施,进一步实现AI技术的计算、开发、测试、部署和持续监控,同时保护部门的数据和安全。通过利用信息资源管理局(IRM)的资源以及与信息技术执行委员会(ITEC)的整合,国务院将设计并实施辅助技术架构,以便将AI组件集成到现有的基础设施和数据管道中。为满足AI开发的计算需求,基础设施将利用云解决方案和可扩展的基础设施服务,并依靠数据加密机制、强大的网络安全、多因素身份验证和定期数据备份等方面的专业知识以保护其数据安全。
目标1.3:实现采购AI工具的现代化
国务院的IT采购部门将与首席数据和AI官(CDAO)、负责的AI官(RAIO)、首席创新官(CIO)及其他人员合作,根据适用的法律法规,努力简化优先AI技术的审批和采购,以满足国务院潜在用例的需求。这包括审查信息技术采购管道,以提高效率,同时保持联邦风险与授权管理项目(FedRAMP)、信息技术变更控制委员会(ITCCB)、操作授权(ATO)流程和其他审批机制提供的保障,并遵循联邦相关准则。为了对投资机会进行优先排序,国务院将利用首席数据和AI官等关键部门的协调和发布的FedRAMP框架,确定AI可产生最大影响的用例,并在采购之前,根据安全协议和风险评估流程对AI技术进行评估。国务院的采购和开源审批流程将得到进一步发展,以实现AI部署的灵活性和简化,国务院将评估供应商的要求并为部门合同制定新措辞,这将确保合作伙伴在安全、风险管理和透明度方面与国务院达到相同的标准,并将这些要求写入合同中。
目标2:培养拥抱AI技术的文化
通过培训、持续学习的文化以及以维护最高级别的数据和科学完整性的方式使用急需的AI技能,增强员工队伍的能力,满足他们对AI的不同需求。
目标2.1:提供AI培训和辅助服务
国务院将提供专门的AI学习机会,以满足其员工队伍的不同需求,提高AI素养,鼓励和教育负责任地使用AI,并确保用户能够充分降低AI工具相关的风险。随着AI被整合到部门基础设施和现有技术平台中,员工必须了解这些技术是什么,以及如何安全地使用和应用。国务院将在美国外交学院(FSI)的领导下,通过开展多层次的培训,提高技术和非技术用户对AI工具的熟练程度。为进一步支持用户,国务院将开发针对具体技术的资源,以帮助识别、探索和解释AI,并促进会议交流。国务院将召集实践社区,分享AI资源、使用案例和最佳做法,并制定与AI技术配套的具体影响指标,为使用的预期效益确定参数。
目标2.2:为AI人才开发新机会
国务院将招聘和雇用AI专业人才,特别是那些了解AI技术、科技、原则和道德规范的人才,他们将在部门采用负责任的AI过程中发挥关键作用。国务院将首席数据和AI官的指导下,在成功聘用一批数据科学从业人员的基础上再接再厉,并通过开发新的AI重点的岗位(如数据科学家、运营研究员和IT专家),以及部署支持、吸引和留住AI人才的计划,为技术从业人员提供新的机会。
目标2.3:促进负责任地使用AI
在使用AI的早期阶段,国务院必须在确保负责任的AI实践(包括通过尊重和促进安全、隐私、公平和其他核心原则)的同时,抓住机遇。就像企业数据战略(EDS)旨在培养数据文化一样,国务院将在整个机构内渗透关于负责任地使用AI的价值观,包括维护数据和科学的完整性。国务院将通过培训员工何时以及如何有效、安全、合法地使用AI工具,将负责任地使用AI工具常规化。通过开发跨学科培训课程,使员工掌握AI风险和风险缓解技术的基本知识,以增强有效使用AI的能力,维护数据和科学的完整性,同时也认识到伴随每个AI应用的可接受风险水平。此外,通过遵守适用法律以及AI治理和政策指南,最大限度地降低AI的使用风险。
目标3:确保负责任地应用AI
确保可信和合乎道德地使用AI;确保数据隐私和安全,管理算法风险;减少伤害、偏见和不公平;评估数据质量,同时提供适当的AI数据的访问权限,为决策和操作提供信息。
目标3.1:建立和维护AI管理和政策
通过机构数据和AI委员会(EDAC)、AI指导委员会(AISC)和数据治理网络,监督和管理风险,遵守主要指令(如行政命令)中规定的原则、指导方针、工具和做法,并制定其他政策,以确保应用AI符合法律和政策,以及负责任和合乎道德的使用标准。国务院的首席数据和AI官将支持和协调AI政策的建立和维护,这些政策将为负责任地使用AI、管理AI模型提供了明确的指导方针,并优先评估和管理AI应用程序在其整个生命周期中的算法风险,包括与记录保留、隐私、网络安全等相关的风险。这一承诺涉及许多数据科学学科,如数据收集、提取、转换和加载;生产中的模型选择、开发、部署和监控;以及统计方法等。针对系统维护、重新校准和停止使用的AI合规计划和协议将防止意外的偏差和功能。国务院将为开发和采购制定安全AI的最低风险管理措施。根据首席数据和AI官的指示,负责的AI官将定义安全的AI用例。国务院将定期进行安全和可信度评估和内部审计以管理风险,包括单独的风险和由于人类用户造成的风险,并应对威胁、以减少偏见和保护数据。国务院制定的政策和指导方针将考虑到数据的安全性和隐私性,并确保对新的AI用例进行法律和政策审查的程序清晰且透明。
目标3.2:通过中介适当获取AI数据
国务院将简化并确保适当访问内部、机构间和第三方数据,以便以透明的方式获取AI数据。在适当的情况下,Data.State平台将根据法律和保护措施提供相关企业的数据访问。必要时将适用保障措施、协议和数据管理标准,此外还将适用数据共享协议,这些协议反映了国务院在其技术平台中以及与供应商之间的数据使用政策。
目标3.3:保证数据质量
高质量的数据集是指不存在不完整、不一致或不正确数据的数据集,同时也是有据可查、有条理和安全的数据集。国务院将通过在AI用例层面实施对用户公开的强大数据清理和质量保证、评估和监控流程,保持可靠、高质量的数据,使其适合AI的使用、开发、运行和评估。国务院将开发和实施数据质量评估工具和监测流程,其结果将对用户公开。还将对其他AI平台的数据输出进行评估,以最大限度地降低风险。
目标4:创新改革
确定、试验和推广一系列成功的解决方案,通过应用AI成为部门流程的积极创新者,同时与部门外负责任的AI创新者建立合作伙伴关系,以巩固成功。
目标4.1:发现机遇
国务院将利用AI推进美国外交工作,以创业的方式磨练其识别AI机遇的能力。国务院将在各大会议论坛上确定潜在的AI用例,并帮助员工确定AI技术的应用。国务院将利用数据运动以及数据治理网络、实践社区、各局的AI论坛、会议、创新渠道、AI培训课程、各局首席数据官以及其他渠道来寻找AI机遇。依靠公共外交和公共事务专业人员、美国外交学院(FSI)、首席人工智能官(CAIO)理事会、校友网络、行业协会、私营技术领导者以及与领先的AI供应商建立的战略伙伴关系。最后,实施一项新的部门AI资助战略,以推动优先考虑的AI用例,并提供充足的资源。
目标4.2:促进负责任的试验
负责任的创业试验将确保国务院在采用AI方面取得长期和具有成本效益的成功。国务院将利用共享资源,包括技术专家的专业知识,并寻求新的资金,以建立一个创新沙盒环境,让来自各地的从业人员都可以将其想法付诸实践。在这些沙盒中,国务院将进行低风险试验,利用安全可控的数据测试新的AI工具,并为部署建立经验案例。为加快AI技术的使用,国务院将提供集中访问共享AI用例、模型、数据集和应用程序的途径,以整合专业知识,有效评估进展,避免重复,并找出能力差距。根据首席数据和AI官的授权,负责的AI官将监督现有AI用例清单的维护工作,该清单将以通俗易懂的语言加以强化,以告知用户正在使用的AI技术、目的和相关风险水平,并为开发人员提供可用的示例模型。
目标4.3:复制成功模式
随着国务院部门人员对AI用例的试验和识别,某些用例将被证明具有广泛价值,值得在更大的范围内复制。国务院将强调与机构间首席数据和AI官、负责的AI官和首席创新官、从事应用AI工作的机构以及学术界、工业界和外交界负责任的AI从业人员网络的合作,以传播最佳实践并推广成功经验。合作伙伴关系将成为AI创新的前沿。通过制定明确的评估准则,要求在扩大规模之前对AI系统进行测试,以确保其功能准确、安全、可靠,然后才能在生产环境中启用AI功能,并获取部门数据,AI系统的输出将遵循联邦政府的透明度准则。
展望未来
要在整个国务院加强对AI的使用,需要广泛的协调、领导层和工作层的配合、财政和技术支持、训练有素的员工队伍、彻底有效的法律和政策审查流程,以及部门数据和AI文化的转变,以创造本战略中概述的可持续性变革。作为国务院的AI管理机构,AI指导委员会其成员包括首席数据和AI官、负责的AI官、副法律顾问、负责隐私的高级机构官员及其他人员将监督本战略的实施,并定期向机构数据和AI委员会和负责管理与资源的副国务卿(D-MR)报告进展情况。机构数据和AI委员会将提供战略指导,并监督与负责任地开发、部署、获取和使用AI相关的政策制定。AI指导委员会、负责的AI官、管理战略与解决方案办公室(M/SS)和信息资源管理局将支持利益相关者的持续参与,并向国务院领导层倡导安全、负责任地使用AI。
为了在整个部门有效地采用AI,必须完成本战略中规定的目标。首席数据和AI官在战略实施过程中的领导作用将确保协调工作,为负责任的AI开发、部署和使用奠定坚实的基础。定期审查本战略实施的进展将在与AI指导委员会和机构数据和AI委员会的定期报告审查中进行,并制定和报告国务院关于数据信息外交的机构优先目标(APG)。国务院将评估该战略的进展和成就,为AI战略的未来迭代或未来数年类似的战略计划提供信息。