Section § 11549.63

Explanation

本法律条款承认人工智能(AI),特别是生成式人工智能(GenAI),在政府和社会中的潜在益处和风险。它强调了在公平、透明、隐私和问责制等原则指导下使用人工智能的重要性,以保护公民的权利。法律认识到生成式人工智能可能会无意中传播偏见,因此强调需要解决这些问题,避免在人工智能系统中基于种族、性别和年龄等受保护特征进行歧视。

人工智能使用的透明度,特别是州政府使用人工智能的透明度至关重要,公众有权知道何时与人工智能互动。该法律旨在确保隐私和公民权利的一致性,促进公平和社会正义。它与其他指导方针(如《人工智能权利法案》)保持一致,并呼吁在人工智能治理中采用最佳实践。此外,它鼓励建立公共-私营伙伴关系,以培养和建设人工智能领域的熟练劳动力,并敦促州机构预防欺诈和歧视等风险,建议它们可以制定新规则或澄清现有规则,以安全管理这些技术。

立法机关发现并宣布以下各项:
(a)CA 政府 Code § 11549.63(a) 立法机关认识到人工智能 (AI) 在改善公民生活和政府运作方面的巨大潜力。然而,立法机关也认识到,人工智能的使用必须遵循公平、透明、隐私和问责制原则,以确保所有加州居民在人工智能时代下的权利和机会受到保护。
(b)CA 政府 Code § 11549.63(b) 立法机关进一步认识到,生成式人工智能 (GenAI) 凭借其独特的能力,实现了重大的有益应用,但与传统人工智能相比,生成式人工智能在民主和法律程序、偏见和公平、公共卫生和安全以及经济等关键领域带来了新的风险,需要采取措施解决政府系统防护不足以及该技术可能产生的意外或新兴有害影响。此外,由于人类社会固有的显性和隐性偏见,生成式人工智能在从输入数据中学习时有能力放大这些偏见。因此,对于所有生成式人工智能的输入、输出和产品,必须考虑其对加州居民在不同地区、收入、种族、民族、性别、年龄、宗教、能力和性取向等类别方面的影响,以便优先实施可能促进公平的方案,并防范偏见和其他负面影响。
(c)CA 政府 Code § 11549.63(c) 在人工智能系统的设计、开发、部署或使用中,不得基于种族、性别、年龄、宗教、性取向或任何其他受保护特征对任何个人或群体进行歧视。生成式人工智能技术前所未有的创新和部署速度,要求采取积极的防护措施,以防范潜在风险或恶意使用,包括但不限于生物恐怖主义、网络攻击、虚假信息、欺骗、侵犯隐私以及歧视或偏见。
(d)CA 政府 Code § 11549.63(d) 立法机关申明生成式人工智能系统使用透明度的重要性。公众有权知道何时与州政府使用的生成式人工智能进行互动,并有权获得该互动的可识别信息。
(e)CA 政府 Code § 11549.63(e) 立法机关认识到,生成式人工智能系统的使用必须符合隐私和公民自由的保护,并必须以对公平和社会正义的承诺为指导。立法机关颁布本立法的意图是,所有生成式人工智能系统都应以符合州和联邦关于隐私和公民自由的法律法规的方式进行设计和部署,并最大限度地减少偏见,促进所有加州居民的公平结果。
(f)CA 政府 Code § 11549.63(f) 本法案,以及2022年白宫《人工智能权利法案蓝图》、州长的行政指导、法定或监管要求以及不断发展的最佳实践,应指导州机构、部门和下属单位在审查、采纳、管理、治理和规范自动化决策技术方面的决策。
(g)CA 政府 Code § 11549.63(g) 应建立公共-私营跨部门伙伴关系,以培训学生满足州生成式人工智能劳动力发展需求,包括提供人工智能及相关伦理、隐私和安全考虑方面的指导,同时推进最佳实践研究。此外,州政府需要为某些州政府职位招聘、留住和培训生成式人工智能专业人员,各机构应合作促进人才输送和基础设施建设以实现该目标。
(h)CA 政府 Code § 11549.63(h) 州机构、部门和委员会应利用其权力保护消费者、患者、乘客和学生免受欺诈、歧视和隐私威胁,并解决可能因使用生成式人工智能而产生的其他风险,包括金融稳定风险。州机构、部门和委员会应考虑制定规则,并强调或澄清现有法规和指南是否适用于生成式人工智能或其他自动化决策系统。

Section § 11549.64

Explanation

本节定义了本章中与人工智能(AI)相关的关键术语。“人工智能”指的是能够利用输入生成影响环境的输出的基于机器的系统。“生成式人工智能”(GenAI)特指能够根据其训练数据创建逼真内容(如文本、图像、视频和音频)的AI系统。“个人”仅指自然人。最后,“报告”指的是州长行政命令要求提交的特定文件。

本章中使用的术语:
(a)CA 政府 Code § 11549.64(a) “人工智能”是指一种工程化或基于机器的系统,其自主程度各异,并能为实现明确或隐含的目标,从其接收的输入中推断出如何生成能够影响物理或虚拟环境的输出。
(b)CA 政府 Code § 11549.64(b) “生成式人工智能”或“GenAI”是指一种人工智能系统,能够生成派生的合成内容,包括模仿系统训练数据结构和特征的文本、图像、视频和音频。
(c)CA 政府 Code § 11549.64(c) “个人”是指自然人。
(d)CA 政府 Code § 11549.64(d) “报告”是指第N-12-23号行政命令要求提交给州长的报告。

Section § 11549.65

Explanation

这项法律规定,技术部必须根据需要更新报告并酌情咨询专家,以使州政府了解最新发展。紧急服务办公室的任务是分析生成式人工智能(GenAI)可能对加州关键基础设施造成的风险,包括大规模威胁,并且必须与州长分享调查结果,并可能与立法机构分享,提出减轻风险的行动建议。

州机构应探索生成式人工智能(GenAI)如何提高政府运营效率,同时确保符合公共部门政策。此外,州机构的法律团队必须评估生成式人工智能(GenAI)可能如何影响监管问题,并在必要时提出更新建议。

(a)CA 政府 Code § 11549.65(a) 技术部应在政府运营局、数据与创新办公室以及人力资源部的指导下,根据需要更新报告,以应对重大发展,并应酌情咨询学术界、行业专家以及代表州专属雇员代表的组织。
(b)Copy CA 政府 Code § 11549.65(b)
(1)Copy CA 政府 Code § 11549.65(b)(1) 紧急服务办公室应酌情对使用生成式人工智能(GenAI)可能对加州关键基础设施造成的潜在威胁进行风险分析,包括可能导致大规模伤亡事件的威胁。
(2)CA 政府 Code § 11549.65(b)(2) 第(1)款要求的分析应提交给州长,如果适当,应包括反映人工智能技术、其应用和风险管理变化的建议,包括进一步的私人行动、行政行动以及与立法机构的合作,以防范潜在威胁和脆弱性。
(3)CA 政府 Code § 11549.65(b)(3) 第(1)款要求的分析的高级别摘要应每年提交给立法机构。
(c)CA 政府 Code § 11549.65(c) 任何州机构或部门均应考虑采购和企业使用机会,在这些机会中,生成式人工智能(GenAI)可以提高政府运营的效率、效力、可及性和公平性,并符合政府运营局、总务部和技术部关于公共部门生成式人工智能(GenAI)采购的政策。
(d)CA 政府 Code § 11549.65(d) 任何州机构或部门的法律顾问均应考虑生成式人工智能(GenAI)对其各自机构或部门权限下的监管问题的任何潜在影响,并酌情建议因这项不断发展的技术而进行的必要更新。

Section § 11549.66

Explanation

本法律要求加州州机构在使用生成式人工智能 (GenAI) 就政府服务进行沟通时,必须包含特定的通知。

每次沟通都必须清楚表明其是由生成式人工智能 (GenAI) 生成的。对于书面信息,免责声明应根据其形式,在开始时或全程显著出现。对于口头或视频信息,音频通知应在开始和结束时提供,而视频通知则应持续显示。机构还必须提供如何联系人工员工的信息。

州机构或部门在使用生成式人工智能 (GenAI) 直接与个人沟通政府服务和福利时,应当确保这些沟通包含以下两项内容:
(a)CA 政府 Code § 11549.66(a) 一份免责声明,告知该个人该沟通是由生成式人工智能 (GenAI) 生成的。
(1)CA 政府 Code § 11549.66(a)(1) 对于涉及实体和数字媒体的书面沟通,包括信函、电子邮件和其他偶尔的信息,免责声明应当在每次沟通的开始显著出现。
(2)CA 政府 Code § 11549.66(a)(2) 对于涉及持续在线互动(包括与聊天机器人的互动)的书面沟通,免责声明应当在整个互动过程中显著显示。
(3)CA 政府 Code § 11549.66(a)(3) 对于音频沟通,免责声明应当在互动开始和结束时口头提供。
(4)CA 政府 Code § 11549.66(a)(4) 对于视频沟通,免责声明应当在整个互动过程中显著显示。
(b)CA 政府 Code § 11549.66(b) 信息,或包含信息的互联网网站链接,说明该个人如何联系州机构或部门的人工员工。