本章应被称为《加州人工智能透明度法案》。
Chapter 25
Section § 22757
本节将该法律命名为《加州人工智能透明度法案》，为加州与人工智能透明度相关的法规或指导方针奠定了基础。
加州人工智能透明度法案 人工智能 透明度 人工智能 法规 指导方针 加州立法 人工智能治理 法律框架 人工智能政策 透明度要求 人工智能系统 问责制 技术法 加州法规
Section § 22757.1
本节定义了特定章节中与人工智能（AI）相关的关键术语。它将“AI”描述为一种基于机器的系统，能够通过其输出影响环境。“受涵盖提供者”是指在本州每月拥有超过100万用户的AI系统创建者。“生成式AI系统”是指能够生成文本、图像、视频和音频等内容的人工智能。“潜在的”和“显现的”这两个术语也得到了解释。“元数据”是指关于其他数据的信息，“个人信息”则按照《民法典》中的定义。“个人来源数据”包含与特定用户相关的信息，而“来源数据”则用于验证内容的真实性和历史。“系统来源数据”包括与设备或系统相关的信息，这些信息并非用户特定，但能显示内容的真实性。
本章中使用的术语：
(a)CA 商业与职业 Code § 22757.1(a) “人工智能”或“AI”是指一种工程化或基于机器的系统，其自主程度各异，并且能够为了明确或隐含的目标，根据其接收的输入推断如何生成能够影响物理或虚拟环境的输出。
(b)CA 商业与职业 Code § 22757.1(b) “受涵盖提供者”是指创建、编码或以其他方式生产生成式人工智能系统的人，该系统每月访问者或用户超过1,000,000，并且在本州地理范围内可公开访问。
(c)CA 商业与职业 Code § 22757.1(c) “生成式人工智能系统”或“GenAI系统”是指一种能够生成派生合成内容的人工智能，包括文本、图像、视频和音频，这些内容模仿了系统训练数据的结构和特征。
(d)CA 商业与职业 Code § 22757.1(d) “潜在的”是指存在但未显现的。
(e)CA 商业与职业 Code § 22757.1(e) “显现的”是指自然人容易感知、理解或识别的。
(f)CA 商业与职业 Code § 22757.1(f) “元数据”是指关于数据的结构性或描述性信息。
(g)CA 商业与职业 Code § 22757.1(g) “个人信息”具有《民法典》第1798.140条中定义的相同含义。
(h)CA 商业与职业 Code § 22757.1(h) “个人来源数据”是指包含以下任一信息的来源数据：
(1)CA 商业与职业 Code § 22757.1(h)(1) 个人信息。
(2)CA 商业与职业 Code § 22757.1(h)(2) 合理地能够与特定用户关联的唯一设备、系统或服务信息。
(i)CA 商业与职业 Code § 22757.1(i) “来源数据”是指嵌入到数字内容中，或包含在数字内容的元数据中，用于验证数字内容的真实性、来源或修改历史的数据。
(j)CA 商业与职业 Code § 22757.1(j) “系统来源数据”是指不能合理地与特定用户关联，并包含以下任一信息的来源数据：
(1)CA 商业与职业 Code § 22757.1(j)(1) 关于用于生成数字内容的设备、系统或服务类型的信息。
(2)CA 商业与职业 Code § 22757.1(j)(2) 与内容真实性相关的信息。
人工智能 生成式AI系统 元数据 个人信息 来源数据 内容真实性 受涵盖提供者 数字内容 用户关联信息 训练数据 唯一设备信息 内容来源 系统信息 合成内容 文本 图像 视频 音频
Section § 22757.2
这项法律要求特定提供商向用户提供免费的AI检测工具。该工具应能识别图像、视频或音频等内容是否由提供商的AI系统创建或更改，但不应显示个人数据。该工具必须在线可用，并允许上传内容或提供内容链接。它还应具有接口，以便无需访问提供商网站即可使用。提供商必须收集用户反馈以改进工具，未经同意不得保留用户的个人信息。他们不得保留内容或个人数据超过必要时间，但用户同意为反馈目的保留其联系信息的情况除外。
(a)CA 商业与职业 Code § 22757.2(a) 受涵盖的提供商应免费向用户提供一个符合以下所有标准的AI检测工具：
(1)CA 商业与职业 Code § 22757.2(a)(1) 该工具允许用户评估图像、视频或音频内容，或其任何组合的内容，是否由受涵盖提供商的生成式AI系统创建或更改。
(2)CA 商业与职业 Code § 22757.2(a)(2) 该工具输出在内容中检测到的任何系统来源数据。
(3)CA 商业与职业 Code § 22757.2(a)(3) 该工具不输出在内容中检测到的任何个人来源数据。
(4)Copy CA 商业与职业 Code § 22757.2(a)(4)
(A)Copy CA 商业与职业 Code § 22757.2(a)(4)(A) 在符合分段 (B) 的前提下，该工具应公开可访问。
(B)CA 商业与职业 Code § 22757.2(a)(4)(A)(B) 受涵盖的提供商可以对该工具的访问施加合理的限制，以预防或应对对其生成式AI系统安全性或完整性造成的可证明风险。
(5)CA 商业与职业 Code § 22757.2(a)(5) 该工具允许用户上传内容或提供链接到在线内容的统一资源定位符 (URL)。
(6)CA 商业与职业 Code § 22757.2(a)(6) 该工具支持应用程序编程接口，允许用户无需访问受涵盖提供商的互联网网站即可调用该工具。
(b)CA 商业与职业 Code § 22757.2(b) 受涵盖的提供商应收集与该提供商AI检测工具效用相关的用户反馈，并将相关反馈纳入任何旨在提高该工具效用的尝试中。
(c)CA 商业与职业 Code § 22757.2(c) 受涵盖的提供商不得进行以下任何操作：
(1)Copy CA 商业与职业 Code § 22757.2(c)(1)
(A)Copy CA 商业与职业 Code § 22757.2(c)(1)(A) 除分段 (B) 另有规定外，收集或保留受涵盖提供商AI检测工具用户的个人信息。
(B)Copy CA 商业与职业 Code § 22757.2(c)(1)(A)(B)
(i)Copy CA 商业与职业 Code § 22757.2(c)(1)(A)(B)(i) 如果用户选择同意被受涵盖提供商联系，则受涵盖的提供商可以收集并保留根据分段 (b) 提交反馈的用户的联系信息。
(ii)CA 商业与职业 Code § 22757.2(c)(1)(A)(B)(i)(ii) 根据子句 (i) 收集的用户信息应仅用于评估和改进受涵盖提供商AI检测工具的效用。
(2)CA 商业与职业 Code § 22757.2(c)(2) 保留提交给AI检测工具的任何内容，时间超过遵守本节规定所需的时间。
(3)CA 商业与职业 Code § 22757.2(c)(3) 保留用户提交给AI检测工具的内容中的任何个人来源数据。
AI检测工具 图像内容 视频内容 音频内容 生成式AI系统 系统来源数据 个人来源数据 公开可访问 安全风险 上传内容 API支持 用户反馈 个人信息保留 选择同意联系 内容保留
Section § 22757.3
这项法律要求使用生成式人工智能（GenAI）系统创建或修改数字内容（如图像、视频或音频）的公司，必须明确披露该内容是由人工智能生成的。这些披露必须显而易见且难以移除。内容中应包含公司名称、AI系统详情和创建日期等信息，并且必须能被AI检测工具识别。如果此类系统被许可给其他人使用，公司必须确保被许可的系统仍能适当地标记内容。如果被许可方更改系统使其无法标记内容，公司必须在96小时内取消许可，且被许可方必须停止使用该系统。
(a)CA 商业与职业 Code § 22757.3(a) 受涵盖的提供商应向用户提供选项，允许其在由受涵盖的提供商的生成式人工智能（GenAI）系统创建或修改的图像、视频或音频内容，或其任意组合的内容中，包含一份显性披露，该披露须符合以下所有标准：
(1)CA 商业与职业 Code § 22757.3(a)(1) 该披露将内容标识为人工智能生成内容。
(2)CA 商业与职业 Code § 22757.3(a)(2) 该披露清晰、醒目、适合内容媒介，且普通人可理解。
(3)CA 商业与职业 Code § 22757.3(a)(3) 在技术可行的情况下，该披露是永久性的或极难移除的。
(b)CA 商业与职业 Code § 22757.3(b) 受涵盖的提供商应在由受涵盖的提供商的GenAI系统创建的人工智能生成图像、视频或音频内容，或其任意组合的内容中，包含一份隐性披露，该披露须符合以下所有标准：
(1)CA 商业与职业 Code § 22757.3(b)(1) 在技术可行且合理的情况下，该披露应直接或通过指向永久互联网网站的链接，传达以下所有信息：
(A)CA 商业与职业 Code § 22757.3(b)(1)(A) 受涵盖的提供商的名称。
(B)CA 商业与职业 Code § 22757.3(b)(1)(B) 创建或修改该内容的GenAI系统的名称和版本号。
(C)CA 商业与职业 Code § 22757.3(b)(1)(C) 内容创建或修改的时间和日期。
(D)CA 商业与职业 Code § 22757.3(b)(1)(D) 唯一标识符。
(2)CA 商业与职业 Code § 22757.3(b)(2) 该披露可由受涵盖的提供商的人工智能检测工具检测到。
(3)CA 商业与职业 Code § 22757.3(b)(3) 该披露符合广泛接受的行业标准。
(4)CA 商业与职业 Code § 22757.3(b)(4) 在技术可行的情况下，该披露是永久性的或极难移除的。
(c)Copy CA 商业与职业 Code § 22757.3(c)
(1)Copy CA 商业与职业 Code § 22757.3(c)(1) 如果受涵盖的提供商将其GenAI系统许可给第三方，受涵盖的提供商应通过合同要求被许可方保持该系统在创建或修改内容时包含(b)款所要求披露的能力。
(2)CA 商业与职业 Code § 22757.3(c)(2) 如果受涵盖的提供商知晓第三方被许可方修改了被许可的GenAI系统，使其不再能够在系统创建或修改的内容中包含(b)款所要求的披露，受涵盖的提供商应在发现被许可方行为后的96小时内撤销该许可。
(3)CA 商业与职业 Code § 22757.3(c)(3) 第三方被许可方在系统许可被受涵盖的提供商根据(2)款撤销后，应停止使用该被许可的GenAI系统。
人工智能生成内容 显性披露 隐性披露 生成式人工智能系统 人工智能检测工具 第三方被许可方 内容创建日期 许可撤销 内容修改 唯一标识符 行业标准 用户选项 修改后的内容 被许可方义务 内容标记
Section § 22757.4
如果一家公司违反了本节的规定，他们每天违规可被罚款5,000美元。这些罚款可以通过地方或州法律机构提起的诉讼来实施。如果有人起诉该公司并胜诉，他们可以获得律师费和诉讼费的补偿。此外，如果第三方承包商违反了规定的特定部分，当局也可以提起诉讼来制止他们并追回法律费用。
(a)Copy CA 商业与职业 Code § 22757.4(a)
(1)Copy CA 商业与职业 Code § 22757.4(a)(1) 违反本章规定的受涵盖提供者，应承担每次违规五千美元（$5,000）的民事罚款，该罚款将通过总检察长、市检察官或县法律顾问提起的民事诉讼收取。
(2)CA 商业与职业 Code § 22757.4(a)(2) 根据本款提起的诉讼中，胜诉的原告有权获得所有合理的律师费用和开支。
(b)CA 商业与职业 Code § 22757.4(b) 受涵盖提供者违反本章规定的每一天，应被视为一次独立的违规行为。
(c)CA 商业与职业 Code § 22757.4(c) 对于第三方被许可人违反第22757.3条 (c) 款 (3) 项规定的行为，总检察长、县法律顾问或市检察官可提起民事诉讼，旨在实现以下两项：
(1)CA 商业与职业 Code § 22757.4(c)(1) 禁令救济。
(2)CA 商业与职业 Code § 22757.4(c)(2) 合理的律师费用和开支。
民事罚款 违规 总检察长 市检察官 县法律顾问 独立违规行为 第三方被许可人 禁令救济 合理律师费 合理律师开支
