州政府部门和机构生成式人工智能工具
Section § 11549.63
本法律条款承认人工智能(AI),特别是生成式人工智能(GenAI),在政府和社会中的潜在益处和风险。它强调了在公平、透明、隐私和问责制等原则指导下使用人工智能的重要性,以保护公民的权利。法律认识到生成式人工智能可能会无意中传播偏见,因此强调需要解决这些问题,避免在人工智能系统中基于种族、性别和年龄等受保护特征进行歧视。
人工智能使用的透明度,特别是州政府使用人工智能的透明度至关重要,公众有权知道何时与人工智能互动。该法律旨在确保隐私和公民权利的一致性,促进公平和社会正义。它与其他指导方针(如《人工智能权利法案》)保持一致,并呼吁在人工智能治理中采用最佳实践。此外,它鼓励建立公共-私营伙伴关系,以培养和建设人工智能领域的熟练劳动力,并敦促州机构预防欺诈和歧视等风险,建议它们可以制定新规则或澄清现有规则,以安全管理这些技术。
Section § 11549.64
本节定义了本章中与人工智能(AI)相关的关键术语。“人工智能”指的是能够利用输入生成影响环境的输出的基于机器的系统。“生成式人工智能”(GenAI)特指能够根据其训练数据创建逼真内容(如文本、图像、视频和音频)的AI系统。“个人”仅指自然人。最后,“报告”指的是州长行政命令要求提交的特定文件。
Section § 11549.65
这项法律规定,技术部必须根据需要更新报告并酌情咨询专家,以使州政府了解最新发展。紧急服务办公室的任务是分析生成式人工智能(GenAI)可能对加州关键基础设施造成的风险,包括大规模威胁,并且必须与州长分享调查结果,并可能与立法机构分享,提出减轻风险的行动建议。
州机构应探索生成式人工智能(GenAI)如何提高政府运营效率,同时确保符合公共部门政策。此外,州机构的法律团队必须评估生成式人工智能(GenAI)可能如何影响监管问题,并在必要时提出更新建议。
Section § 11549.66
本法律要求加州州机构在使用生成式人工智能 (GenAI) 就政府服务进行沟通时,必须包含特定的通知。
每次沟通都必须清楚表明其是由生成式人工智能 (GenAI) 生成的。对于书面信息,免责声明应根据其形式,在开始时或全程显著出现。对于口头或视频信息,音频通知应在开始和结束时提供,而视频通知则应持续显示。机构还必须提供如何联系人工员工的信息。