Chapter 7
Section § 20510
Section § 20511
이 조항은 캘리포니아가 선거에서 생성형 인공지능(AI) 사용으로 직면한 과제를 강조합니다. AI 기반 허위 정보가 대중을 오도하는 가짜 이미지, 오디오, 비디오를 생성하고 확산시켜 유권자의 신뢰를 심각하게 훼손할 수 있음을 인정합니다. 예를 들어, 사람들은 후보자나 공무원이 하지 않은 행동을 하는 조작된 이미지에 속을 수 있습니다.
본문은 특히 2024년 대통령 선거를 앞두고 딥페이크(현실적인 가짜 비디오 또는 녹음)를 중대한 위협으로 명시합니다. 이러한 딥페이크는 오해의 소지가 있는 콘텐츠를 빠르고 광범위하게 퍼뜨려 선거 결과를 왜곡할 수 있습니다. 이를 막기 위해 법은 인공 콘텐츠에 대한 명확한 라벨링을 요구하여 소비자에게 그 비진정성을 알리고 기만을 줄이도록 합니다.
궁극적인 목표는 선거가 자유롭고 공정하게 유지되도록 보장하는 것이며, 캘리포니아의 선거 과정을 보호하기 위해 허위 정보에 대처하는 것의 중요성을 강조합니다.
Section § 20512
이 조항은 캘리포니아 선거법의 맥락에서 주요 용어들을 정의합니다. "광고"는 선거 후보자를 지지하거나 반대하기 위한 공개 통신, 특히 유료 통신을 의미합니다. "방송국"은 라디오, TV, 스트리밍 서비스와 같은 다양한 유형의 미디어 매체를 포함합니다. "후보자"라는 용어는 대통령을 포함한 특정 공직에 출마하는 사람들을 포괄합니다. "딥페이크"는 거짓으로 진짜처럼 보이는 조작된 미디어를 나타냅니다. "선거 통신"은 광고를 제외하고 선거와 관련된 일반적인 공개 통신을 다룹니다. "캘리포니아 선거"는 특정 후보자 또는 주 전체 안건이 포함된 선거를 의미합니다. "선거 관리 공무원"은 국무장관과 같은 특정 정부 개인으로 정의됩니다. "대규모 온라인 플랫폼"은 1년 동안 캘리포니아에서 백만 명 이상의 사용자를 보유한 디지털 애플리케이션을 포함합니다. 마지막으로, "실질적으로 기만적인 콘텐츠"는 합리적인 사람을 오도하는 심하게 변경된 미디어를 포함하며, 경미한 조정은 제외됩니다.
Section § 20513
이 법은 대규모 온라인 플랫폼이 후보자에게 해를 끼치거나 선거에 대한 신뢰를 훼손할 수 있는 허위, 오해의 소지가 있는 콘텐츠를 식별하고 제거하도록 요구합니다. 구체적으로, 콘텐츠가 후보자, 선거 또는 선출직 공무원이 사실이 아닌 행동을 하거나 발언을 하는 것으로 묘사하여 명성이나 선거 신뢰를 손상시킬 수 있는 경우, 해당 콘텐츠는 보고된 후 72시간 이내에 삭제되어야 합니다. 플랫폼은 이러한 콘텐츠를 식별하기 위해 고급 기술을 사용해야 하며, 동일하거나 유사한 콘텐츠도 제거해야 합니다.
투명성을 보장하기 위해, 후보자가 자신을 조작한 미디어를 사용하는 경우, 선거 기간 동안 이를 명확하게 공개해야 합니다. 이 규정은 캘리포니아 선거 120일 전부터 선거일까지 적용되며, 콘텐츠가 선거 관리 공무원과 관련된 경우에는 그보다 약간 더 긴 기간 동안 적용됩니다.
Section § 20514
이 법은 대규모 온라인 플랫폼이 선거에 영향을 미칠 수 있는 오해의 소지가 있는 콘텐츠를 식별하고 라벨을 부착하도록 요구합니다. 플랫폼은 보고된 경우, 특히 광고나 선거 관련 통신으로 나타나는 경우, 위조되거나 변조된 게시물을 찾아 라벨을 부착하기 위해 첨단 기술을 사용해야 합니다. 해당 콘텐츠가 식별되면, 플랫폼은 "이 비디오는 조작되었으며 원본이 아닙니다."와 같은 명확한 메시지로 72시간 이내에 라벨을 부착해야 합니다. 이 라벨은 사용자가 더 많은 정보를 얻기 위해 클릭할 수 있도록 허용해야 합니다. 이 법은 선거 전후의 특정 기간 동안 적용되며, 특히 콘텐츠가 투표 용지나 투표 기계와 같은 선거 관련 항목을 포함하는 경우에 해당합니다.
Section § 20515
이 법은 대규모 온라인 플랫폼이 캘리포니아 주민들이 삭제되거나 라벨링될 필요가 있는 콘텐츠를 쉽게 신고할 수 있도록 요구합니다. 신고가 접수되면, 플랫폼은 36시간 이내에 신고된 콘텐츠에 대한 조치를 설명하며 응답해야 합니다.
만약 후보자, 선출직 공무원 또는 선거 관리 공무원이 콘텐츠를 신고했는데 36시간 이내에 응답을 받지 못했거나 결과에 동의하지 않는다면, 72시간 이내에 법적 조치를 취할 수 있습니다. 이들은 법원에 플랫폼이 해당 콘텐츠를 삭제하거나 라벨링하도록 강제하거나, 플랫폼이 신고 절차를 따르도록 보장해달라고 요청할 수 있습니다. 법적 조치를 취하는 사람은 플랫폼이 의무를 이행하지 않았다는 강력한 증거를 제시해야 합니다.
Section § 20516
이 법은 법무장관, 지방검사 또는 시 검사가 대규모 온라인 플랫폼이 특정 콘텐츠를 삭제하지 않거나, 올바르게 라벨링하지 않거나, 특정 보고 절차를 따르지 않을 경우 해당 플랫폼에 대해 법적 조치를 취할 수 있도록 허용합니다. 관계 당국은 강력하고 설득력 있는 증거로 플랫폼의 위반을 입증해야 합니다. 이러한 사건들은 법원 절차에서 우선적으로 처리됩니다.
Section § 20517
이 법은 어떤 언어로 되어 있든 상관없이 오해의 소지가 있는 콘텐츠를 대상으로 합니다. 콘텐츠가 영어가 아닌 경우, 필수 고지 및 라벨은 원래 언어와 영어로 모두 표시되어야 합니다.
Section § 20518
이 조항은 대규모 온라인 플랫폼이 실질적으로 기만적이라고 간주되는 콘텐츠를 특정 명시된 기간 외에도 언제든지 차단, 제거 또는 라벨링하도록 허용합니다. 또한, 본 장의 적용을 받지 않는 온라인 플랫폼도 기만적인 콘텐츠에 대해 동일한 조치를 취할 수 있습니다.
Section § 20519
이 법 조항은 온라인 출판물, 방송국, 그리고 풍자 또는 패러디 콘텐츠에 대한 특정 콘텐츠 제한의 예외를 설명합니다. 구체적으로, 정기적으로 발행되는 온라인 신문이나 잡지는 해당 콘텐츠가 실제 사건을 반영하지 않는다는 점을 명확히 공개하는 한, 기만적인 콘텐츠를 게시할 수 있다고 명시합니다. 방송국 또한 해당 콘텐츠가 실제 사건을 나타내지 않는다는 점을 명확히 밝히는 경우 뉴스 형식으로 기만적인 콘텐츠를 방송할 수 있습니다. 특정 요건을 충족하는 유료 광고와 풍자 또는 패러디 콘텐츠가 관련된 경우에도 예외가 있습니다.