カリフォルニア州の上院議員スコット・ウィーナーは、AIモデルを開発する企業に対し、安全性やセキュリティのプロトコルを公開させることを求める法案を提出した。この法案は計算性能の一定の基準を超えるAIモデルを対象としており、技術による人類への潜在的なリスクを評価するためのものである。また、AI企業は技術的な詳細の盗難などの「重大な安全事故」を州の司法長官に報告する義務も課される。この提案により、OpenAIやGoogle、Anthropicなどが影響を受ける可能性がある。
この新たな提案は、カリフォルニア州で可決されたもののガバナーのギャビン・ニューサムにより昨年拒否された前の法案に対する再挑戦である。その法案は、技術による重大な被害に対する企業の責任を問う内容だった。今回のSB 53法案には、透明性の要件と重要な安全事故を報告しなかった場合の罰則が含まれているが、前回の法案のような責任追及の規定は含まれていない。
ニューサム知事は前回の法案を拒否した後、先端AIモデルに関する作業グループを設立し、AI研究者のフェイフェイ・リーを含むメンバーに州の政策ガイドラインの策定を依頼した。ウィーナーの新法案SB 53は、この作業グループの最近の報告書に基づく透明性要件を反映している。この修正版法案は今月末にカリフォルニア州議会の委員会で審議される予定である。
出典：Bay Area lawmaker pushes to require AI companies to release safety policies
