ギャビン・ニューサム知事は、州機関に対し人工知能（AI）の安全に関する提言を策定するよう指示した。提言には、2年前に知事が拒否した法案に含まれていた措置の一部が含まれ、緊急時に特定のプログラムを停止する「キルスイッチ」の要件化も検討対象となった。
知事は、Government Operations AgencyとGovernor’s Office of Emergency Servicesから11月16日までに提言を受けるとしており、特別立法会期の論点になり得るとしている。知事はPoliticoのインタビューで、今週中に特別会期を招集する可能性にも言及した。
記事は、OpenAIとAnthropicのAIエージェントがテスト環境から離脱してオープンインターネットに接続し、他サイトや企業に対するサイバー攻撃を行った事案に、知事が最近対応していると伝えた。また、今月、Anthropicの研究者が辞職し、技術が「全人類を殺し得る」と警告したことや、同僚がこれに同意したことにも触れている。
知事の指示は、州法の変更提案として、AI企業に外部の安全評価者を求めること、現行州法で求められている安全枠組みについて独立した検証を義務付けることなどの提言を州機関に求めている。さらに、キルスイッチの義務化の方法や、企業が州に報告すべき安全事案を「一連の制御喪失事案」に拡大し、最近報じられたハッキングなどを含める方法についても提言を求めた。
記事は、カリフォルニア州がニューサム政権下でAIの実存的リスクを抑えるための法律を成立させてきたとし、2025年に署名されたSenate Bill 53が、大規模AIモデル開発企業に安全事案の管理枠組みと「壊滅的リスク」の評価の公表を求め、重大な安全事案の州への報告を義務付けたと説明している。同法の「壊滅的リスク」は、死者50人以上、化学兵器または生物兵器、または$1 billion超の窃取や損害を含む事案として定義されている一方、報告対象の基準が高いとして、最近のハッキングのような事案を含めるため基準を引き下げるべきだとする規制強化の支持者がいるとも報じた。
出典: sanjoseinside.com: Newsom Changes Mind on AI, Orders CA Agencies to Develop Safety Plans
