トランプ政権は金曜日、全ての米政府機関に対し、Anthropicの人工知能（AI）技術の使用を停止するよう命じ、その他の主要な制裁を課した。これは、AIの安全性に関して政府と同社の間で異例な公の衝突が激化したものだ。ドナルド・トランプ大統領、ピート・ヘグセス国防長官らがソーシャルメディアでAnthropicを非難し、金曜日までに軍がAI技術を無制限に使用することを認めなかったと指摘した。ダリオ・アモデイCEOが自社の製品が保護措置に違反する方法で使用される可能性への懸念から譲歩を拒否したことを受け、彼らは国家安全保障を危険にさらしていると非難した。トランプ大統領はソーシャルメディア上で「我々には必要ない、欲しくない、二度と彼らと取引しない！」と述べた。ヘグセス国防長官はAnthropicを「サプライチェーンリスク」と認定した。
AI安全性巡る政府とAnthropicの対立
Anthropicは金曜日の夜に発表した声明で、これを「前例がなく、法的に不健全な行動であり、アメリカ企業に公に適用されたことはこれまで一度もない」と呼び、異議を唱える意向を示した。同社は、AIチャットボットClaudeがアメリカ国民の大量監視や完全に自律的な兵器に使用されないという狭い範囲での保証をペンタゴンに求めていたと述べた。Anthropicは「国防省からのいかなる威嚇や罰則も、国内の大量監視や完全に自律的な兵器に関する当社の立場を変えることはない」と述べ、「いかなるサプライチェーンリスクの指定に対しても法廷で異議を唱える」とした。政府が企業の内部意思決定を支配しようとするこの動きは、AIの国家安全保障における役割、および高性能な機械が致死的な武力行使、機密情報、政府監視を伴う高リスクな状況でどのように使用されるかという懸念を巡るより広範な対立の中で起きている。
OpenAI、ペンタゴンと契約締結
Anthropicが罰せられた数時間後、競合企業であるOpenAIのサム・アルトマンCEOは金曜日の夜、同社がペンタゴンと機密軍事ネットワークへのAI供給契約を締結したと発表した。アルトマンは、Anthropicとペンタゴンの紛争の争点となった安全原則、すなわち「国内での大量監視の禁止」と「自律兵器システムを含む武力行使における人間の責任」が、OpenAIの新たな提携にも明記されていると述べた。同氏は、国防総省がこれらの原則に同意し、法律と政策に反映させており、契約にもこれらを盛り込んだと付け加えた。アルトマンはまた、ペンタゴンが「全てのAI企業にこれと同じ条件を提供する」ことで「法的・政府的行動から合理的な合意へと事態を沈静化させる」ことを望むと述べた。
政権幹部の反応と市場への波紋
トランプ大統領は、Anthropicがペンタゴンを強要しようとしたのは間違いだったと述べた。同氏はTruth Socialで、ほとんどの機関はAnthropicのAI使用を直ちに停止すべきだが、ペンタゴンには既存の軍事プラットフォームに組み込まれた技術を段階的に廃止するために6ヶ月の期間を与えたと書いた。また、「米国は急進左派の、目覚めた企業が、我々の偉大な軍が戦争を戦い、勝利する方法を指図することを、決して許さない！」と全て大文字で記した。国防総省の報道官ショーン・パーネルは、Anthropicが軍の要求に応じなかったことは「重大な軍事作戦を危険にさらし、潜在的に我々の戦闘員を危険にさらしている」と述べた。バージニア州上院議員のマーク・ワーナーは、この動きと煽動的なレトリックが、「国家安全保障の決定が慎重な分析によって行われているのか、それとも政治的配慮によって行われているのかについて深刻な懸念を提起している」と指摘した。
この紛争はシリコンバレーのAI開発者を驚かせ、ベンチャーキャピタリストや著名なAI科学者、Anthropicの主要ライバルであるOpenAIやGoogleの多数の従業員が、公開書簡やその他のフォーラムでアモデイの立場を支持する声を上げた。イーロン・マスクはトランプ政権側に立ち、「Anthropicは西洋文明を嫌っている」とソーシャルメディアプラットフォームXで述べた。アルトマンは異なるアプローチを取り、Anthropicの安全原則に連帯を表明し、政府の「脅威的な」アプローチに反対したが、OpenAIのペンタゴンとの契約確保にも努めた。退役空軍大将のジャック・シャナハンは、政府が「Anthropicに標的を定めることは刺激的な見出しを生むが、最終的には誰もが損をする」と述べ、Claudeはすでに政府全体で広く使用されており、Anthropicのレッドラインは「合理的」だと指摘した。
出典: nbcbayarea.com: Trump orders all federal agencies to phase out use of Anthropic – NBC Bay Area
