GSA調達ルール改定がAI安全機能を無力化する可能性

政府はもはやAnthropicと法廷で争わない。二度と政府の要求を拒否できないよう、ルールブック自体を書き直そうとしている——そしてそれは私たち全員を守るガードレールを空洞化させる可能性がある。

政府契約書が置かれた机とAI安全設定が無効化される画面を映すコンピュータモニター

Key Takeaways

  • GSAは静かに、企業に安全機能の無効化とシステムの無制限政府利用ライセンスを強制するAI調達ルール改定を進めている
  • 新ルールは悪用防止のガードレール撤去を要求し、連邦契約の条件としてAI安全保護を剥ぎ取る
  • 政府契約で常態化すれば、業界全体に波及し、セクター全体のAI安全慣行に対する寒冷効果を生み出す可能性がある

国防総省とAnthropicの対立が終わったと思っているなら、考え直したほうがいい。政府がAIシステムへのアクセスを制限なく求める動きはまだ続いている。ただし、その舞台が静かな場所へ移っただけだ——連邦調達ルールの世界へ。

DoD関連のニュースが紙面をにぎわせていた間も、別の政府機関は着々と動いていた。オフィス用品からソフトウェアに至るまで、政府がありとあらゆるものをどう購入するかを規定する総務局(GSA)が、いま密かにAI調達ルールを書き換えている。このルールが定着すれば、単に連邦政府のAI購買方法を変えるだけでなく、AI企業が法的に何をしてよいかまで変わってしまう。

なぜこれが思うより重大なのか

調達を政策ツールとして使うのは理にかなっている。政府は税金を公共の利益に寄与する企業に向けるべきだ。異論はない。オープンソースソフトウェア、相互運用性、修理権——こうした価値観を政府が支援するのは当然だ。

しかしGSAの新ガイドラインは一線を越えている。テック系非営利団体がきょう意見を提出した(民主主義センター、Protect Democracy Project、EPICのパートナーシップを通じて)が、その理由は明白だ。

実際、ルールに何が書かれているのか

特に危険な条項が2つある。まず、契約企業はAIシステムを政府に「あらゆる適法な目的」でライセンスしなければならない。ここからが恐ろしい——政府の「適法」の定義は……実に柔軟だ。連邦当局は監視法の抜け穴を見つける能力に長けている。ルールを平然と破ることだってある。本当に、彼らに無制限のデータマイニング許可を与えたいのか?

「企業の安全ガードレールが政府の要求への対応を妨げる可能性のある場合、その企業はガードレールを無効にしなければならない。」

もう一つの条項はさらに直接的だ。AIシステムは「契約企業またはサービスプロバイダーの任意の方針に基づいてデータ出力の生成または分析を拒否してはならない」。つまり、企業が悪用防止のために安全機能を組み込んでいたら、その機能は連邦契約では負債となる。無効にするか、契約を失うか——二者択一だ。

これって安全性の問題? それとも統制の問題?

ここで警戒心を高めるべき点がある。政府は「イデオロギー的に中立的な」アメリカAI革新を促進していると言い張っている。だが実際のテキストには、エンジニアが実装できる物理的実体がない曖昧な「反ウォーク」要件みたいなものが含まれている。これは安全機能じゃない。政治的リトマステストだ。

本当の狙いはAnthropicの再現を防ぐことに見える。あの対立では、同社は監視用途を拒否した。今、政府は「ノー」を法的に不可能にするルールを欲しがっている。

このルールが通ったらどうなるか

これは単一契約に適用されるものではない。以後のすべての連邦契約の標準要件になる。AI企業が政府案件を受けたければ、安全機能を外す。そして、政府契約で安全機能が剥ぎ取られるなら、民間向けでもなぜ維持する? コストをかけてまで。

結果は、政府利用を超えて業界全体に波及する寒冷効果だ。民間企業はそれを見ている。競争力を保つため、他社も追随する。調達ルールとして始まったものが、業界標準になる。

歴史的な先例もある。冷戦中、政府は調達要件を使って業者に軍事化を促した。その慣行の多くは、地政学的根拠が消えた後も残った。今、AIでも同じことが起きている。

テック系非営利団体が実際に言っていること

意見を提出している団体は、政府のAI支出に反対しているわけではない。調達を使って、本来なら公開討論されるべき政策目標を達成することに反対しているのだ。政府が監視能力に資金を提供したいなら、議会での採決になるべき。安全機能を制限したいなら、GSAガイドラインに隠すのではなく、公開の意見募集期間を経た規制として書かれるべきだ。 彼らの主張は、政府は一からやり直せということ。正当な部分(アメリカAI開発の推進、相互運用性の確保)と兵器化された部分(企業にセーフガードの無効化を強制)を分離しろ、と。

より大きな文脈

これはテック政策における政府権力の動き方を試す実験ケースだ。Anthropic関連の争いは目に見えていた。誰もが注視でき、意見を形成でき、論説を書けた。この調達ルールの書き換え? 連邦公報を読んでいなければ、見えない。気づく頃には、ルールはもう施行され、契約に組み込まれ、常態化している。

その常態化こそが政府の本当の勝利だ。GSAがイデオロギーで気にしているからではなく。企業が安全機能の構築をやめれば、完全に諦めてしまうから。そして、存在しないと決めたものを要求することはできない。


🧬 関連情報

よくある質問

GSAの調達提案は具体的に何をするのか? AIシステムを連邦政府と契約する企業に対し、「あらゆる適法な目的」でシステムをライセンスし、政府の要求への対応を妨げるセーフガードを無効にするよう求めるものだ。このルールは以降すべての連邦契約に適用される。

AI企業は本当にこのルールに従う必要があるのか? まだだ。現在コメント募集期間中だ。だが最終化されれば、政府案件を望む企業は準拠する必要がある。企業が連邦契約をビジネスの中核と見なしていれば、業界全体に圧力がかかる可能性がある。

これは通常の政府調達と何が違うのか? 通常の調達は既に存在する製品(ソフトウェア、ハードウェア、サービス)を買う。このルールは、企業に政府への販売を条件に製品の基本的な動作方法を変えさせるよう強制する。単なる購入ではなく、販売条件としての構造的変更の要求だ。

James Kowalski
Written by

Investigative tech reporter focused on AI ethics, regulation, and societal impact.

Worth sharing?

Get the best AI stories of the week in your inbox — no noise, no spam.

Originally reported by EFF Updates