ニューサム知事がサクラメントの式典でSB 53に署名した瞬間、急に誰もがAI安全の専門家になった。
Future of Life Institute（生命の未来研究所）の米国政策責任者マイケル・クラインマンは喜びを隠せない。大声で拍手をしている。だが、ちょっと待ってほしい。これは本当に革新的なAI安全法と言えるのか、それともカリフォルニアが得意とするところ——技術企業へのリップサービスを伴った道徳的アピールではないのか？
実際のところ、全米でAIに対する規制を求める声がある。クラインマンが引用する世論調査によれば、82%の共和党員がこれらデジタル上の怪物が何をするかについて制限に同意している。70%以上が政府の安全基準を支持している。確かに有権者は不安だ——チャットボットが嘘をつき、ディープフェイクが選挙を揺さぶり、AIが仕事を奪う。誰もが規制を望むだろう。
そもそもSB 53とは何か？
簡潔に言えば、高度なAIシステムに対する規制をしようとするカリフォルニア州の試みだ。安全テストの要件、訓練データの開示、場合によっては出力結果の透かしなどが含まれる。詳細は曖昧だ——議員たちはそうした曖昧さが好きだから——が、大規模フロンティア・モデル、つまり生物兵器の設計や市場操作が可能となる可能性を持つシステムを対象としている。
ニューサム知事は超党派的なパニックの中で署名した。今年の夏の上院投票を覚えているか？州のAI法に対する連邦的モラトリアムを廃止することに99対1で投票した。州は「結構です、我々で対応します」と言った。そして現在に至る。
クラインマンの声明は楽観主義に満ちている：
ニューサム知事がこの重要な法案に署名してくれたことに感謝します。アメリカ全土で、より強力なAI法制への要求が急速に高まっており、共和党員と民主党員の大多数が常識的なAI安全保障を求めています。AIが何をすることを許可すべきかについて制限があるべきだと考える共和党員は82%、政府が安全基準を設定するための措置を講じることを支持する有権者は70%以上です。
素晴らしい言い方だ。洗練されている。だが、ここが独自の見方だ。これは1960年代の自動車安全戦争を反映している。ウィスコンシン州のような州がシートベルトを最初に義務化し、ナーダーの連邦推進以前にデトロイト自動車産業を動かした。AIも同じ道をたどっている——断片化した規則が混乱を生み出し、ワシントンが目覚めるまで続く。予測？2026年までに50州がAI法を制定し、OpenAIなどの企業にとってコンプライアンスが悪夢になるだろう。賢いやり方だ。
しかし待ってほしい。クラインマン自身、さらなる作業が必要だと認めている。「基本的な保護」と彼は呼んでいる——医薬品や航空機のための規制のようなものだ。はたまたサンドイッチ屋？可愛い類比だ。マイク、地元のデリはE型大腸菌のレシピを幻覚で見たりはしない。
SB 53は実際に実行可能か？
実行可能性。これが問題だ。カリフォルニア州の規制当局は既にギグワーカー訴訟とプライバシー調査に溺れている。誰がGPT-7を監視するのか？資金不足の司法長官事務所か？夢を見るなよ。
そして抜け穴がある。SB 53は「高度な」AIを対象としているが、何が高度なのか？GPT-4より大きいモデルか？オープンソースの天才たちは一晩でこれを回避するだろう。企業は強力にロビー活動をする——Anthropic、xAI、彼らはFLIの寄付者でもある（微妙な影響力か？）。この法案は劇場的であってスチール並みの強度ではない。
乾いたユーモアの時間だ：AI安全がサンドイッチ屋だったら、SB 53は「生鶏禁止」の看板——昼食ラッシュが来ると無視されるものだ。
批評家——私を含めて——はPRの香りを嗅ぎ取っている。ニューサム知事の再選キャンペーンの雰囲気か？Altmanのようなテック大物は歯がないから承認の頷きをする。本当の安全性？軍事AI契約を禁止する。計算能力を制限する。いや、辛すぎる。
連邦空白を埋める州の動き。クラインマンはそれを的確に言う：「強力な連邦AI安全基準がない限り…青い州も赤い州も選択肢がない。」その通りだ。テキサス、フロリダ——次はここだ。赤い州はビッグテックを嫌うのと同じくらいに、青い州がスカイネットを恐れている。
だが断片化？災いだ。カリフォルニアでは動作するが、ユタではぶっ壊れるソフトウェアを想像してほしい。開発者たちは悲しむだろう。
クラインマンとFLIがなぜ全力を尽くすのか
Future of Life Institute——最古のAI思想団体、35人のスタッフが米国とヨーロッパを往来している。2014年に設立され、テクノロジーを破局から導くためのものだ。実績がある：Muskの初期のx-risk（実存リスク）研究に資金を提供した。クラインマンは彼らの政策の闘犬である。
彼の完全な声明は物語を推し進める：ランドマーク的な瞬間、すべての業界のような安全保障。さらに多くが残っている——過小評価が多いか？
ここが大事だ。FLIが公衆の需要について間違っているわけではない。世論調査がそう叫んでいる。しかし半端な対策に拍手を送ること？それはどうやって暗号通貨のワイルドウェストを生み出したかだ。
懐疑的なモード：この法案は本当の獣——AGI（汎用AI）のタイムラインを避けている。モデルが2030年までに超知能に達するなら（一部の予測によれば）、SB 53は核に対する紙の盾だ。
最終的に連邦AI法は成立するか？
短期的には？ノー。議会は膠着状態だ。バイデンの大統領令は弱々しかった。上院の99対1投票は州がこれを所有していることを示している。
大胆な予測：2024年にトランプが戻ってくる？彼は規制を廃止する。ハリス？連邦の絨毯に継ぎを当てる。どちらにせよ、2027年まで州がリードする。
仕事、子ども、コミュニティへの影響？クラインマンはそれを呼び起こす。妥当な懸念だ——AIチューターが教師を置き換え、偽造ヌード画像が少女たちに傷を与える。しかし思慮深く法制化するか、さもなくばイノベーションを殺すか。
少し考えてみよう：医薬品規制は完成するのに数十年かかった。飛行機は災害後に墜落実験をされた。AIは光速で動く。できるだろうか？
率直な真実。SB 53は始まりだ。ほとんど。ニューサム知事はゴルフの拍手をもらう。FLIは彼らの勝利をもらう。しかしまだシャンパンを開くな。
企業ハイプ警告：テックPRはこれを調和として回転させる。嘘だ。戦争だ——安全対速度。悪く選べば、永遠に後悔する。
🧬 関連する洞察
- 詳しく読む： EU加盟国の圧倒的な負荷：AI法の88のタスクが執行を分裂させる可能性
- 詳しく読む：
よくある質問
カリフォルニア州のSB 53とは何か？
SB 53は、テストと開示など、高度なAIシステムのための安全基準を義務付け、ニューサム知事によって署名され、強力なモデルからのリスクを抑制するためのものだ。
SB 53はAI開発を禁止するか？
いいえ——それは禁止ではなく制限と安全保障を設定する。シートベルトを考えてほしい、スピードバンプではなく。
他の州はSB 53のようなAI安全法を可決するか？
おそらくはい。連邦の行動がない中で、2025年までに青い州と赤い州の両方からの波が予想される。
