Ручка губернатора Гэвина Ньюсома скользит по документу SB 53 в аудитории Сакраменто, и вот уже все считают себя экспертами по безопасности ИИ.
Майкл Кляйнман, руководитель отдела американской политики Future of Life Institute, не скрывает восторга. Он громко аплодирует. Но давайте притормозим. Это действительно столь важное законодательство о безопасности ИИ, как его преподносят, или просто Калифорния делает то, что она умеет: демонстрирует добрые намерения с оттенком угождения технологическому лобби?
Видите ли, по всей стране люди хотят ограничений на ИИ. Кляйнман ссылается на опросы: 82% республиканцев поддерживают ограничения на возможности этих цифровых Франкенштейнов. Более 70% одобряют государственные стандарты безопасности. Нормально. Избиратели встревожены — чатботы, которые галлюцинируют, дипфейки, разрушающие выборы, боты, крадущие работу. Кто бы не захотел путы на эту машину?
Что вообще такое SB 53?
Коротко: попытка Калифорнии обуздать продвинутые системы ИИ. Речь идёт о требованиях к тестированию безопасности, раскрытии информации о данных обучения, возможно, даже водяных знаках на выходных данных. Детали размыты — потому что законодатели любят такую неопределённость — но закон нацелен на крупные фронтальные модели, те, которые могли бы, скажем, проектировать биооружие или обрушать рынки.
Ньюсом подписал его на волне двухпартийной паники. Помните голосование в Сенате прошлым летом? 99 голосов против 1 за отмену федерального моратория на законы штатов об ИИ. Штаты сказали спасибо, мы сами справимся. И вот мы здесь.
Заявление Кляйнмана дышит оптимизмом:
Мы приветствуем губернатора Ньюсома за подписание этого жизненно важного законодательства. По всей Америке спрос на более строгое законодательство об ИИ продолжает расти, с широкой поддержкой как республиканцев, так и демократов в пользу здравомыслящих мер безопасности ИИ, включая 82% республиканцев, согласных с тем, что должны быть ограничения на возможности ИИ, и более чем 70% избирателей, поддерживающих государственные действия по установлению стандартов безопасности.
Хороший цитата. Полированный. Но вот моя уникальная оценка: это эхо войн за безопасность автомобилей в 1960-х. Штаты вроде Висконсина первыми обязали ремни безопасности, заставив Детройт согласиться до федерального давления Нейдера. ИИ движется по этому пути — фрагментированные правила, хаос, пока Вашингтон не проснётся. Прогноз? К 2026 году будет лоскутное одеяло из 50 законов штатов об ИИ, превратив соответствие требованиям в кошмар для OpenAI и компании. Гений.
Но погодите. Кляйнман признаёт, что нужно ещё многое сделать. «Базовую защиту», как он её называет — как для фармацевтики или авиации. Или булочных? Забавная аналогия. Ваша местная булочная не галлюцинирует рецепты с кишечной палочкой, Майк.
Действительно ли SB 53 можно применять на практике?
Применение закона. Вот в чём загвоздка. Регуляторы Калифорнии уже захлёбываются в исках от рабочих на гиг-платформах и расследованиях о приватности. Кто будет полицейским для GPT-7? Недофинансированный офис генерального прокурора? Не смешите.
А лазейки. SB 53 нацелен на «продвинутый» ИИ, но что считается продвинутым? Модель больше GPT-4? Любители открытого кода обойдут его за ночь. Компании активно лоббируют — Anthropic, xAI, они же спонсоры FLI (тонкое влияние?). Этот закон больше театр, чем броня.
Делаю лёгкий юмор: если бы безопасность ИИ была булочной, SB 53 — это табличка «без сырой курицы» — игнорируемая в часы обеда.
Критики — включая меня — чуют пиар-спин. Предвыборная кампания Ньюсома? Технопророки вроде Альтмана одобряют, потому что закон беззубый. Реальная безопасность? Запретите контракты ИИ для военных. Ограничьте вычисления. Нет, слишком острая специя.
Штаты берут на себя ответственность, заполняя федеральный вакуум. Кляйнман попадает в цель: «Пока не появятся сильные федеральные стандарты безопасности ИИ… как синие, так и красные штаты не будут иметь иного выбора». Совершенно верно. Техас, Флорида — они будут дальше. Красные штаты ненавидят Big Tech столько же, сколько синие боятся Скайнета.
Но фрагментация? Катастрофа. Представьте программное обеспечение, которое работает в Калифорнии, но ломается в Юте. Разработчики будут плакать.
Почему Кляйнман и FLI полностью за этот закон
Future of Life Institute — самый старый аналитический центр по ИИ, 35 сотрудников, летающих между США и Европой. Основан в 2014 году, чтобы направить технологию в сторону от катастрофы. У них авторитет: финансировали ранние работы Маска по x-рискам. Кляйнман — их политический боец.
Его полное заявление продвигает нарратив: историческое событие, защита как в каждой отрасли. Хотя многое ещё остаётся — сильно недооценивается?
Вот что важно. FLI не ошибаются в отношении общественного спроса. Опросы кричат об этом. Но приветствовать половинчатые меры? Это то, как мы получили дикий запад крипто.
В режиме скептицизма: этот закон уходит от реального зверя — сроков АОИ. Если модели достигнут суперинтеллекта к 2030 году (согласно некоторым прогнозам), SB 53 — бумажный щит против ядерного оружия.
Наконец-то появятся федеральные законы об ИИ?
В ближайшей перспективе? Нет. Конгресс в тупике. Исполнительный приказ Байдена был слабосолёным. Голосование Сената 99-1 показывает, что штаты теперь главные.
Смелое прогнозирование: Трамп вернётся в 2024? Дерегулирует. Харрис? Будет латать федеральный комплект. В любом случае, штаты ведут до 2027 года.
Влияние на рабочие места, детей, сообщества? Кляйнман упоминает их. Обоснованные страхи — ИИ-репетиторы вытесняют учителей, фальшивая порнография травмирует подростков. Но законодательствуйте обдуманно, иначе убьёте инновации.
Отвлекусь на минуту: правила в фармацевтике совершенствовались десятилетиями. Самолёты краш-тестируют после катастроф. ИИ движется со скоростью света. Сможем ли мы?
Отрывистая правда. SB 53 — это начало. Едва начало. Ньюсом получит вежливые аплодисменты. FLI получит свою победу. Но не открывайте шампанское.
Корпоративный пиар-сигнал: техническая индустрия раскручивает это как гармонию. Чушь. Это война — безопасность против скорости. Выберите неправильно, раскаиваться вечно.
🧬 Связанные материалы
- Читайте также: Огромная нагрузка на государства-члены ЕС: 88 задач по AI Act, которые могут расколоть правоприменение
- Читайте также:
Часто задаваемые вопросы
Что такое SB 53 в Калифорнии?
SB 53 требует стандартов безопасности для продвинутых систем ИИ, включая тестирование и раскрытие информации, подписан Ньюсомом для ограничения рисков от мощных моделей.
Запрещает ли SB 53 разработку ИИ?
Нет — он устанавливает ограничения и гарантии, не запреты. Думайте о ремнях безопасности, а не о лежачих полицейских.
Будут ли другие штаты принимать законы о безопасности ИИ, как SB 53?
Вероятно, да. При отсутствии федеральных действий ожидайте волну как синих, так и красных штатов к 2025 году.
