Проект Anthropic по безопасности ИИ: вытеснение норм штатов, полномочия по отключению и планируемые изменения

Сообщается, что федеральное предложение Anthropic по безопасности ИИ подверглось критике со стороны защитников безопасности и конкурента. В представленном материале описываются планируемые изменения, о которых говорил руководитель направления по взаимодействию с федеральными властями Энтони Чимино, критика со стороны Натана Кэлвина из Encode AI и заявление Криса Лехейна из OpenAI о государственном управлении.

Публикация Semafor от 20 октября подтверждает более широкий характер спора: распространённый проект стал публичным, Anthropic обсудила изменения, а критики поставили под вопрос подход документа к полномочиям штатов и катастрофическим рискам. Речь по-прежнему идёт о дискуссии вокруг предложения, а не о новом законе, вступившем в силу.

Иллюстрация со страницы AREX/BAAI Hub, предоставленной для материала; это не изображение законодательного документа.

Источник сообщает, что Politico раскрыл содержание проекта 16 октября. В нём описывается законодательная версия Advanced AI Framework компании Anthropic, предусматривающая федеральную процедуру ограничения опасных моделей и требования к внешней оценке.

Особенно важны несколько деталей, о которых сообщается в публикациях:

Указанные пороги относятся к предлагаемому механизму вмешательства. Они не означают, что меньший ущерб является законным, приемлемым или освобождённым от любых других юридических обязательств.

Планируемые изменения в правилах вытеснения норм штатов и порогах риска

Вытеснение норм штатов касается ситуаций, когда федеральное право заменяет или ограничивает действие законодательства штатов. В данном случае спор идёт о том, какие полномочия в сфере безопасности ИИ останутся у штатов после принятия федеральной структуры регулирования.

В публичной рамочной политике Anthropic говорится, что Конгресс должен вытеснять нормы штатов в сфере безопасности только на основе достаточно сильного федерального законодательства, а предполагаемый масштаб такого вытеснения должен быть узким. В документе также указано, что штаты должны сохранять полномочия по вопросам, не входящим в конкретные функции федеральной структуры безопасности, включая безопасность детей и защиту потребителей.

В представленном материале говорится, что Чимино намерен уточнить: штаты сохранят важную роль в вопросах, связанных с независимыми оценщиками и надзором за возможностью лабораторий останавливать модели. Согласно приведённому объяснению, он также признаёт, что некоторые законодатели хотят принять закон, который устранит пересечение регуляторных полномочий.

Источник связывает предложенный порог риска с уже существующим стандартом Калифорнии и сообщает, что Чимино считает необходимым пересмотреть его. Без полного текста предложения и точного положения законодательства штата, рассмотренных параллельно, этот материал нельзя считать доказательством того, что оба стандарта действуют одинаково.

Отчётность и независимость оценщиков

Согласно представленному материалу, предлагаемые обновления также касаются опасного внутреннего использования, нарушений изоляции и доступа к внешним системам. В нём описывается дальнейшая работа над обязанностями по уведомлению об инцидентах, стандартами для оценщиков и предотвращением «поиска удобного оценщика», когда разработчики выбирают наиболее благоприятного рецензента.

Эти опасения соответствуют более широкому требованию публичной рамочной политики о квалифицированной независимой оценке. В заявленной повестке документа фигурируют опубликованные сводки по безопасности, регулярная отчётность о рисках и усиленные программы безопасности для разработчиков передовых моделей.

В рамочной политике также установлен предлагаемый масштаб применения: модели, обученные с использованием более чем 10²⁵ FLOPs и разработанные компаниями, превышающими определённые пороги выручки от ИИ или расходов на исследования. Эти критерии рамочной политики не следует без оговорок подменять областью применения отдельного просочившегося законодательного проекта.

Аргументы в пользу чрезвычайных полномочий с защитными механизмами

В представленном материале говорится, что Чимино защищал механизм под контролем суда как компромисс между быстрым вмешательством и предотвращением злоупотреблений. Главная политическая проблема заключается в том, как государственный орган может действовать до наступления катастрофического ущерба и при этом нести ответственность за ошибочное ограничение.

В публичной рамочной политике Anthropic предлагается предоставить государству полномочия блокировать или сдерживать опасные внедрения, одновременно установив гарантии против чрезмерного регуляторного вмешательства. В документе также обсуждаются прозрачность, безопасность моделей и более широкие меры устойчивости в отношении биологических, кибернетических рисков и рисков потери контроля.

Публичная рамочная политика отражает позицию компании в сфере регулирования. Однако она не определяет, насколько эффективно юридические формулировки просочившегося проекта реализуют эту позицию.

Источник сообщает, что предложения по контролю темпов развития передовых моделей всё ещё находились на стадии изучения и не были полностью преобразованы в законодательный текст. Предложение изучить будущую политику замедления темпов развития отличается от действующего и подлежащего исполнению ограничения на разработку моделей.

Критики ставят под вопрос баланс и процесс разработки правил

Источник связывает с Натаном Кэлвином два основных возражения: формулировки о вытеснении законодательства штатов слишком широки, а федеральный стандарт вмешательства слишком трудно выполнить. В материале приводятся опасения относительно полномочий судов штатов, строгого требования доказать неминуемый ущерб и подхода суда к анализу правительства.

Это интерпретация проекта со стороны критика. Поскольку полный документ не был доступен для подготовки публикации, такие оценки не следует представлять как окончательные выводы о его юридическом эффекте.

Отдельная позиция Лехейна, которую приводит Semafor, поддерживает национальные стандарты безопасности, но подчёркивает необходимость демократического принятия решений. В его заявлении говорится, что ведущую роль должны играть избранные представители, а ни одна отдельная компания, включая OpenAI, не должна единолично писать правила.

Представленный материал связывает это заявление с поддержкой двухпартийного FRONTIER Act. Однако такая ссылка не доказывает, что распространённый проект Anthropic является тем же самым законопроектом, что любой из документов уже принят или что все участники согласны с его деталями.

Сравнение стратегий компаний в Вашингтоне, приведённое Semafor, является редакционным анализом. Его следует отделять от более узких фактов: проект был распространён, вслед за этим появилась критика, а затем обсуждались изменения. Упоминания других споров между государством и компаниями в источнике не определяют юридическую обоснованность этих положений.

Изменения остаются перспективными

В представленном источнике говорится, что объявленные изменения ещё не были опубликованы в виде полного нового текста. Поэтому ни предполагаемые изменения в правилах вытеснения норм штатов, ни пересмотренный порог не следует считать утверждёнными формулировками.

Описание сроков рассмотрения в Конгрессе также не доказывает, что никакие федеральные законы не применяются к деятельности, связанной с ИИ. Существующие законы могут распространяться на такую деятельность даже при отсутствии комплексного закона о безопасности передовых моделей.

Следующими полезными документами стали бы пересмотренный проект, чётко обозначенный внесённый законопроект, его определения и сведения о законодательном статусе. Они позволили бы напрямую сопоставить полномочия штатов, стандарты чрезвычайного вмешательства, обязанности оценщиков и любые предложения по регулированию темпов разработки.

Часто задаваемые вопросы

Стал ли опубликованный проект Anthropic по безопасности ИИ уже законом?

В представленных публикациях говорится о распространённом предложении. Они не подтверждают его принятие и не устанавливают наличие текущих обязательств, созданных этим предложением.

Что означает вытеснение законодательства штатов в данном случае?

Речь идёт о федеральных нормах, которые заменяют или ограничивают часть полномочий штатов. Спорный вопрос заключается в том, насколько широким будет такое вытеснение и какие полномочия в сфере безопасности сохранятся у штатов.

Разрешает ли указанный порог причинять ущерб ниже этого уровня?

Из представленных публикаций такой вывод не следует. Порог для одного предлагаемого полномочия по вмешательству отличается от сферы действия других законов и обязанностей.

Внесены ли планируемые изменения уже в окончательный законопроект?

Нет. Для этой публикации не был получен полный пересмотренный законодательный текст. Заявления о намерениях изменить документ следует отделять от принятой или окончательно сформулированной редакции.

Почему независимая оценка вызывает споры?

Рецензентам необходимы достаточный доступ и экспертиза для оценки рисков, но при этом они должны оставаться независимыми от разработчиков, оплачивающих их работу. В источнике обсуждаются опасения, что разработчики могут искать наиболее лояльных оценщиков вместо проведения строгой проверки.

Говорил ли OpenAI, что компании не должны участвовать в формировании политики?

В приведённом заявлении говорится, что ведущую роль должны играть избранные представители и демократические процессы. Возражение направлено против того, чтобы одна компания единолично писала правила, а не против участия отрасли в обсуждении политики.

Связанные инструменты

• Congress.gov: официальный сервис для проверки внесённых федеральных законопроектов, их текста и законодательного статуса.
• Federal Register: официальное издание для проверки федерального нормотворчества и уведомлений государственных органов.

Связанные ссылки

• Предоставленная статья AREX на BAAI Hub: материал-агрегатор, который послужил поводом для этой публикации, включая ограничения его источников.
• Публичная рамочная политика Anthropic: опубликованная позиция компании по управлению передовыми моделями и вытеснению законодательства штатов.
• Публикация Semafor от 20 октября: материал о просочившемся проекте и последовавших разногласиях.
• Ответ Энтони Чимино, указанный в источнике: публикация в социальной сети, на которую ссылается AREX; прямое получение материала было заблокировано во время проверки.
• Критика Натана Кэлвина, указанная в источнике: критическое высказывание, упомянутое в представленном материале.
• Заявление Криса Лехейна о государственном управлении: публикация в LinkedIn, на которую ссылаются AREX и Semafor.

Итоги

Спор сосредоточен на взаимосвязи между федеральной процедурой вмешательства и существующими полномочиями штатов, а также на том, смогут ли оценщики и регуляторы эффективно действовать. Anthropic обсуждала изменения, критики ставят под вопрос баланс проекта, а OpenAI подчёркивает ведущую роль избранных представителей.

Распространённое предложение и обещание его пересмотреть не являются новым законом; для оценки последствий необходимо дождаться фактического пересмотренного текста и установить законодательный статус документа.