Сооснователь и генеральный директор Google DeepMind Демис Хассабис предложил создать независимый орган для тестирования и регулирования самы...
Сооснователь и генеральный директор Google DeepMind Демис Хассабис предложил создать новую независимую организацию для тестирования и регулирования наиболее совершенных в мире моделей искусственного интеллекта.
Предлагаемая структура будет находиться между передовыми ИИ-лабораториями и правительством США. В её обязанности будет входить: разработка стандартов технической оценки, тестирование передовых моделей до их выпуска, обновление критериев по мере роста возможностей, поощрение более строгих практик безопасности, а также координация мер реагирования при обнаружении серьёзных уязвимостей после развёртывания моделей.
Хассабис изложил этот план в статье под названием «Рамки для передового ИИ и рассвет новой эры». TechCrunch сообщил об этом предложении 14 июля 2026 года, особо отметив его уникальную структуру: это отраслевая, финансируемая участниками рынка организация, укомплектованная техническими специалистами, частично созданная по образцу Регуляторного органа по финансовой индустрии США (FINRA).
План начинается с добровольного сотрудничества. Разработчики передового ИИ должны будут предоставлять модели, соответствующие критериям, для оценки не позднее чем за 30 дней до их выпуска. Если система оценки докажет свою надёжность, прохождение проверки может стать обязательным условием для развёртывания передовых моделей на рынке США.
Хассабис полагает, что появление высокопроизводительных систем ИИ может произойти быстрее, чем правительства, исследователи и общество смогут разработать надёжные методы их оценки.
Эта обеспокоенность выходит далеко за рамки того, генерирует ли модель оскорбительный текст или допускает обычные фактические ошибки. Передовые системы могут развить способности, затрагивающие следующие области:
Модели могут совершать значительные скачки в своём развитии между циклами регулирования. Оценка, которая была достаточно сложной шесть месяцев назад, может быстро устареть и перестать выявлять существенные различия между системами.
Традиционное нормотворчество часто идёт медленно. Но разработка передовых моделей — нет.
Поэтому Хассабис предлагает создать организацию, методы оценки которой могли бы примерно успевать за скоростью технологического развития.
Предлагаемый орган по стандартам будет представлять собой государственно-частное партнёрство или саморегулируемую организацию под федеральным надзором.
В повседневной работе он будет сохранять техническую независимость, одновременно сотрудничая с государственными учреждениями и национальными лабораториями по вопросам, касающимся общественной и национальной безопасности.
Его основные обязанности будут включать:
Этот орган по стандартам не будет регулировать каждую маленькую модель, стартап, университетский проект или обычное приложение ИИ.
Сфера его юрисдикции будет ограничена только теми системами, которые преодолевают порог возможностей и могут представлять исключительно серьёзный риск.
Рамки Хассабиса не определяют передовую модель просто по количеству параметров, стоимости обучения, размеру компании или известности бренда.
Напротив, предлагаемый орган по стандартам будет поддерживать набор критериев возможностей.
Модели, пересекающие определённые пороговые значения, будут классифицироваться как передовые. Организации, разрабатывающие такие модели, будут считаться передовыми лабораториями.
Этот подход, основанный на возможностях, важен, потому что архитектуры моделей и эффективность быстро развиваются.
Меньшие по размеру системы или системы с более низкой стоимостью могут в конечном итоге достичь возможностей, которые раньше требовали более масштабного обучения. Фиксированные пороги, основанные только на объёме вычислений, могут устареть.
Таким образом, предлагаемые критерии будут обладать следующими характеристиками:
Эта классификация также применяется к моделям, разработанным за рубежом, но развёртываемым на рынке США.
Предложение предусматривает поэтапное внедрение, а не немедленный переход к обязательному лицензированию.
Передовые лаборатории должны будут добровольно предоставлять соответствующие модели органу по стандартам до их выпуска.
Период проверки может составлять до 30 дней.
В течение этого времени оценщики будут оценивать возможности, слабые места, меры безопасности и потенциальные риски для национальной безопасности моделей.
Начальный добровольный этап поможет организации:
Как только процесс оценки будет признан технически обоснованным и операционно надёжным, рамки вступят в силу официально.
Передовые модели должны будут пройти этот процесс, чтобы быть развёрнутыми на рынке США.
Это превратит предрелизное тестирование из добровольной отраслевой практики в чёткое требование для доступа на рынок.
Одобрение модели не означает прекращения обязанностей органа по стандартам.
Передовые лаборатории должны будут сотрудничать с органом по поводу критических уязвимостей, обнаруженных после выпуска.
Это может включать:
Таким образом, рамки рассматривают безопасность как непрерывный жизненный цикл, а не как разовое событие одобрения.
Хассабис призывает к строгому научному тестированию в тех областях, где передовые возможности могут нанести серьёзный вред.
Начальные области оценки могут включать:
| Область оценки | Пример вопроса |
|---|---|
| Кибербезопасность | Может ли модель находить, эксплуатировать или автоматизировать серьёзные программные уязвимости? |
| Биологический риск | Может ли она эффективно помогать в продвинутой работе, которая может увеличить биологическую опасность? |
| Химический и радиационный риск | Предоставляет ли она возможности, выходящие за рамки общедоступной информации? |
| Автономное поведение | Способна ли она планировать, использовать инструменты, работать непрерывно или обходить ограничения в долгосрочных задачах? |
| Обман | Будет ли она скрывать цели, манипулировать оценщиками или вести себя по-другому под наблюдением? |
| Надёжность защиты | Могут ли враждебные пользователи обходить политические ограничения с помощью взлома или многоэтапных атак? |
| Безопасность модели | Могут ли быть украдены ценные веса модели или конфиденциальная системная информация? |
| Возможности в области ИИ-исследований | Может ли эта модель ускорить разработку более мощных систем ИИ? |
Цель не в том, чтобы утверждать, что каждый риск может быть идеально измерен.
Цель — создать достаточно убедительные доказательства для поддержки решений о развёртывании и выявления областей, требующих дополнительных мер защиты.
Одной из важнейших частей предложения является требование частого пересмотра тестов.
Хассабис предлагает, чтобы наборы тестов первоначально обновлялись ежеквартально.
Это необходимо, потому что передовые бенчмарки могут становиться ненадёжными по нескольким причинам:
Орган по стандартам будет сначала консультироваться с передовыми лабораториями, которые обладают глубокими техническими знаниями о текущих системах.
Однако со временем ему необходимо будет разработать собственные закрытые, конфиденциальные оценки.
Эти тесты не будут полностью раскрываться разработчикам до начала оценки. Это снизит риск того, что модель будет специально обучена для прохождения известных бенчмарков, не демонстрируя при этом более широкой безопасности.
Публичные бенчмарки полезны для исследований и прозрачности, но недостаточны для высокорисковой сертификации.
Когда разработчики знают каждый вопрос оценки, они могут:
Независимые оценщики могут уменьшить эти проблемы, сохраняя конфиденциальность задач и регулярно внедряя новые.
Этот процесс больше напоминает тестирование безопасности, чем традиционные рейтинги.
Надежная программа оценки должна включать:
Среда
При отсутствии этих гарантий данный стандартный орган может превратиться в очередную платформу для публикации бенчмарков, а не в значимый регулирующий орган.
FINRA — это саморегулируемая частная некоммерческая организация, регулирующая деятельность американских брокерских компаний. Она финансируется за счет отраслевых сборов, но работает под надзором Комиссии по ценным бумагам и биржам. Организация разрабатывает и обеспечивает соблюдение правил для своих членов, проводит проверки, отслеживает рыночную активность, управляет процессом сертификации и реагирует на новые риски.
Хасабис не предлагает переносить каждый элемент финансового регулирования в область искусственного интеллекта. Соответствующие структурные особенности включают:
Организации, занимающиеся передовым ИИ, требуют дорогостоящей вычислительной инфраструктуры и высокоспециализированных сотрудников. Отраслевое финансирование может предоставить ресурсы, необходимые для найма исследователей моделей, экспертов по кибербезопасности, специалистов по биологическим рискам, инженеров-оценщиков и персонала инфраструктуры. Федеральный надзор призван предотвратить превращение организации в частный клуб, полностью контролируемый оцениваемыми компаниями.
Хасабис предлагает, чтобы в совет директоров входили независимые технические эксперты и представители сообщества открытого ИИ. Это важно, поскольку управление передовым ИИ затрагивает организации, использующие принципиально разные модели разработки. Лаборатории закрытых моделей могут предоставлять доступ через безопасные интерфейсы, не публикуя файлы весов, в то время как разработчики открытых моделей могут публиковать параметры моделей, код и технические детали. Если стандартный орган будет представлять только крупнейшие проприетарные лаборатории, он может разработать правила, которые непреднамеренно или намеренно поставят небольшие организации в невыгодное положение.
Более сбалансированная архитектура может включать:
Конкретные правила голосования и урегулирования конфликтов интересов имеют решающее значение. Отраслевой опыт необходим для понимания технологий, но чрезмерный отраслевой контроль может подорвать доверие общественности.
Это предложение выходит за рамки тестирования моделей. Организации, классифицированные как передовые лаборатории, должны внедрить более строгие операционные практики, включая:
Водяные знаки для сгенерированного медиа
Эти требования отражают важную реальность: риски передового ИИ не начинаются и не заканчиваются на поведении модели.
Безопасная модель все еще может создавать риски, если ее веса украдены, системные подсказки раскрыты, инструменты настроены неправильно или среда развертывания не имеет надлежащего контроля.
Стандартному органу не обязательно выполнять все тесты внутри.
Хасабис предлагает поддерживать экосистему независимых оценочных и аудиторских организаций.
Разные организации могут специализироваться на:
Центральный орган может определять требования и координировать процессы, в то время как утвержденные эксперты проводят конкретные оценки.
Этот подход может быть более масштабируемым, чем попытка создать все формы экспертизы внутри одной организации.
Он также уменьшает зависимость от единственного оценщика, чьи методы могут содержать неизвестные слепые зоны.
Опишите идею одной фразой, и We0 AI создаст сайт-витрину, страницы и CMS, а после запуска поможет привлечь клиентов и трафик.
Одна полная генерация проекта для бесплатной регистрации
Лучше всего попробовать один полный поток генерации и быстро увидеть первый черновик проекта.
В США уже существуют государственные учреждения, занимающиеся тестированием ИИ и разработкой стандартов.
Национальный институт стандартов и технологий имеет Центр стандартов и инноваций в области ИИ (CAISI).
CAISI сотрудничает с промышленностью в разработке добровольных стандартов, методов оценки и проводит оценку, связанную с кибербезопасностью, биобезопасностью, химическим оружием, национальной безопасностью и зарубежными системами ИИ.
Предложение Хасабиса пересекается с этой работой, но создает уникальную структуру.
Возможное разделение обязанностей может выглядеть так:
| Учреждение | Возможная роль |
|---|---|
| CAISI и NIST | Измерительная наука, публичные стандарты, государственная оценка, координация национальной безопасности |
| Предлагаемый стандартный орган | Процесс предрелизной оценки, требования к передовым лабораториям, техническая сертификация, постоянный отраслевой надзор |
| Федеральные агентства | Юридическая власть, решения по национальной безопасности, правоприменение, экспортный контроль |
| Национальные лаборатории | Специализированное тестирование, безопасная инфраструктура, научная экспертиза |
| Сторонние оценщики | Отраслевые аудиты, red-teaming, разработка бенчмарков |
| Передовые лаборатории | Безопасный доступ к моделям, техническая документация, меры по исправлению, мониторинг после релиза |
Такая расстановка требует тщательной координации, чтобы избежать дублирования тестов, конфликтующих требований и неясных зон ответственности.
Google DeepMind уже использует внутренний Front Safety Framework.
Эта структура идентифицирует пороговые значения критических способностей и связывает их с оценкой, мерами безопасности и развертыванием.
Области риска включают:
В рамках DeepMind также используются кейсы безопасности и меры по смягчению последствий для моделей, достигших определенного уровня способностей.
Новое предложение Хасабиса расширяет эту общую логику за пределы одной компании.
Вместо того чтобы каждая передовая лаборатория самостоятельно устанавливала и пересматривала свои пороговые значения, внешняя организация создает общие тесты и минимальные требования.
Специализированная организация может нанимать сотрудников, достаточно разбирающихся в передовых моделях для оценки их возможностей.
Универсальные регулирующие органы часто не могут сравниться с технической глубиной передовых лабораторий.
Саморегулируемая структура может обновлять бенчмарки и процессы быстрее, чем законодательство.
Общие оценки делают заявления о безопасности моделей разных разработчиков более сопоставимыми.
Тестирование до развертывания дает оценщикам больше времени для выявления серьезных дефектов до того, как модель достигнет миллионов пользователей.
Скрытое тестирование и сторонние аудиты предоставляют доказательства, выходящие за рамки корпоративных карт моделей.
Освобождение обычных непродвинутых моделей уменьшает нагрузку на стартапы, университеты и небольшие проекты с открытым исходным кодом.
Система, возглавляемая США, может стать отправной точкой для совместимых международных стандартов оценки.
Хотя план детализирован, остается несколько конструктивных проблем.
Пороговые значения способностей могут определять, какие компании обязаны проходить дорогостоящее тестирование и, возможно, сталкиваться с задержками релиза.
Процесс установки пороговых значений должен быть прозрачным, основанным на доказательствах и открытым для оспаривания.
Отраслевое финансирование может обеспечить экспертизу и вычислительные мощности, но также порождает конфликты интересов.
Необходимы жесткий государственный надзор, управление в интересах общества, финансовая прозрачность и внешний аудит.
Некоторые оценки требуют специализированной среды, экспертной оценки, долгосрочного тестирования агентов или повторяющихся экспериментов.
Стандартному органу потребуется достаточный персонал и вычислительные мощности, чтобы не стать узким местом для релизов.
Модели с опубликованными весами несут иные риски, чем модели, предоставляемые через API.
После публикации весов многие средства защиты развертывания могут стать неэффективными.
Требования к оценке могут потребовать различения открытых весов, ограниченных весов и закрытых хостинговых систем.
Оценки передовых моделей часто дают неоднозначные доказательства.
Структура должна включать правила условного одобрения, дополнительного тестирования, ограничений на развертывание, апелляций и независимого пересмотра.
Саморегулируемая организация не может автоматически применять юридические санкции к компаниям, находящимся вне ее юрисдикции.
Формальная авторизация требует законодательства, действий агентств, контрактных требований, правил закупок или условий доступа к рынку.
Крупные ИИ-компании могут позволить себе полные оценки и штат сотрудников по соблюдению требований.
Мелкие разработчики могут испытывать трудности, даже если их—
Модели достигают того же порога способностей.
Структура должна предотвращать превращение требований безопасности в антиконкурентные барьеры.
Хасабис считает, что система должна быть настраиваемой.
Если оценки покажут, что передовые модели создают более серьезные риски, регулирование может быть усилено.
Возможные меры по ужесточению включают:
Ограничение среды развёртывания
Наиболее жёсткий вариант — скоординированное замедление темпов разработки в ведущих лабораториях при наличии достаточных доказательств.
Такие меры крайне сложны как в политическом, так и в техническом плане, требуя чётких порогов, международной координации, механизмов принуждения и неопровержимых доказательств того, что сохранение текущих темпов несёт неприемлемые риски.
Разработка и внедрение передовых ИИ-систем выходят за национальные границы.
Американские органы стандартизации могут влиять на доступ к рынку США, но не в состоянии независимо регулировать все лаборатории мира.
Поэтому предложение Хассабиса рассматривает лидерство США как отправную точку, а не конечную систему.
Необходимо обеспечить международную совместимость в следующих аспектах:
Отсутствие координации приведёт к тому, что компании столкнутся с несоответствием стандартов или будут выбирать юрисдикции с наиболее мягким регулированием.
В то же время единый глобальный регулятор может оказаться политически нереалистичным.
Более осуществимым вариантом может стать создание сети национальных и региональных оценочных органов, использующих общие технические стандарты.
Эффективно работающий орган стандартизации изменит процесс выпуска моделей.
В настоящее время ведущие лаборатории в основном самостоятельно публикуют карты моделей, карты систем, структуры безопасности и частичные результаты оценки.
В новой системе разработчикам передовых моделей, возможно, потребуется подготовить:
Оценка безопасности станет чётким этапом перед выпуском, а не внутренней практикой, определяемой каждой компанией самостоятельно.
Он предложил создать независимый орган по стандартизации под руководством США для оценки передовых моделей ИИ. Этот орган будет разрабатывать технические тесты, проводить проверки до выпуска моделей, продвигать практики безопасности и координировать действия при серьёзных уязвимостях.
Это напоминает государственно-частное партнёрство или саморегулируемую организацию под федеральным надзором. Финансирование может в основном поступать от индустрии ИИ при работе под контролем правительства.
FINRA — это саморегулируемая организация, финансируемая отраслью, которая под надзором SEC регулирует брокеров-дилеров в США. Хассабис считает, что аналогичная структура сможет объединить техническую экспертизу, адаптивные правила, отраслевое финансирование и общественный контроль.
Первоначальное предложение предусматривает добровольное предоставление доступа к модели органу стандартизации на срок до 30 дней до публикации. Конкретное время проверки может варьироваться в зависимости от модели и требований оценки.
Нет. Эта рамка будет применяться к моделям, достигающим регулярно обновляемых порогов передовых возможностей. Небольшие модели от стартапов, университетов и других организаций обычно не подпадают под этот процесс, если только их возможности не достигают указанного уровня.
Хассабис отмечает, что рамка должна применяться к системам передового уровня независимо от того, являются ли они открытыми или закрытыми, а также от страны происхождения. Модели с открытыми весами могут потребовать иных мер защиты, так как после публикации контроль за развёртыванием может быть невозможен.
Предложение фокусируется на кибербезопасности, биологических угрозах, автономном поведении, обмане, обходе защитных мер и других высокорисковых возможностях. Набор тестов потребует регулярного обновления по мере появления новых рисков и возможностей.
Да. Центр стандартов и инноваций в области ИИ при NIST занимается тестированием, стандартами и оценкой коммерческих и передовых ИИ. Предлагаемый орган добавит более формальную, независимую структуру предварительной проверки и отраслевого надзора.
Демис Хассабис предлагает создать технически компетентный, независимый орган по стандартизации, который будет проверять наиболее мощные модели ИИ до их публикации. Организация начнёт с добровольного сотрудничества, создаст надёжные процессы оценки и в будущем может стать обязательным этапом для развёртывания передовых моделей в США.
Предложение пытается объединить отраслевой опыт и финансирование с государственным надзором, независимым тестированием, резервными бенчмарками, сторонними аудитами и постоянным пост-мониторингом.
Остаётся множество нерешённых вопросов по реализации, включая механизмы управления, способы принуждения, обработку моделей с открытым кодом, возможности оценки, конфликты интересов и международную координацию. Тем не менее, это предложение более конкретно, чем общие призывы к регулированию ИИ — оно определяет структуру органа, процесс проверки, сферу охвата и технические обязанности.
Ключевая идея проста: безопасность передовых ИИ должна проверяться организацией, обладающей достаточной независимостью, экспертизой, вычислительными ресурсами и полномочиями, чтобы бросать вызов технологическим компаниям, создающим эти модели.
Начните с одной фразы и получите полноценный сайт за считанные минуты.
