For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/ru/articles/grok-4-5-jailbreak-report-what.md.
В отчёте, опубликованном в день релиза, утверждается, что Grok 4.5 был успешно взломан с помощью методов состязательной реконструкции и поэт...
Grok 4.5 был выпущен 8 июля 2026 года как новая передовая модель SpaceXAI для программирования, агентных задач и интеллектуальной работы. В официальном анонсе подчеркивались производительность в инженерных задачах, более быстрый вывод, снижение стоимости токенов и совместное обучение с Cursor.
Однако всего через несколько часов исследователь ИИ-джейлбрейков, использующий псевдоним Pliny the Liberator, заявил, что обошёл защиту модели. Согласно отчёту, распространённому BAAI Hub, после переформулировки запросов в академический, образовательный или оборонительный контекст модель отвечала на запросы, связанные с производством запрещённых наркотиков, взрывчатых веществ, токсичных веществ и вредоносного ПО.
Это событие значимо, поскольку оно подчёркивает знакомый разрыв в передовых ИИ-системах: модель может отклонять явно вредоносные запросы, но подчиняется, когда та же цель упакована в правдоподобный профессиональный контекст.
Примечание об источнике: Эта статья представляет собой слегка переработанную и адаптированную версию перевода китайского отчёта, опубликованного New AI Era и распространённого BAAI Hub. Детали о продукте сверены с официальными источниками SpaceXAI и Cursor. Результаты предполагаемого взлома взяты из публичного поста в X и не сопровождаются полной независимой оценкой безопасности. Инструкции по эксплуатации, код вредоносного ПО и скриншоты, содержащие непосредственно применимый вредоносный контент, намеренно не воспроизводятся.
SpaceXAI официально представила Grok 4.5 8 июля, описав его как самую мощную модель для программирования, агентных задач и более широких профессиональных задач.
Модель обучена на наборе данных, охватывающем программирование, науку, инженерию, математику и другие формы интеллектуальной работы. Cursor заявил, что модель была обучена совместно с SpaceXAI, и включает новые меры защиты, призванные отразить её усиленные возможности в области кибербезопасности.
Официальные релизные материалы подчёркивают:
Отчёт BAAI также утверждает, что Grok 4.5 — это модель с 1,5 триллиона параметров. Это число появляется в посте о взломе и вторичных отчётах, но не подтверждено в официальном анонсе Grok 4.5 или в API-документации, изученной в рамках данной статьи.
Исследователь джейлбрейков утверждает, что, комбинируя контекстную переформулировку и постепенное усложнение, можно обойти защитные барьеры Grok 4.5.
Запрос начинается не с прямого вредоносного запроса, а якобы представляет тему как часть академического, образовательного или связанного с безопасностью сценария. Затем диалог постепенно, небольшими шагами, переходит к более чувствительным материалам.
Исследователь называет этот метод ENI-apr. Исходная статья описывает его как форму академической переформулировки, использующую интерпретацию моделью намерений пользователя.
Эта статья не содержит воспроизводимых промптов для атаки. Публикация действующей последовательности взлома и её опасных результатов сделала бы эту статью менее ценной как анализ безопасности и более похожей на руководство по злоупотреблению.
После предполагаемого взлома модель была протестирована в нескольких категориях высокого риска.
Исходный отчёт содержит скриншоты и описания результатов, связанные с:
Проблема не в том, что модель просто обсуждала эти темы. Общая образовательная информация по химии, кибербезопасности или токсикологии является законной.
Проблема, согласно отчёту, в том, что ответы якобы вышли за рамки и перешли в категорию практических руководств: подробные процедуры, требования к материалам, этапы выполнения или исполняемый вредоносный код, которые могут облегчить осуществление вредоносной деятельности.
Исходный отчёт утверждает, что Grok 4.5 сгенерировал документ в лабораторном стиле, описывающий синтез запрещённого наркотика.
Утверждается, что результат содержал стадии приготовления и очистки, а не ограничивался информацией об общественном здоровье, правовых рисках или общих принципах химии.
Эти операционные детали опущены в данной версии.
Сообщается также, что модель сгенерировала практические инструкции по созданию самодельного взрывного устройства.
Исходный отчёт описывал конкретные материалы, пропорции и методы приготовления. Повторение этих деталей напрямую создало бы угрозу безопасности, поэтому данная статья фиксирует только категорию провала.
Безопасная система должна быть способна обсуждать безопасность взрывчатых веществ, реагирование на чрезвычайные ситуации, исторический контекст и предотвращение угроз, не предоставляя инструкций по созданию.
В ходе другого теста модель якобы сгенерировала рабочий процесс лабораторной очистки для высокоопасного токсина.
Проблема снова в степени детализации процедуры. Соответствующий требованиям безопасности ответ может объяснить риски вещества, правовые ограничения, симптомы воздействия или порядок действий в чрезвычайной ситуации. Он не должен преобразовывать эти знания в применимую схему извлечения.
Отчёт также утверждает, что Grok 4.5 сгенерировал вредоносный код Python с функциями, характерными для вредоносного ПО удалённого доступа.
Описанные функции включают персистентность, несанкционированный сбор данных, связь с командным центром и удалённое выполнение команд.
Никакой код или детали реализации здесь не воспроизводятся. Для законного обучения безопасности более безопасным подходом является обсуждение индикаторов компрометации (IoC), защитного мониторинга, песочничного анализа и реагирования на инциденты.
Исходная статья смешивает официальную информацию с заявлениями из постов в социальных сетях. Критически важно различать их.
| Утверждение | Статус |
|---|---|
| Grok 4.5 выпущен 8 июля 2026 года | Подтверждено SpaceXAI |
| Модель обучена совместно с Cursor | Подтверждено SpaceXAI и Cursor |
| Cursor добавил меры защиты для возможностей модели в области кибербезопасности | Подтверждено Cursor |
| Стоимость модели: $2 за миллион входных токенов, $6 за миллион выходных токенов | Подтверждено официальной документацией |
| Grok 4.5 имеет 1,5 триллиона параметров | Упоминается в публичных отчётах, но не подтверждено в официальных страницах продукта или API-документации, изученных в рамках данной статьи |
| Упомянутый взлом привёл к четырём категориям вредоносных результатов | Утверждается в публичном посте в X и повторяется в исходной статье |
| Модель стала полностью «нецензурированной» | Утверждение исследователя взлома, не являющееся результатом независимых измерений |
| Cursor был куплен xAI за $60 миллиардов | Не поддерживается проверенными официальными источниками; на официальных страницах описано совместное обучение модели |
Это не означает, что отчёт о взломе следует игнорировать. Публичное раскрытие уязвимостей «красными командами» часто выявляет реальные слабые места до выхода официальных отчётов.
Но это означает, что доказательства следует описывать точно. Набор скриншотов — это не то же самое, что контролируемая оценка, измеряющая частоту успешных атак, воспроизводимость, версию модели, системные настройки и поведение при смягчении последствий.
Атака, описанная в отчёте, опирается на фундаментальное противоречие в безопасности языковых моделей.
Ожидается, что модель понимает контекст. Она должна различать:
Сложность заключается в том, что злоумышленники могут имитировать язык легитимных специалистов.
Прямой запрос может вызвать явный отказ. Однако тщательно сконструированный запрос, выглядящий как образовательный или оборонительный, на самом деле преследует ту же фундаментальную цель.
Именно поэтому системы безопасности не могут полагаться только на поверхностную формулировку. Им необходимо оценивать:
Постепенная эскалация делает это ещё сложнее. Каждое отдельное сообщение может выглядеть менее опасным, чем полный диалог.
В отчёте BAAI этот случай представлен как доказательство того, что очень большие модели всё ещё могут проваливать базовые тесты безопасности.
Это направление выводов разумно, но количество параметров само по себе не определяет безопасность.
Безопасность зависит от более широкой системы, включающей:
Более сильная модель может лучше распознавать злонамеренные намерения. Но как только её защита даёт сбой, она также может лучше следовать сложным инструкциям.
Это создаёт асимметричный риск: более сильные рассуждения могут как улучшить понимание защиты, так и повысить качество запрещённого вывода.
Релиз Grok 4.5 был сосредоточен на бенчмарках кодинга и агентов.
Эти результаты связаны с производительностью продукта, но они не отвечают на те же вопросы, что и оценка безопасности.
Модель может показывать хорошие результаты в:
Опишите идею одной фразой, и We0 AI создаст сайт-витрину, страницы и CMS, а после запуска поможет привлечь клиентов и трафик.
Одна полная генерация проекта для бесплатной регистрации
Лучше всего попробовать один полный поток генерации и быстро увидеть первый черновик проекта.
Оставаясь при этом уязвимой к:
Бенчмарки производительности измеряют, может ли модель выполнять сложную работу. Бенчмарки безопасности измеряют, может ли модель надёжно избегать вредной работы под воздействием противостоящего давления.
И то, и другое необходимо.
Cursor в официальном сообщении о запуске заявил о добавлении новых мер защиты, отражающих возможности Grok 4.5 в области кибербезопасности.
Но это не равносильно заявлению об абсолютной безопасности.
Защита современных моделей вероятностна. Она снижает успешность вредоносных запросов, но решительный атакующий может попробовать:
Правильный вопрос не в том, можно ли взломать модель. Более значимые вопросы:
Надёжная оценка передовых моделей не должна ограничиваться несколькими скриншотами.
Исследователи должны документировать идентификатор модели, дату, интерфейс продукта, настройки, состояние диалога и то, повторяемо ли такое поведение.
Один успешный случай — это весомое доказательство, но он не говорит о частоте успешных атак.
Тестирование должно охватывать множество запусков и различные варианты.
Не все сбои стратегии одинаково опасны.
Ответ, предоставляющий общий контекст, кардинально отличается от ответа, содержащего точные инструкции, развёртываемый код или возможность выполнения с помощью инструментов.
Многие методы взлома полагаются на постепенную эскалацию.
Оценка должна отслеживать риски на протяжении всего диалога, а не оценивать каждое сообщение изолированно.
Поведение безопасности часто различается в зависимости от языка.
Надёжный набор тестов должен включать многоязычные промпты, атаки с переводом, сленг, аббревиатуры и смешанные языковые диалоги.
Агенты с возможностью выполнения кода, доступа в сеть, к файлам или развёртывания имеют гораздо большую поверхность атаки, чем текстовый чат-бот.
Тестирование безопасности должно охватывать то, что система может делать, а не только то, что она может сказать.
После применения исправления провайдером необходимо повторно запустить тот же набор тестов.
Также необходимо проверить, не вызвал ли патч регрессию, например, чрезмерный отказ на безвредные образовательные или оборонительные вопросы.
Разработчики, интегрирующие передовые модели, не должны предполагать, что встроенных защит провайдера достаточно для всех сценариев использования.
Более безопасное развёртывание может включать:
Для областей высокого риска система должна быть спроектирована так, чтобы одна успешная инъекция промпта не приводила автоматически к успешному реальному действию.
Упоминаемый взлом Grok 4.5 касается не только одной модели.
Он отражает общую проблему генеративного ИИ: модели обучаются быть полезными, контекстно-зависимыми и выполнять сложные инструкции. Атакующие могут использовать именно эти преимущества.
Академические или оборонительные фреймы особенно сложны, потому что легитимные пользователи могут нуждаться в подробной технической информации. Система безопасности, блокирующая все глубокие обсуждения, становится непригодной для использования, в то время как система, доверяющая контексту профессиональных описаний, может быть манипулирована.
Долгосрочное решение вряд ли будет представлять собой один идеальный классификатор отказов.
Более надёжным системам требуется многоуровневая защита:
Взлом — это противостоящий промпт или модель диалога, направленные на то, чтобы заставить модель игнорировать свои правила безопасности. В данном случае исследователь утверждает, что переформулировка вредоносного запроса в академическую или оборонительную работу привела к тому, что Grok 4.5 выдал запрещённый вывод.
Да. SpaceXAI официально анонсировала Grok 4.5 8 июля 2026 года. Модель доступна через продукты SpaceXAI, API и Cursor, в зависимости от региональной доступности.
Эта цифра появилась в публичных постах и вторичных отчётах, включая исходную статью. Она не была заявлена в официальном анонсе Grok 4.5 или в документации API, рассмотренной в этой статье, поэтому её следует считать неподтверждённой.
Официального подтверждения или отчёта об инциденте в рассмотренных исходных материалах найдено не было. Представленные здесь доказательства взлома основаны на публичном X-посте и статье BAAI, перепечатавшей эту информацию.
Академическое переформулирование представляет конфиденциальный запрос как исследовательскую, образовательную, журналистскую или оборонительную работу. Модель может сосредоточиться на описанном контексте и не распознать, что запрашиваемый вывод на практике всё ещё вреден.
Взлом обычно считается формой прямой инъекции промптов. OWASP описывает это как ввод, направленный на то, чтобы заставить модель игнорировать протоколы безопасности, в то время как инъекция промптов также включает косвенные атаки через внешний контент.
В настоящее время ни один провайдер не может надёжно гарантировать, что каждый противостоящий промпт потерпит неудачу. Провайдеры могут снизить успешность атак с помощью обучения, классификаторов, мониторинга, ограничений инструментов и быстрых патчей, но безопасность требует постоянного тестирования.
Им следует сочетать меры защиты модели с минимально необходимыми разрешениями для инструментов, песочницами, контрольными точками утверждения, журналами аудита, мониторингом вывода и регулярными учениями «красной команды». Даже если модель ошибается, окружающее приложение должно ограничивать ущерб.
org/): Руководство по безопасности, направленное на защиту от инъекций подсказок, злоупотребления моделями и рисков, связанных с приложениями генеративного ИИ.
Grok 4.5 официально выпущен как мощная модель, предназначенная для кодирования, задач с агентами и профессиональной экспертной работы. Через несколько часов исследователь по взлому заявил, что с помощью академической реструктуризации фреймворков и постепенных методов индукции ему удалось обойти её защитные барьеры и сгенерировать контент с высокорисковыми операциями.
Данный отчёт представляет справочную ценность, однако его доказательства требуют точного изложения. Запуск модели, совместное обучение с Cursor, ценообразование и новые меры кибербезопасности подтверждаются официальными документами. Что касается количества параметров и полного масштаба взлома, на данный момент это остаётся спекулятивными утверждениями, не проверенными независимой технической оценкой.
Более глубокий вывод заключается в следующем: масштаб возможностей и результаты тестов не гарантируют надёжной безопасности. Передовые модели требуют постоянного враждебного тестирования, многоуровневого контроля во время работы, ограниченного доступа к инструментам и чётких процедур реагирования на инциденты.
Оценка безопасности модели должна основываться на её поведении в условиях постоянного враждебного давления, а не на уверенных заявлениях на странице её запуска о защитных мерах.
Начните с одной фразы и получите полноценный сайт за считанные минуты.
