Ускоритель ИИ не может эффективно работать только благодаря мощным аппаратным характеристикам. Разработчики работают через такие фреймворки,...
Ускорители ИИ не становятся полезными только благодаря мощным аппаратным характеристикам.
Разработчики работают с такими фреймворками, как PyTorch, TensorFlow, vLLM и SGLang. Их модели должны быть скомпилированы, запланированы, выполнены, профилированы, отлажены и распределённо развёрнуты между устройствами. Между приложением и чипом существует огромный инфраструктурный слой, который определяет, сможет ли теоретическая производительность превратиться в полезную вычислительную мощность.
На Всемирной конференции по искусственному интеллекту 2026 года полупроводниковая компания Alibaba, T-Head, открыла исходный код T-Head SAIL — программного стека ИИ для серии ускорителей XuanTie.
SAIL расшифровывается как Seed of AI Library.
Компания T-Head описывает проект как полный путь, охватывающий поддержку операционной системы, компоненты SDK, программные интерфейсы, оптимизированные библиотеки, компилятор, программное обеспечение времени выполнения и инструменты для разработчиков. Его чёткая цель — сделать оборудование XuanTie более доступным для внедрения, не заставляя разработчиков отказываться от привычных языков, фреймворков, кода или рабочих процессов.
Alibaba сообщает, что по состоянию на апрель 2026 года суммарные поставки ИИ-чипов XuanTie достигли 560 000 единиц, обслуживая более 400 клиентов в более чем 20 отраслях. До публичного выпуска это оборудование и программный стек использовались в Alibaba Cloud и внешних производственных средах.
Таким образом, T-Head представляет SAIL не как небольшой исследовательский прототип. Они открывают исходный код программной основы, которая уже была проверена крупномасштабными рабочими нагрузками и требованиями производственного обслуживания.
Новоиспечённый ускоритель не может напрямую выполнять код Python, определяющий нейронные сети.
Программный стек должен преобразовывать высокоуровневые программы в операции, которые оборудование может эффективно выполнять. Этот процесс включает:
Слабость на любом из этих уровней может снизить производительность или затруднить развёртывание.
Отсутствие одного оператора может привести к медленному откату. Плохое коммуникационное ПО может ограничить масштабируемость на нескольких устройствах. Непрозрачный компилятор усложнит оптимизацию. Слабые инструменты профилирования превратят работу с производительностью в слепые догадки.
Вот почему конкурентная позиция NVIDIA основана не только на аппаратном обеспечении GPU, но и на CUDA, её библиотеках, цепочке инструментов компилятора, документации и многолетнем опыте разработчиков.
Решение T-Head открыть исходный код SAIL направлено на конкуренцию на уровне экосистемы.
Программное обеспечение для ускорителей ИИ часто распространялось в виде предварительно скомпилированных двоичных файлов. Разработчики могли вызывать документированные API, но видимость того, как модель преобразуется и выполняется, часто была ограничена.
Распространённые проблемы включали:
Открытый исходный код, документация, драйверы и инструменты предоставляют разработчикам больше возможностей для проверки, диагностики, настройки и оптимизации платформы.
Открытый исходный код не означает автоматически создания зрелой экосистемы. Соответствующие компоненты всё ещё необходимо документировать, поддерживать, тестировать, предоставлять с чёткими лицензиями и поддерживать в реальных рабочих нагрузках. Управление сообществом и стабильность версий так же важны, как и первая публикация кода.
Основной официальный портал доступа — «Сообщество разработчиков T-Head»:
https://developer.t-head.cn/home
Официальное объявление заявляет, что портал предоставляет:
Первое открытие не следует рассматривать как завершение всего маршрута с открытым исходным кодом.
| Этап | Опубликованный план |
|---|---|
| Первое открытие | Документация, пакеты SDK, драйверы ядра, инструменты производительности и отладки |
| Второй этап | Дополнительное ПО для коммуникационных библиотек, версия 2.2 Docker и PIP-репозитории, а также форум разработчиков |
| Третий этап | Вычислительные библиотеки ускорения, ПО для инференс-движка, а также Docker и PIP-репозитории версии 2.3 |
| Последующие разработки | Дополнительные обновления, инструменты, мероприятия сообщества и расширение экосистемы |
Поскольку версии постоянно выпускаются, доступность пакетов, лицензии, требования к оборудованию и инструкции по сборке необходимо проверять через портал в реальном времени.
T-Head описывает SAIL как пятиуровневый стек разработки от управления устройствами до производственных инструментов.
| Уровень | Основные компоненты | Назначение |
|---|---|---|
| Драйверы и среда выполнения | Драйвер PPU, KMD, UMD, среда выполнения PPU | Доступ к устройству, управление памятью, отправка команд и контекст выполнения |
| Языки программирования | C, C++, Python | Знакомые интерфейсы для прикладной и системной разработки |
| Компилятор | Компилятор, отладчик | Трансформация графов и кода, оптимизация, проверка и отладка |
| Высокопроизводительные библиотеки | acBLAS, acDNN, acFFT, acRAND, acSOLVER, acSPARSE, медиа- и коммуникационные библиотеки | Оптимизированные реализации для распространённых рабочих нагрузок ИИ и численных расчётов |
| Инструменты разработчика | Asight Compute, Asight Systems, PPU-SMI, PPU-DCGM | Профилирование, отладка, мониторинг и управление кластером |
Самый нижний уровень соединяет операционную систему с ускорителем.
T-Head делит драйвер на:
Компонент режима ядра обрабатывает привилегированные взаимодействия с операционной системой и устройством. Компонент пользовательского режима предоставляет функциональность устройства вышележащим средам выполнения и прикладному ПО.
Среда выполнения PPU управляет ресурсами, включая:
Это координирующий слой. Этот слой определяет, может ли оборудование быть обнаружено, распределено и использовано предсказуемым образом.
SAIL поддерживает языки C, C++ и Python. Это снижает потребность разработчиков в изучении специфического языка поставщика перед пробой оборудования. Python остаётся основным языком для определения моделей и экспериментов, в то время как C и C++ остаются незаменимыми для библиотек производительности, сред выполнения, расширения фреймворков и системной интеграции. Поддержка этих основных языков помогает командам повторно использовать существующий код, внутренние библиотеки, практики отладки, системы сборки и инженерный опыт. Совместимость языков не гарантирует бесшовной работы всех приложений. Пользовательские расширения CUDA, неподдерживаемые операторы, аппаратно-специфичные предположения или особые зависимости могут всё ещё потребовать переноса.
Компилятор преобразует графы моделей и операции исходного уровня в код, который может быть выполнен на оборудовании Zhenwu. Типичная работа компилятора ИИ включает:
T-Head также перечисляет отладчик на уровне компилятора. Это крайне важно — разработчикам необходимо понимать, почему скомпилированный граф ведёт себя ненормально или почему часть кода не достигает ожидаемой производительности. Официальное объявление описывает компилятор и отладчик как полный цикл разработки. Конкретные возможности проверки и отладки необходимо проверять в текущей выпущенной документации.
Оптимизированные библиотеки являются одними из наиболее ценных компонентов экосистемы ускорителя. Большинство систем ИИ повторно используют одни и те же категории вычислительных задач. Настроенные библиотеки позволяют фреймворкам вызывать эффективные реализации, вместо того чтобы заставлять каждого разработчика писать устройства-специфичные ядра.
| Имя библиотеки | Основная роль |
|---|---|
acBLAS | Основные операции линейной алгебры |
acDNN | Вычисления глубоких нейронных сетей |
acFFT | Быстрое преобразование Фурье |
acRAND | Генерация случайных чисел |
acSOLVER | Численные решатели |
acSPARSE | Операции с разреженными матрицами |
Их практическая ценность зависит от покрытия операторов, типов данных, числовой стабильности, технической документации, качества ядер и степени интеграции с поддерживаемыми фреймворками.
| Имя библиотеки | Основная роль |
|---|---|
HGDEC | Декодирование видео |
HGENC | Кодирование видео |
HGJPEG |
Обработка JPEG-изображений |
| HGPP | Предварительная обработка данных |
Обработка мультимедиа становится всё более важной для мультимодальных моделей. Кодирование/декодирование изображений и видео, масштабирование, преобразование форматов и предварительная обработка могут стать основным узким местом конвейера.
T-Head перечисляет:
PCCLsailSHMEMБиблиотеки коллективной связи поддерживают операции, необходимые для обучения на нескольких устройствах и узлах, включая all-reduce, all-gather, reduce-scatter, broadcast и синхронизацию. Производительность связи часто определяет эффективность масштабирования крупных кластеров. Официальная дорожная карта указывает, что в будущем будет открыто больше программного обеспечения для связи.
Разработчикам следует проверять текущее состояние исходного кода каждого компонента.
Технологический стек также включает следующие компоненты:
acextHGMLЭти компоненты расширяют базовый набор библиотек и поддерживают дополнительные функции машинного обучения. Рекомендуется обращаться к актуальной документации пакетов для получения свежей информации об API.
Asight Compute — это инструмент производительности на уровне операторов, предназначенный для помощи разработчикам в анализе выполнения ядер, использования ресурсов, поведения памяти и узких мест производительности на низком уровне.
Asight Systems предоставляет системное представление выполнения в различных фреймворках, активности времени выполнения, ядер, передачи данных, связи, работы хоста и периодов простоя.
PPU-SMI поддерживает мониторинг и управление устройствами в реальном времени. За конкретными метриками и командами обращайтесь к текущей документации.
PPU-DCGM поддерживает управление ресурсами и устройствами на уровне кластера. Крупномасштабные развертывания требуют глобальной видимости на нескольких ускорителях и узлах, а не только на отдельной карте.
T-Head обобщает позицию SAIL для разработчиков тремя ключевыми идеями:
Это заявления производителя, которые следует проверять на реальных рабочих нагрузках каждой организации.
Дизайн SAIL согласован с основными моделями программирования и фреймворками.
T-Head заявляет, что разработчики могут повторно использовать значительную часть существующего кода, моделей, инженерного опыта, знаний об операторах и практик оптимизации. Официальные объявления утверждают, что миграция требует лишь небольшой адаптации кода.
Стандартные модели, построенные на широко поддерживаемых операциях, могут быть перенесены без проблем, в то время как системы, содержащие пользовательские ядра CUDA, специфические расширения производителей, неочевидные зависимости или тесно связанную инфраструктуру вывода, могут потребовать больше усилий.
Фреймворки и модели ИИ развиваются быстро. Если аппаратной платформе требуются месяцы для поддержки каждой важной версии, она всегда будет отставать от программной экосистемы.
T-Head заявляет, что среднее время адаптации SAIL к основным фреймворкам вывода ИИ составляет менее 7 дней.
Это среднее значение, представленное производителем, и не является гарантией для всех моделей, версий фреймворков, операторов или функций.
Разработчикам следует подтвердить поддерживаемые версии, достижение производственного уровня реализации, доступные типы данных и проверку распределенного выполнения.
T-Head заявляет, что SAIL адаптирован для более 260 основных компонентов обучения, вывода и экосистемы, включая PyTorch, TensorFlow, vLLM и SGLang.
Это число может включать фреймворки, интеграционные модули, модели, библиотеки и связанные компоненты, а не 260 полностью независимых высокоуровневых фреймворков. Рекомендуется использовать актуальный каталог совместимости в качестве авторитетного источника.
Стратегический замысел заключается в том, что разработчики должны иметь возможность сохранить предпочитаемый фреймворк, а не быть вынужденными переходить на единую проприетарную среду приложений.
Опишите идею одной фразой, и We0 AI создаст сайт-витрину, страницы и CMS, а после запуска поможет привлечь клиентов и трафик.
Одна полная генерация проекта для бесплатной регистрации
Лучше всего попробовать один полный поток генерации и быстро увидеть первый черновик проекта.
Команды, рассматривающие внедрение SAIL, должны тестировать свои собственные модели, а не полагаться только на заявления о совместимости.
Требования
Проверьте:
Используйте модели, перечисленные в официальной документации, чтобы убедиться, что установка, компиляция, результаты корректны, их можно запустить через профилировщик, и статус устройства отображается нормально.
Измерьте:
Запишите:
Отслеживайте каждое изменение кода, сборки, оператора, окружения и развертывания. Это позволит получить более реалистичную оценку стоимости миграции, чем однократная успешная демонстрация.
Оценка производственной среды должна включать отказы устройств, перезапуски процессов, обновления фреймворков, обновления драйверов, планирование, мониторинг, сбор логов, откат и анализ регрессии производительности.
SAIL является частью долгосрочной инфраструктурной программы T-Head.
В 2019 году T-Head представил Hanguang 800 — первый чип ИИ Alibaba для вывода.
Согласно официальному заявлению Alibaba, на тесте ResNet-50 его пиковая производительность составила 78 563 изображения в секунду и 500 IPS на ватт.
Чип был развернут во внутренних бизнес-процессах, таких как поиск товаров, рекомендации, обработка изображений, реклама и обслуживание клиентов. Alibaba заявила, что в представленном на момент запуска случае время обработки миллиарда изображений товаров сократилось примерно с часа до пяти минут.
Hanguang 800 продемонстрировал ценность специализированного оборудования в сочетании с оптимизированным программным обеспечением и алгоритмами.
В 2021 году Alibaba представил Yitian 710 — 5-нанометровый серверный процессор на архитектуре Arm с 128 ядрами и 60 миллиардами транзисторов.
По данным Alibaba, его показатель SPECint2017 составил 440, что на 20% выше производительности и на 50% выше энергоэффективности по сравнению с эталонным серверным процессором Arm.
Yitian расширил позиционирование T-Head от вывода ИИ до универсальных облачных вычислений. Alibaba Cloud предлагает серию экземпляров ECS на базе процессора Yitian.
Семейство Zhenwu от T-Head поддерживает как обучение, так и вывод ИИ.
В исходной статье описывается развертывание ранней серии Zhenwu 810 в среде Alibaba Tongyi Qianwen и у внешних пользователей отрасли. Поскольку для предыдущих моделей Zhenwu не было единой подробной официальной спецификации на английском языке, эта статья не воспроизводит все аппаратные данные из исходника.
О более новой Zhenwu M890 имеется официальное представление от Alibaba.
В 2026 году Alibaba представил Zhenwu M890.
| Спецификация | Zhenwu M890 |
|---|---|
| Память | 144 ГБ |
| Межчиповая пропускная способность | 800 ГБ/с |
| Относительная производительность | В три раза выше, чем у Zhenwu 810E |
| Поддержка точности | Обучение и вывод, включая нативный FP4 |
Чип
предназначен для высоконагруженного вывода, длинных контекстов, повторяющихся вызовов инструментов и агентных рабочих нагрузок с непредсказуемыми требованиями.
Alibaba объединяет M890 с ICN Switch 1.0, который, по заявлению, обеспечивает общую пропускную способность до 25,6 Тбит/с и бесконфликтную связь в кластерах из 64 ускорителей.
Суперузел Panjiu AL128 объединяет 128 ускорителей в стоечной системе, а SAIL предоставляет программный уровень, необходимый для предоставления, компиляции, анализа и управления этим оборудованием.
В исходном тексте описывается стратегия T-Head в области чипов для центров обработки данных по трем направлениям:
Современные кластеры ИИ полагаются на согласованную производительность вычислений, памяти, взаимосвязей, хранения, сети, планирования, программного обеспечения времени выполнения и интеграции фреймворков. Узкое место в любой из этих областей может снизить ценность всей системы.
Предприятия, продающие ускорители, не обязаны создавать обширную платформу для разработчиков. Экосистеме нужны документация, примеры, библиотеки, совместимость, поддержка, предсказуемые версии релизов и пути, по которым внешние разработчики могут влиять на будущее развитие.
T-Head использует свои чипы внутри Alibaba и в клиентских развертываниях. Открытие исходного кода SAIL может помочь:
Данный релиз также отвечает на распространенную проблему в сфере отечественных AI-вычислений: развитие аппаратного обеспечения опережает зрелость программного обеспечения и осведомленность разработчиков.
Открытый технологический стек привлечет более широкое сообщество для восполнения этого недостающего слоя.
Первый релиз — это лишь начало. Уровень внедрения будет зависеть от:
Разработчики также будут следить за тем, продвигаются ли последующие этапы открытия исходного кода по графику, и сможет ли сообщество внести реальный вклад.
Официальная дорожная карта показывает, что часть коммуникационного ПО, библиотеки ускорения, компоненты инференс-движка, а также Docker/PIP-источники планируются к выпуску на последующих этапах.
Официальная точка входа — сообщество разработчиков T-Head. Разные компоненты могут использовать разные процессы загрузки, документации, входа, управления пакетами или работы с репозиториями.
Лицензии на драйверы, инструменты, библиотеки, примеры и стороннее ПО —
не все пакеты используют одну и ту же лицензию. Перед модификацией или распространением проверяйте лицензию, прилагаемую к каждому загружаемому пакету.
Когда требуемые операции поддерживаются, приложения уровня фреймворка могут быть перенесены с минимальными изменениями. Пользовательские ядра CUDA и расширения, специфичные для CUDA, обычно требуют отдельной работы по портированию.
Языковая поддержка, управление сообществом, каналы поддержки, облачный доступ и доступность аппаратного обеспечения повлияют на внедрение за пределами Китая.
T-Head SAIL — это программный стек AI, созданный подразделением T-Head (принадлежит Alibaba) для его ускорителей ZhenYue. Он включает драйверы, среду выполнения, языковые интерфейсы, компиляцию, библиотеки оптимизации, профилирование производительности, отладку, мониторинг устройств и управление кластерами.
SAIL расшифровывается как Seed of AI Library (Семя библиотеки AI). В T-Head заявляют, что это название отражает цель: использовать открытый код как семя для более широкой экосистемы AI-вычислений.
Не все запланированные компоненты вышли на первом этапе. Первый релиз с открытым исходным кодом включает документацию, SDK-пакеты, драйверы ядра, инструменты производительности и отладочные ресурсы. Последующие этапы охватят больше коммуникационного ПО, исходные коды пакетов, библиотеки ускорения и инференс-движки.
Официальная точка входа — Сообщество разработчиков T-Head. Используйте актуальный портал для проверки доступности пакетов, требований к оборудованию, лицензий и инструкций по установке.
T-Head перечисляет такие поддерживаемые экосистемы, как PyTorch, TensorFlow, vLLM и SGLang, и заявляет, что стек адаптирован для более чем 260 фреймворков и экосистемных компонентов. Конкретные версии и статус работоспособности следует уточнять в документации по совместимости.
Приложения уровня фреймворка, использующие поддерживаемые операции, могут потребовать лишь минимальной адаптации. Пользовательский код CUDA, расширения, специфичные для CUDA, неподдерживаемые операции, а также зависимости от аппаратных предпосылок, могут потребовать портирования.
T-Head перечисляет: Asight Compute для анализа операторов, Asight Systems для системного профилирования, PPU-SMI для мониторинга устройств, PPU-DCGM для управления на уровне кластера.
SAIL разработан специально для серии AI-ускорителей ZhenYue. Alibaba сообщает, что по состоянию на апрель 2026 года совокупные поставки ZhenYue достигли 560 000 единиц, и данный программный стек уже используется в производственных средах Alibaba Cloud и внешних заказчиков.
T-Head открыла SAIL после масштабного развертывания ускорителей ZhenYue. Этот стек связывает аппаратное обеспечение ZhenYue с операционными системами, языками программирования, компиляторами, библиотеками оптимизации, AI-фреймворками, инструментами профилирования производительности и системами управления кластерами.
Его главное обещание — снизить порог миграции: повторно использовать знакомый код и фреймворки, быстрее получать поддержку нового AI-ПО, избежать привязки к единственному закрытому пути разработки. Эти обещания все еще требуют проверки на реальных моделях, пользовательских ядрах, версиях фреймворков, целевых показателях производительности и эксплуатационных требованиях.
Открытие является существенным, но поэтапным. Документация, SDK, драйверы, инструменты производительности и отладочные ресурсы уже доступны через сообщество разработчиков, а дополнительные коммуникационные библиотеки, источники пакетов, библиотеки ускорения и компоненты инференс-движка запланированы к выпуску в последующих версиях.
Самым важным шагом T-Head является не просто выпуск очередного чипа, а приглашение разработчиков изучить, использовать и, в конечном итоге, совместно формировать программный слой, который определит, станут ли эти чипы долгосрочной вычислительной платформой.
Начните с одной фразы и получите полноценный сайт за считанные минуты.
