Amazon нашла способ бросить вызов Nvidia не только чипами, но и программным обеспечением. Новый инструмент TorchNeuron позволяет переносить ИИ-приложения на процессоры Trainium, изменив всего одну строку конфигурации, без переписывания кода.
Инструмент работает с PyTorch — открытой библиотекой для создания и обучения моделей. По данным Amazon, на ней написано около 85% ИИ-приложений. Nvidia укрепила позиции благодаря CUDA, которая помогает запускать программы на её оборудовании и сделала его привычным выбором разработчиков.
Переход на другие чипы возможен и сейчас: PyTorch поддерживает оборудование AMD и Apple. Но Amazon предлагает ещё один аргумент — доступ ко всей облачной инфраструктуре AWS, где стартапы могут развивать продукт от прототипа до массового запуска.
Колин Брейс из подразделения AWS Annapurna Labs утверждает, что Trainium выгоден для обучения моделей и их дальнейшей работы на одной платформе. В подтверждение он привёл ElevenLabs, конкурента ElevenLabs: по данным Брейса, компания обрабатывает на Trainium на 70% больше аудио на каждый доллар при сохранении необходимой точности.
Amazon также собирается предложить изменения в сам PyTorch, чтобы уменьшить его зависимость от конкретных производителей чипов. Это может расширить выбор разработчиков, хотя поддержка разных платформ способна усложнить настройку приложений.
Если инициатива сработает, Nvidia придётся конкурировать не только мощностью чипов, но и удобством программной среды. Для бизнеса это шанс снизить расходы на ИИ, а для рынка — стимул сделать вычислительные ресурсы доступнее.
