AWS Lambda добавила графические ускорители для Event Functions
Обработчики событий теперь могут запускать модели, кодировать видео и выполнять численные расчёты на инстансах EC2 G-серии. Поддержка работает в режиме Lambda Managed Instances.

Графический ускоритель в цепочке событий
18 ноября AWS открыла поддержку GPU для Event Functions, работающих на Lambda Managed Instances. Функцию можно вызвать напрямую, поставить ей асинхронное задание или связать с источником событий. Например, поступивший в хранилище видеоролик может инициировать обработку кадра, а очередь — передавать документы на распознавание. Графический ускоритель используется на вычислительном этапе, тогда как получение событий и доставка результата остаются частью обычной схемы приложения. AWS также приводит в качестве примеров рендеринг и численные вычисления.
Поддержка появилась в определённом режиме Lambda. Графику предоставляют инстансы EC2 G-серии, которые сервис запускает в аккаунте организации. Lambda берёт на себя развёртывание мощности, управление драйверами, балансировку и маршрутизацию. Команда приложения выбирает допустимые типы машин и подготавливает контейнер с кодом. AWS предлагает готовые базовые образы с PyTorch, vLLM и SGLang. Для своего стека можно подготовить собственный образ.
Как Lambda выделяет память ускорителя
Поставщик вычислительной мощности задаёт набор разрешённых инстансов. Для функции указывается минимальный объём видеопамяти, необходимый модели или другой программе. Например, полная NVIDIA L4 в семействе G6 предоставляет 24 ГБ, а отдельные конфигурации G6f выделяют виртуальному ускорителю 3, 6 или 12 ГБ. Одно окружение выполнения получает одну карту или одну выделенную долю. В зависимости от конфигурации одна машина с несколькими ускорителями может обслуживать несколько таких окружений.
Если подходящая машина недоступна, сервис может выбрать другой разрешённый тип, удовлетворяющий заявленному минимуму. Поэтому список совместимых машин влияет на способность сервиса принять нагрузку в конкретном регионе. Доступный тип также определяет фактическую память ускорителя: Lambda может предоставить больше, чем было запрошено. Для стабильной оценки расходов и времени выполнения полезно проверять приложение на каждом типе, который оно разрешает использовать.
Масштабирование и подготовка контейнера
Одно окружение может выполнять несколько вызовов параллельно. Например, сервер модели может группировать запросы и использовать для них одну загруженную копию весов. Если функция обрабатывает крупные входные данные или использует большую модель, предел параллельной работы зависит от расхода памяти и времени обработки. Lambda учитывает при масштабировании загрузку GPU и CPU, а также число одновременных вызовов. Настройка параллельности помогает управлять тем, сколько работы получит отдельное окружение.
Для GPU-функций AWS указывает предельный размер контейнерного образа 32 ГБ и временное хранилище до 32 ГБ. Объём образа и способ доставки артефактов влияют на время подготовки окружения. В числе способов сократить его AWS называет ленивую загрузку слоёв образа и передачу весов из S3. В опубликованном примере с vLLM начальная загрузка модели выполняется во время публикации версии функции.
География и ограничения аккаунта
Возможность доступна в коммерческих регионах AWS, где есть Lambda Managed Instances и нужные инстансы G-серии. Отдельная квота EC2 на использование инстансов G и VT по требованию по умолчанию равна нулю. Для запуска нужна одобренная квота, достаточная для выбранных машин. Документация также позволяет ограничить число виртуальных CPU, которое может использовать конкретный поставщик мощности. В модели оплаты учитываются сами инстансы, надбавка за управление со стороны Lambda и число вызовов функции.


