使用 SGLang-Neuron 在 AWS Trainium 上部署前沿 AI 模型

SGLang-Neuron 已公开可用，支持通过熟悉的 SGLang 接口在 AWS Trainium 上部署模型并生成强化学习轨迹。该插件基于原生 PyTorch，支持预填充与解码分离，可通过 AWS Deep Learning Container 使用。