TensorFlow Serving

Amazon Bedrock

Bedrock

AWS托管基础模型

按量 AWS 4.4

Groq Inference

LPU

Groq LPU推理

API Groq 5.0

Fireworks Inference

多模型

Fireworks推理API

按量 Fireworks 4.0

Perplexity API

置顶

Sonar

Perplexity推理API

按量 Perplexity 4.2

腾讯云TI-EMS

EMS

腾讯云模型服务

按量 腾讯云 4.0

Lepton AI

GPU

轻量推理平台

按量 Lepton 4.8