Иконка инструмента

TensorFlow Serving

Рейтинг:

4.7 / 5.0

Нейрон иконка
TensorFlow Serving

Теги

Machine Learning, Model Deployment, Serving, TensorFlow, Open Source, MLOps, Prediction API

Детали цены

Бесплатно (открытый исходный код). Стоимость может возникнуть при использовании вычислительных ресурсов для хостинга.

Возможности

Обслуживание моделей TensorFlow, высокая производительность, поддержка версионирования моделей.

Интеграции

Интеграция с моделями TensorFlow. API для интеграции в любые приложения. Может быть развернут в Docker, Kubernetes, Google Cloud, AWS, Azure.

Описание

TensorFlow Serving - это гибкая, высокопроизводительная система для обслуживания моделей машинного обучения в продакшене. Она разработана Google и позволяет легко развертывать обученные модели TensorFlow (и другие совместимые модели) для получения прогнозов через API (REST и gRPC). TensorFlow Serving поддерживает версионирование моделей, что позволяет легко обновлять модели и откатываться к предыдущим версиям. Система оптимизирована для высокой пропускной способности и низкой задержки, что делает ее идеальной для приложений, требующих быстрых прогнозов в реальном времени. Это открытый исходный код и может быть развернут в различных средах, включая облачные платформы и локальные серверы.