Выжать всё из кремния: Google Cloud радикально оптимизирует работу с TPU на фоне аппаратного дефицита

Физическая нехватка мощностей заставляет техногигантов писать эффективный софт. 27 июня 2026 года в инженерном дайджесте Google Cloud были анонсированы обновления, направленные на максимальную утилизацию тензорных процессоров (TPU). В первую очередь, платформа `Run:ai Model Streamer` получила нативную поддержку TPU, что позволило ускорить загрузку тяжеловесных моделей (уровня 480B параметров) более чем в 2 раза, сократив при этом пиковое потребление RAM почти наполовину.

Параллельно Google ликвидирует "слепые зоны" в инфраструктуре: представлен новый `AI Telemetry Collector Agent` на базе стандарта OpenTelemetry. Теперь метрики с TPU маршрутизируются напрямую в Prometheus и Grafana. И вишенка на торте для ML-разработчиков — релиз опенсорсного расширения `Workbench Notebooks` для VS Code. Среда разработки бесшовно связывается с управляемыми облачными инстансами (managed cloud environments). Инфраструктура MLOps становится зрелой: вместо слепого наращивания CAPEX, инженеры учатся выжимать максимум ROI из каждого арендованного гигафлопса.

Источник: Google Cloud