TOPS
TOPS (Tera Operations Per Second) — единица измерения вычислительной производительности нейронных процессоров (NPU) и AI-ускорителей, обозначающая количество операций, выполняемых за одну секунду в масштабе триллионов. Метрика используется при выборе аппаратной платформы для инференса нейросетей в задачах компьютерного зрения, обработки речи, рекомендательных систем и промышленной автоматизации.
Инженеры Zavod.dev · обновлено 20 июля 2026
Принцип работы
Ускоритель выполняет матричные умножения и свёрточные операции, составляющие основу вычислений нейросети. Значение TOPS зависит от разрядности данных: производительность при INT8 вдвое превышает FP16 на том же кристалле, поскольку каждая операция обрабатывает вдвое меньше битов. Пиковое значение TOPS указывается производителем при полной загрузке всех вычислительных блоков и редко достигается в реальных условиях.
Ключевые характеристики при выборе
При подборе AI-ускорителя сравнивают: пиковые TOPS по нужной разрядности (INT8 или FP16), реальную утилизацию под целевую архитектуру модели, энергопотребление (TOPS/Вт), пропускную способность памяти и поддержку операторов конкретного фреймворка развёртывания.
Где применяется
Производительность в TOPS критична для edge-устройств с ограниченным бюджетом мощности (промышленные контроллеры, встраиваемые системы технического зрения), серверных карт инференса в дата-центрах, а также систем реального времени, где задержка обработки нейросети нормирована техническим регламентом.
Частые ошибки при подборе
Сравнение TOPS без учёта разрядности приводит к ошибочному выводу о превосходстве одного чипа над другим. Игнорирование реальной утилизации ведёт к тому, что купленная производительность остаётся недоступной из-за архитектурных ограничений или отсутствия нужных операторов в SDK. Ещё одна ошибка — оценивать ускоритель только по TOPS без анализа пропускной способности памяти: для крупных моделей именно bandwidth становится узким местом.