Subsampling is a commonly used technique to reduce the sequence length and has been widely adopted in automatic speech recognition (ASR) systems [1]}, [2]}, [3]}.
Shortening sequence within self-supervised speech models has been explored in [4]}, [5]} by pairing subsampling with upsampling during the optimization process. Both works demonstrate the effectiveness of computation reduction with subsampling, yet with a limited compressing rate (frame period of 40ms).

Субдискретизация - это распространенная техника сокращения длины последовательности, широко применяемая в системах автоматического распознавания речи (ASR) [1], [2], [3].

Сокращение последовательности в моделях самообучения речи исследовалось в работах [4], [5] путем сопряжения субдискретизации с масштабированием во время процесса оптимизации. Обе работы демонстрируют эффективность снижения вычислительной сложности с помощью субдискретизации, но с ограниченным коэффициентом сжатия (период кадра 40 мс).