Filtering Test Datasets.
Following prior practices [1]}, [2]} and our criterion mentioned above, we filter and refrain to report potentially contaminated datasets' evaluation results.
For LAMBADA and CLUE, we find minimal overlap under the 13-gram setting.
Pile, MMLU, and BIG-bench are either held-out or released later than the crawling of corpora.

Фильтрация тестовых наборов данных.

Следуя предыдущим практикам [1]}, [2]} и нашему вышеупомянутому критерию, мы фильтруем и воздерживаемся от отчета о результатах оценки потенциально загрязненных наборов данных.

Для LAMBADA и CLUE мы обнаружили минимальное пересечение при настройке на 13-грамм.

Pile, MMLU и BIG-bench либо были исключены, либо выпущены позже, чем сбор корпусов.