In this section, we review related work to GLM-130B on topics of pre-training, transferring, and inference of pre-trained LLMs [1]}, [2]}, which
leverages self-supervised learning [3]} over web-scale corpora and have deeply influenced the academia and society in recent years.

В этом разделе мы рассматриваем связанные работы по GLM-130B на темы предварительного обучения, передачи и вывода предварительно обученных LLMов [1]}, [2]}, использующих самообучение [3]}, на основе корпусов веб-масштаба, которые глубоко повлияли на среду и общество в последние годы.