Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
Paper • 1908.10084 • Published • 16
How to use cuadron11/jina-reranker-v2-base-multilingual-contrastive-berria-4-mle5-100ev with sentence-transformers:
from sentence_transformers import CrossEncoder
model = CrossEncoder("cuadron11/jina-reranker-v2-base-multilingual-contrastive-berria-4-mle5-100ev", trust_remote_code=True)
query = "Which planet is known as the Red Planet?"
passages = [
"Venus is often called Earth's twin because of its similar size and proximity.",
"Mars, known for its reddish appearance, is often referred to as the Red Planet.",
"Jupiter, the largest planet in our solar system, has a prominent red spot.",
"Saturn, famous for its rings, is sometimes mistaken for the Red Planet."
]
scores = model.predict([(query, passage) for passage in passages])
print(scores)This is a Cross Encoder model finetuned from jinaai/jina-reranker-v2-base-multilingual using the sentence-transformers library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import CrossEncoder
# Download from the 🤗 Hub
model = CrossEncoder("cuadron11/jina-reranker-v2-base-multilingual-contrastive-berria-4-mle5-100ev")
# Get scores for pairs of texts
pairs = [
['Noiz amaitzen da BSHko langileen aldi baterako lan erregulazioa?', 'Langileen helburua da multinazionalak atzera egitea bere erabakian, eta, horregatik, uste dute gobernuak presio egin dezakeela langileen alde. «Enpresak atzera egin dezan, modu aktibo batean lan egin dezala eskatzen diogu. Jar ditzatela euren bitarteko guztiak Ezkirozko BSHn jarduera egon dadin eta lanpostuak bermatu daitezen».\n\nMultinazionalak atzera egin dezan ahaleginduko dira. Aurten, 40 egunetik gorako aldi baterako lan erregulazioan egon dira langileak. Urtarrilaren 31n amaituko da, eta hori amaitu aurretik etorri da erabakia. UGTko Xabi Tejerok azaldu du ezin dituztela langileak babes gabe utzi: «Behar den tokietan defendituko ditugu lanpostuak».\n\nBSH, 35 URTE EUSKAL HERRIAN'],
['Noiz iritsiko da behingoz benetako eskualdaketa Kataluniako aldiriko trenen eskumena Generalitatera?', 'Aldirikoak behingoz Generalitatera\n\nEspainiako presidente ohi Jose Luis Rodriguez Zapateroren garaian —2010. urtean— eskualdatu zuten teorian Kataluniako aldiriko trenen eskumena Espainiako Gobernutik Generalitatera. Hamabost urte igaro dira, eta ezer ez da aldatu tren horien kudeaketan; Renfek segitu du trenen zerbitzua antolatzen —trenak eta ordutegiak—, eta Adifek azpiegituren ardurarekin jarraitu du —trenbideak, geltokiak…—. Zer egin du urteotan Generalitateak? Kexatu, eskumen aldaketa ez zelako benetakoa izan; baina ez da sekula eskaeren zerrendan lehen postuan egon.\n\nSant Jaume plazatik independentziazaleak irten eta sozialistak itzuli arte, Madrilek ez du eskumena katalanizatu nahi izan.\n\nIritsi da behingoz benetako eskualdaketa egiteko ordua. Hau da, urteetan luzatuko den prozesu baten ondorioz, Espainiako Gobernuak eta Generalitateak osatuko duten enpresa publiko mistoak hartuko du aldiriko trenen zerbitzuaren kudeaketa, Renfe eta Adif Kataluniako aldirikoetatik desagertuta. Enpresa misto berriak Rodalies de Catalunya izena edukiko du, eta Generalitateak kalitatezko botoa edukiko du.\n\nRenfen eta Adifen gehiengoa daukaten sindikatuek —CCOOk, UGTk, CGTk…— ez dute begi onez ikusten eskualdaketa, ez dutelako Generalitateko langile bihurtu nahi, eta zazpi greba egunetara deitu dute.'],
['Zein da Nafarroako administrazioaren behin-behinekotasun tasa egungo egonkortze prozesuaren ondoren?', 'Nafarroako Gobernuak 603 lanpostuko lan eskaintza publikoa hitzartu du LAB, Afapna eta UGTrekin\n\nAzken urteetan Nafarroako Gobernuak funtzio publikoko behin-behinekotasuna %43tik %16ra murriztu du, eta aurten egonkortze prozesu horretan aurrera jarraituko du. Gaur, LAB, Afapna eta UGT sindikatuekin hitzartu du beste 603 lanpostu egonkortzea, lan eskaintza publiko partzial baten bidez.\n\nApirilaren 9ko grebaren ondotik, lehen bilera egin du gobernuak Funtzio Publikoko Mahai Orokorreko sindikatuekin. Bost sindikatuetatik hiruk adostu dute eskaintza, eta Rashid Mohamed Funtzio Publikoko zuzendari nagusiak iragarri du aurki onartuko duela deialdi hori arautuko duen foru dekretua.\n\nDeialdi horretan aterako diren postuak administraziorako eta osasungintzarako izango dira. Zehazki, 315 lanpostu administrazio nukleorako izango dira: C mailako 173 postu, D mailako 74, B mailako 43 eta A mailako 25. Gainera, Osasunbideko 288 postu egonkortuko ditu, eta Nafarroako Osasun Publikoko eta Lan Osasuneko Institutuko beste sei postu. «Zerbitzu publikoak indartu nahi ditugu, eta haien kalitatea hobetu», adierazi du gobernuak prentsa ohar batean.\n\n3.548\n\nEgonkortze prozesua. Duela urte batzuk, behin-behinekotasun handia zuen Nafarroako administrazioak, %43koa. Europako Batzordeak behartuta, egonkortzeko prozesuari ekin zion, eta azken urteetan 3.548 lanpostu egonkortu ditu. Orain, lan eskaintza aurrera badoa, 603 gehiago izango dira.\n\nEuropako Batzordeak iazko abendurako %8ko behin-behinekotasuna ezartzeko helburua ezarri zien administrazio publikoei. Epea agortu bada ere, oraindik bidea geratzen zaio xede horretara iristeko. Nafarroaren kasuan, foru administrazioko eta bere erakunde autonomoetako langile kopurua hartu behar da aintzat —erakunde autonomoen artean daude, besteak beste, Osasunbidea, Nafarroako Ogasuna, Nafar Lansare, Euskarabidea eta abar—.\n\nMerezimenduen dekretua'],
['Nola sustatu daiteke euskararen erabilera eremu digitalean?', 'Euskara oinarri duen ChatGPT moduko bat sortu duzue: Latxa. Nola sortzen dira elkarrizketak sistema automatikoan?\n\nSistema horiek bideratzen dituzten oinarrizko ereduak dira elkarrizketak. Jarraitu beharreko pausoak erakusten dizkiogu sistemari, euskaraz, eta horri erantzuten dio. Elkarrizketa oso naturala izatea lortu nahi dugu, ez modu artifizialean egindakoa izatea.\n\nNola lor daiteke elkarrizketa naturalagoa izatea?\n\nHorretan ari gara orain. Sistemak euskara gaitasun batzuk hobeto barneratuak dituela ikusi dugu. Uste dugu sortzen duen euskara hori dela oso zuzena, eta, gainera, munduaren errepresentazio orokor bat duela. Latxa ez da hutsetik hasi, beste eredu batetik abiatu gara, ingelesez zegoen batetik. Lortu dugu ezagutza horretan euskara ere txertatzea. Hurrengo fasea da oinarrizko eredu hori hobetzea, testu gehiago emanez. Datu bilketa bat beharrezkoa da oraindik.\n\nZein da erronka nagusia?\n\nIngelesarekin alderatuta, ikus dezakegu datu kopurua ez dela berdina. Beste bide batzuk bilatu behar izan ditugu baliabide gutxiago duten hizkuntzei aplikatzeko.\n\n«Beste teknika batzuk aplikatuta eta gure errealitatea zein den kontuan hartuta, sistema bat sortzeko aukera dugu»\n\nHizkuntza gutxituek nola iraun dezakete bizirik aro digitalean?\n\nBadago aukera bat aurrera jarraitzeko, eta Latxa da horren adibide. Gure errealitatean eta gure baliabideekin ere ikusi dugu hor egoteko aukera badugula. Hizkuntza gutxitu batek bizirik iraun nahi badu, eremu digitalean ere egon behar du. Beste teknika batzuk aplikatuta eta gure errealitatea zein den kontuan hartuta, sistema bat sortzeko aukera dugu.\n\nEzinbestekoa da beste hizkuntzekin elkarlana sustatzea?\n\nBai. Ez da bakarrik euskararako sistema egitea; zabaldu nahi dugu euskararekin sortu dugun proiektua; beste hizkuntzei egin duguna helaraztea, alegia. Edozein hizkuntzak bizirik iraun nahi badu, bakoitzak egiten duen proiektuen berri eman behar du, irekia izan behar du. Elkarlana behar da, denon artean ikasteko eta bizirik jarraitzeko aukera gehiago dagoelako.'],
['Zein urtetan itzuli zen Slowdive taldea agertokietara?', 'Arcade Fire\n\nBBK Liven jo eta zortzi urtera, bueltan dator Bilbora Quebeceko taldea, azken bi hamarkadetako rock alternatiboaren izen handienetakoa. Funeral (2004) diskoarekin estreinatu zenetik, Win Butlerrek eta Regine Chassagnek gidatzen duten taldeak beti erakutsi du ereserki epikoak bezain sentikorrak sortzeko gaitasun handia, eta horrek berak estadioetan jotzeko banda ezin egokiagoa bilakatu du Arcade Fire. Nolanahi ere, taldeak segitzen du bide berriak bilatzen, eta azken diskoan (We, 2022) badira synth-popera jotzen duten piezak ere. (Larunbatean, 01:30ean, Agertoki Nagusian).\n\nMulatu Astatke\n\nBBK Liveren publiko nagusiari gutxien egokituko zaion musikaria izango da, ziur aski, Mulatu Astatke. Musikari etiopiarrak 80 urte ditu, bibrafonoa jotzen du, eta bere herrialdean 1960ko eta 1970eko hamarkadetan loratu zen jazz eszenaren ordezkari nagusia da oraindik ere. Ethio-jazzaren izen ezinbestekoa ez ezik, azken hamarkadetan sortu den musikari pertsonalenetako bat ere bada Astatke. (Larunbatean, 20:30ean, Txiki agertokian).\n\nSlowdive\n\nIngalaterrako taldea bigarren urrezko aroa ari da bizitzen. 1990eko hamarkadaren hasieran Ingalaterran sortutako shoegaze mugimenduaren parte izan zen Slowdive, eta urteetako etenaren ostean —bitartean, Mojave 3 proiektuarekin AEBetako doinuak landu zituzten Neil Halstead eta Rachel Goswellek—, 2014an berriro itzuli zen agertokietara. 2017an Slowdive diskoa atera zuen, gitarretan oinarritutako dream-pop aparta, eta joan den urtean iritsi zen Everything is Alive haren jarraipena. (Larunbatean, 20:30ean, San Miguel gunean).\n\nEzezez'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)
# Or rank different texts based on similarity to a single text
ranks = model.rank(
'Noiz amaitzen da BSHko langileen aldi baterako lan erregulazioa?',
[
'Langileen helburua da multinazionalak atzera egitea bere erabakian, eta, horregatik, uste dute gobernuak presio egin dezakeela langileen alde. «Enpresak atzera egin dezan, modu aktibo batean lan egin dezala eskatzen diogu. Jar ditzatela euren bitarteko guztiak Ezkirozko BSHn jarduera egon dadin eta lanpostuak bermatu daitezen».\n\nMultinazionalak atzera egin dezan ahaleginduko dira. Aurten, 40 egunetik gorako aldi baterako lan erregulazioan egon dira langileak. Urtarrilaren 31n amaituko da, eta hori amaitu aurretik etorri da erabakia. UGTko Xabi Tejerok azaldu du ezin dituztela langileak babes gabe utzi: «Behar den tokietan defendituko ditugu lanpostuak».\n\nBSH, 35 URTE EUSKAL HERRIAN',
'Aldirikoak behingoz Generalitatera\n\nEspainiako presidente ohi Jose Luis Rodriguez Zapateroren garaian —2010. urtean— eskualdatu zuten teorian Kataluniako aldiriko trenen eskumena Espainiako Gobernutik Generalitatera. Hamabost urte igaro dira, eta ezer ez da aldatu tren horien kudeaketan; Renfek segitu du trenen zerbitzua antolatzen —trenak eta ordutegiak—, eta Adifek azpiegituren ardurarekin jarraitu du —trenbideak, geltokiak…—. Zer egin du urteotan Generalitateak? Kexatu, eskumen aldaketa ez zelako benetakoa izan; baina ez da sekula eskaeren zerrendan lehen postuan egon.\n\nSant Jaume plazatik independentziazaleak irten eta sozialistak itzuli arte, Madrilek ez du eskumena katalanizatu nahi izan.\n\nIritsi da behingoz benetako eskualdaketa egiteko ordua. Hau da, urteetan luzatuko den prozesu baten ondorioz, Espainiako Gobernuak eta Generalitateak osatuko duten enpresa publiko mistoak hartuko du aldiriko trenen zerbitzuaren kudeaketa, Renfe eta Adif Kataluniako aldirikoetatik desagertuta. Enpresa misto berriak Rodalies de Catalunya izena edukiko du, eta Generalitateak kalitatezko botoa edukiko du.\n\nRenfen eta Adifen gehiengoa daukaten sindikatuek —CCOOk, UGTk, CGTk…— ez dute begi onez ikusten eskualdaketa, ez dutelako Generalitateko langile bihurtu nahi, eta zazpi greba egunetara deitu dute.',
'Nafarroako Gobernuak 603 lanpostuko lan eskaintza publikoa hitzartu du LAB, Afapna eta UGTrekin\n\nAzken urteetan Nafarroako Gobernuak funtzio publikoko behin-behinekotasuna %43tik %16ra murriztu du, eta aurten egonkortze prozesu horretan aurrera jarraituko du. Gaur, LAB, Afapna eta UGT sindikatuekin hitzartu du beste 603 lanpostu egonkortzea, lan eskaintza publiko partzial baten bidez.\n\nApirilaren 9ko grebaren ondotik, lehen bilera egin du gobernuak Funtzio Publikoko Mahai Orokorreko sindikatuekin. Bost sindikatuetatik hiruk adostu dute eskaintza, eta Rashid Mohamed Funtzio Publikoko zuzendari nagusiak iragarri du aurki onartuko duela deialdi hori arautuko duen foru dekretua.\n\nDeialdi horretan aterako diren postuak administraziorako eta osasungintzarako izango dira. Zehazki, 315 lanpostu administrazio nukleorako izango dira: C mailako 173 postu, D mailako 74, B mailako 43 eta A mailako 25. Gainera, Osasunbideko 288 postu egonkortuko ditu, eta Nafarroako Osasun Publikoko eta Lan Osasuneko Institutuko beste sei postu. «Zerbitzu publikoak indartu nahi ditugu, eta haien kalitatea hobetu», adierazi du gobernuak prentsa ohar batean.\n\n3.548\n\nEgonkortze prozesua. Duela urte batzuk, behin-behinekotasun handia zuen Nafarroako administrazioak, %43koa. Europako Batzordeak behartuta, egonkortzeko prozesuari ekin zion, eta azken urteetan 3.548 lanpostu egonkortu ditu. Orain, lan eskaintza aurrera badoa, 603 gehiago izango dira.\n\nEuropako Batzordeak iazko abendurako %8ko behin-behinekotasuna ezartzeko helburua ezarri zien administrazio publikoei. Epea agortu bada ere, oraindik bidea geratzen zaio xede horretara iristeko. Nafarroaren kasuan, foru administrazioko eta bere erakunde autonomoetako langile kopurua hartu behar da aintzat —erakunde autonomoen artean daude, besteak beste, Osasunbidea, Nafarroako Ogasuna, Nafar Lansare, Euskarabidea eta abar—.\n\nMerezimenduen dekretua',
'Euskara oinarri duen ChatGPT moduko bat sortu duzue: Latxa. Nola sortzen dira elkarrizketak sistema automatikoan?\n\nSistema horiek bideratzen dituzten oinarrizko ereduak dira elkarrizketak. Jarraitu beharreko pausoak erakusten dizkiogu sistemari, euskaraz, eta horri erantzuten dio. Elkarrizketa oso naturala izatea lortu nahi dugu, ez modu artifizialean egindakoa izatea.\n\nNola lor daiteke elkarrizketa naturalagoa izatea?\n\nHorretan ari gara orain. Sistemak euskara gaitasun batzuk hobeto barneratuak dituela ikusi dugu. Uste dugu sortzen duen euskara hori dela oso zuzena, eta, gainera, munduaren errepresentazio orokor bat duela. Latxa ez da hutsetik hasi, beste eredu batetik abiatu gara, ingelesez zegoen batetik. Lortu dugu ezagutza horretan euskara ere txertatzea. Hurrengo fasea da oinarrizko eredu hori hobetzea, testu gehiago emanez. Datu bilketa bat beharrezkoa da oraindik.\n\nZein da erronka nagusia?\n\nIngelesarekin alderatuta, ikus dezakegu datu kopurua ez dela berdina. Beste bide batzuk bilatu behar izan ditugu baliabide gutxiago duten hizkuntzei aplikatzeko.\n\n«Beste teknika batzuk aplikatuta eta gure errealitatea zein den kontuan hartuta, sistema bat sortzeko aukera dugu»\n\nHizkuntza gutxituek nola iraun dezakete bizirik aro digitalean?\n\nBadago aukera bat aurrera jarraitzeko, eta Latxa da horren adibide. Gure errealitatean eta gure baliabideekin ere ikusi dugu hor egoteko aukera badugula. Hizkuntza gutxitu batek bizirik iraun nahi badu, eremu digitalean ere egon behar du. Beste teknika batzuk aplikatuta eta gure errealitatea zein den kontuan hartuta, sistema bat sortzeko aukera dugu.\n\nEzinbestekoa da beste hizkuntzekin elkarlana sustatzea?\n\nBai. Ez da bakarrik euskararako sistema egitea; zabaldu nahi dugu euskararekin sortu dugun proiektua; beste hizkuntzei egin duguna helaraztea, alegia. Edozein hizkuntzak bizirik iraun nahi badu, bakoitzak egiten duen proiektuen berri eman behar du, irekia izan behar du. Elkarlana behar da, denon artean ikasteko eta bizirik jarraitzeko aukera gehiago dagoelako.',
'Arcade Fire\n\nBBK Liven jo eta zortzi urtera, bueltan dator Bilbora Quebeceko taldea, azken bi hamarkadetako rock alternatiboaren izen handienetakoa. Funeral (2004) diskoarekin estreinatu zenetik, Win Butlerrek eta Regine Chassagnek gidatzen duten taldeak beti erakutsi du ereserki epikoak bezain sentikorrak sortzeko gaitasun handia, eta horrek berak estadioetan jotzeko banda ezin egokiagoa bilakatu du Arcade Fire. Nolanahi ere, taldeak segitzen du bide berriak bilatzen, eta azken diskoan (We, 2022) badira synth-popera jotzen duten piezak ere. (Larunbatean, 01:30ean, Agertoki Nagusian).\n\nMulatu Astatke\n\nBBK Liveren publiko nagusiari gutxien egokituko zaion musikaria izango da, ziur aski, Mulatu Astatke. Musikari etiopiarrak 80 urte ditu, bibrafonoa jotzen du, eta bere herrialdean 1960ko eta 1970eko hamarkadetan loratu zen jazz eszenaren ordezkari nagusia da oraindik ere. Ethio-jazzaren izen ezinbestekoa ez ezik, azken hamarkadetan sortu den musikari pertsonalenetako bat ere bada Astatke. (Larunbatean, 20:30ean, Txiki agertokian).\n\nSlowdive\n\nIngalaterrako taldea bigarren urrezko aroa ari da bizitzen. 1990eko hamarkadaren hasieran Ingalaterran sortutako shoegaze mugimenduaren parte izan zen Slowdive, eta urteetako etenaren ostean —bitartean, Mojave 3 proiektuarekin AEBetako doinuak landu zituzten Neil Halstead eta Rachel Goswellek—, 2014an berriro itzuli zen agertokietara. 2017an Slowdive diskoa atera zuen, gitarretan oinarritutako dream-pop aparta, eta joan den urtean iritsi zen Everything is Alive haren jarraipena. (Larunbatean, 20:30ean, San Miguel gunean).\n\nEzezez',
]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]
jina-reranker-v2-base-multilingual-contrastive-berria-4-mle5-100evCrossEncoderRerankingEvaluator with these parameters:{
"at_k": 10,
"always_rerank_positives": false
}
| Metric | Value |
|---|---|
| map | 0.0238 (+0.0231) |
| mrr@10 | 0.0238 (+0.0236) |
| ndcg@10 | 0.0238 (+0.0234) |
query and positive| query | positive | |
|---|---|---|
| type | string | string |
| details |
|
|
| query | positive |
|---|---|
Nork antolatu du bihar Gasteizko kaleetan Guardia Zibilari egingo zaion omenaldia? |
Inork galdetu al die torturatuei? |
Zergatik dago antxoa kiloa 1,51 eurotan, iaz 1,97 eurotan zegoenean? |
«Bertako produktua eta freskoa nahi dugula esaten badugu, preziatzen badugu, garestiago ordaintzeko prest egon behar dugu». |
Zein dira eskalatzaileak udazken-negurako dituen asmoak harkaitzean? |
Txapelketetarako prestakuntza dela eta, harkaitzean gutxi ibili da azken hilabeteotan, baina bertan izan den asteburuetan, hatzak ederki urratuta itzuli da etxera. Esaterako, duela asteburu batzuk Etxaurin eskalatu zuen aspaldiko partez, eta Fuck the police (8c) bidea kateatu zuen flash eran, erregeleta txikietan eskalatu duen «biderik onenetakoa», eta Adi bidea (8a+) bistaz. Uda partean, kuadrillakoekin arrokara joateko egun batzuk hartuko ditu, eta txapelketak amaitzean, negu aldera, harkaitzean 9a zailtasunetik gorako «proiektu serio bati» heltzeko gogoa du. |
CachedMultipleNegativesRankingLoss with these parameters:{
"scale": 10.0,
"num_negatives": null,
"activation_fn": "torch.nn.modules.activation.Sigmoid",
"mini_batch_size": 16
}
query and positive| query | positive | |
|---|---|---|
| type | string | string |
| details |
|
|
| query | positive |
|---|---|
Noiz amaitzen da BSHko langileen aldi baterako lan erregulazioa? |
Langileen helburua da multinazionalak atzera egitea bere erabakian, eta, horregatik, uste dute gobernuak presio egin dezakeela langileen alde. «Enpresak atzera egin dezan, modu aktibo batean lan egin dezala eskatzen diogu. Jar ditzatela euren bitarteko guztiak Ezkirozko BSHn jarduera egon dadin eta lanpostuak bermatu daitezen». |
Noiz iritsiko da behingoz benetako eskualdaketa Kataluniako aldiriko trenen eskumena Generalitatera? |
Aldirikoak behingoz Generalitatera |
Zein da Nafarroako administrazioaren behin-behinekotasun tasa egungo egonkortze prozesuaren ondoren? |
Nafarroako Gobernuak 603 lanpostuko lan eskaintza publikoa hitzartu du LAB, Afapna eta UGTrekin |
CachedMultipleNegativesRankingLoss with these parameters:{
"scale": 10.0,
"num_negatives": null,
"activation_fn": "torch.nn.modules.activation.Sigmoid",
"mini_batch_size": 16
}
eval_strategy: stepsper_device_train_batch_size: 16per_device_eval_batch_size: 16learning_rate: 2e-05num_train_epochs: 1warmup_ratio: 0.1load_best_model_at_end: Truebatch_sampler: no_duplicatesoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: stepsprediction_loss_only: Trueper_device_train_batch_size: 16per_device_eval_batch_size: 16per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 2e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 1max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.1warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Falsefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Trueignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}parallelism_config: Nonedeepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Nonehub_always_push: Falsehub_revision: Nonegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters: auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseliger_kernel_config: Noneeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: Nonebatch_sampler: no_duplicatesmulti_dataset_batch_sampler: proportionalrouter_mapping: {}learning_rate_mapping: {}| Epoch | Step | Training Loss | Validation Loss | jina-reranker-v2-base-multilingual-contrastive-berria-4-mle5-100ev_ndcg@10 |
|---|---|---|---|---|
| 1.0 | 200 | 0.0278 | 0.0178 | 0.0238 (+0.0234) |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
Base model
jinaai/jina-reranker-v2-base-multilingual