cuadron11/jina-reranker-v2-base-multilingual-contrastive-parl-4and100ev

CrossEncoder based on jinaai/jina-reranker-v2-base-multilingual

This is a Cross Encoder model finetuned from jinaai/jina-reranker-v2-base-multilingual using the sentence-transformers library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.

Model Details

Model Description

• Model Type: Cross Encoder
• Base model: jinaai/jina-reranker-v2-base-multilingual
• Maximum Sequence Length: 1024 tokens
• Number of Output Labels: 1 label

Model Sources

• Documentation: Sentence Transformers Documentation
• Documentation: Cross Encoder Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Cross Encoders on Hugging Face

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import CrossEncoder

# Download from the 🤗 Hub
model = CrossEncoder("cuadron11/jina-reranker-v2-base-multilingual-contrastive-parl-4and100ev")
# Get scores for pairs of texts
pairs = [
    ['Nork aurkeztu zuen bitartekaritza-prozedura ezartzeari buruzko mozioa?', '[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, bitartekaritza-prozedura ezartzeari buruz. Eztabaida eta behin betiko ebazpena]\n[MAEZTU PEREZ, (EH Bildu)]:\narteko negoziazio bat izan da, argi eta garbi. Despatxo itxietan egindako negoziazio bat izan da honetan ere. Iberdrolak eta Endesak euren etekin ekonomikoak handitzen jarraitu nahi dute, eta horretarako negoziazio bat hasi zuten Alderdi Popularraren gobernuarekin. Emaitza, badakigu, ad hoc egindako legedi bat, araudi bat, Garoña berriro zabaltzeko, inbertsioetarako kostea gutxitzeko, segurtasun neurriak murrizten dituen eta presio fiskala malgutzen duen ad hoc egindako araudia. Emaitza, badakigu, esan dut, hori (Date: 05.06.2014)'],
    ['Zein da EH Bildu legebiltzar-taldearen jarrera gaixorik dauden euskal presoak askatzeari dagokionez?', '[TOPIC: EH Bildu legebiltzar-taldeak egindako legez besteko proposamena, gaixorik dauden euskal presoak askatzeari buruz. Eztabaida eta behin betiko ebazpena]\n[LLANOS GÓMEZ, (PV-ETP)]:\nEta zuek berdin jarraitzen duzue; betikoan jarraitzen duzue. Betikoan. Bide luzea geratzen zaizue egiteko; bide luzea. Pentsatzen dut...; agian ez duzue aitortu nahiko, makurraraztea delako –zuek esan duzuen moduan–, baina ezin diguzue inolako irakaspenik eman giza eskubideei buruz, gutako inori ere ez. Ezin diguzue inolako irakaspenik eman giza eskubideei buruz, kasurik onenean, isilik zeundetenok eta, kasurik okerrenean, ETA talde terroristak egiten zuena txalotzen ari zinetenok. Esan (Date: 27.03.2014)'],
    ['Zein da Carmelo Barrio Baroja legebiltzarkidearen iritzia Eusko Jaurlaritzak Kultura Ondarearen Euskal Autonomia Erkidegoko Kontseiluaren inguruan duen jarrerari buruz?', '[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, Eusko Jaurlaritzak Kultura Ondarearen Euskal Autonomia Erkidegoko Kontseiluaren osaerari, antolamenduari, funtzionamenduari eta zereginei dagokienez dituen irizpideen inguruan. Eztabaida eta behin betiko ebazpena]\n[BARRIO BAROJA, (PV-ETP)]:\nbegira, are gehiago sendotzen dugu Elizaren betekizuna Autonomia Erkidego honetan. Gallástegui andreak tematsu izatea aipatu du; bai, egia da legegintza-prozedura normalean tematzen naizela. Hori egin nuen ponentzia parlamentarioan; hori egin dut interpelazioan eta interpelazioaren ondorioan, hau da, mozioan. Beraz, hori ere...Tema logiko eta normala da prozedura parlamentarioaren barruan. Ez nuen orduan lortu, erregulazioa beheratu egin baitzen, legezkotik administratibora, erregelamendukora; eta ez dut orain lortzen, erdibideko bat (Date: 06.02.2020)'],
    ['Zein da EITBko zuzendari nagusia eta Administrazio Kontseiluko kideak hautatzeko prozedura aldatzeko MistoaUPyD legebiltzar-taldearen proposamena?', '[TOPIC: MistoaUPyD legebiltzar-taldeak egindako legez besteko proposamena, Euskal Irrati Telebista erakunde publikoaren Administrazio Kontseiluko zuzendari nagusia eta kideak hautatzeko prozedura aldatzeari buruz. Eztabaida eta behin betiko ebazpena]\n[OYARZABAL DE MIGUEL, (PV-ETP)]:\nEskerrik asko, presidente andrea. Eserlekutik hitz egiteko asmoa nuen, baina… Hara, Maneiro jauna, uste dut gaur hona ekarri duzun proposamenak ez duela zentzurik. Oso ondo dakizu zuk gaur hona ekarri duzun proposamenak ez duela heldulekurik, ez dela EITBren arazoen konponbidea. Hemen denontzat askatzen ahalegindu da, Telemadriden adibidea jarrita. Egia esan, adibide ona ekarri duzu, bai. Eta esan duzu ea guk kontrolatzen al dugun. Ni dezentetan iraintzen nauten eta batik bat Rosa Díez azaltzen den telebista da. Ni Madrilera joaten naizen bakoitzean Telemadrid jartzen dut, eta Rosa Díez eta euskal PP iraintzen duen jendea bakarrik ikusten dut. Ez dakit horri buruz ari zaren telebistak kontrolatzeko modua aipatzen duzunean. Nik uste dut EITBk denok hausnarketa bat egitea behar duela, esaldi hutsetik haratago, eta Alderdi Popularrak nahi du, dudarik gabe, hau denon telebista izateko adinako akordioak eraiki ditzagun; profesionaltasuna bila dezagun nahi du. ETB eta bere profesionalak BBC balira, nik eta nire taldeak zure proposamenaren alde bozkatuko genuke. BBCren hautapensistema, BBCren antzeko telebista bagenu, jakina. Baina ezin zara hasi etxea teilatutik egiten. Eta zuk oso ondo dakizu gaur zuzendari nagusia aldatzen badugu zuk planteatzen duzun sistemaren bitartez, kontseilua (ez dakit legea irakurri duzun)… Kontseilua ez da betearazlea! Zuk administraziokontseiluaren planteamendua egin nahi duzu, kontseiluak ia eskumenik ez duen arren. Erantzukizun betearazle ia osoa zuzendaritza nagusian eta haren taldean dago! Eta nik esaten dizut emateko izen bat ETBren (Date: 31.10.2013)'],
    ['Zein da Elkarrekin Podemos talde parlamentarioaren helburua Alderdi Popularraren ustelkeriari buruzko legez besteko proposamenarekin?', '[TOPIC: Elkarrekin Podemos talde parlamentarioak egindako legez besteko proposamena, Alderdi Popularraren ustelkeriari buruz. Eztabaida eta behin betiko ebazpena]\n[PASTOR GARRIDO, (SV-ES)]:\nTira, Larrion andrea, asko harritzen nau, pertsona azkarra zarela uste dudalako eta zenbatu ahal izango zenuela pentsatzen dudalako: denbora bera erabili dut proposamen honen benetako asmoak kritikatzeko eta Alderdi Popularraren ustelkeria kritikatzeko. Bi orri kasu bakoitzerako; denbora bera, alegia. Beharbada, bata bestea baino deigarriagoa irudituko zitzaizun. Argi hitz egitearren, hemen asmo aitortuak eta asmo aitortu gabeak daude mota honetako ekimenak egiten direnean. Hala gertatu zen Estatuko Aurrekontu Orokorrekin, baita gai honekin ere. Eta bikoitza da, gainera. Lehenik eta behin, Iglesias jaunak hurrengo astean aurkeztuko duen zentsura-mozio irrealaren entsegu orokor moduko bat egin nahi duzue Podemosen aldetik; eta, bestetik, estualdian jarri nahi duzue, berriz ere, koalizio-gobernua. Kontua da batzuetan onuragarria izaten dela ia 140 urte dituen alderdi bateko kide izatea: aspalditik ezagutzen ditugu horrelako trikimailuak, zuenak nahiz zuek bezalako beste batzuenak, eta horretan ez gara eroriko. Egina daukagu soldadutza; duela urte asko, gainera. Soldadutza eginda harrapatzen gaituzue Madrilen, zuek aurkeztu nahi izan duzuenaren gisako zentsura-mozio bat aurkezten duzuenean; hura aurkeztu behar izateko jatorrizko bekatua daukazue, zuek ahalbidetu baitzenuten gaur Rajoy jaunak Espainiako presidente gisa jarraitzea, eta ez presidente sozialista batek. Hautagaiaren kontra bozkatu zenuten bi aldiz, bata bestearen jarraian. Horrenbestez, eta zuei horrenbeste interesatzen zaizuen eztabaida horretan gaudenez, nik ere gauza bat eskatu nahi dizuet, Pedro Sánchez jaunak ere dagoeneko eskatu dizuen (Date: 08.06.2017)'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

# Or rank different texts based on similarity to a single text
ranks = model.rank(
    'Nork aurkeztu zuen bitartekaritza-prozedura ezartzeari buruzko mozioa?',
    [
        '[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, bitartekaritza-prozedura ezartzeari buruz. Eztabaida eta behin betiko ebazpena]\n[MAEZTU PEREZ, (EH Bildu)]:\narteko negoziazio bat izan da, argi eta garbi. Despatxo itxietan egindako negoziazio bat izan da honetan ere. Iberdrolak eta Endesak euren etekin ekonomikoak handitzen jarraitu nahi dute, eta horretarako negoziazio bat hasi zuten Alderdi Popularraren gobernuarekin. Emaitza, badakigu, ad hoc egindako legedi bat, araudi bat, Garoña berriro zabaltzeko, inbertsioetarako kostea gutxitzeko, segurtasun neurriak murrizten dituen eta presio fiskala malgutzen duen ad hoc egindako araudia. Emaitza, badakigu, esan dut, hori (Date: 05.06.2014)',
        '[TOPIC: EH Bildu legebiltzar-taldeak egindako legez besteko proposamena, gaixorik dauden euskal presoak askatzeari buruz. Eztabaida eta behin betiko ebazpena]\n[LLANOS GÓMEZ, (PV-ETP)]:\nEta zuek berdin jarraitzen duzue; betikoan jarraitzen duzue. Betikoan. Bide luzea geratzen zaizue egiteko; bide luzea. Pentsatzen dut...; agian ez duzue aitortu nahiko, makurraraztea delako –zuek esan duzuen moduan–, baina ezin diguzue inolako irakaspenik eman giza eskubideei buruz, gutako inori ere ez. Ezin diguzue inolako irakaspenik eman giza eskubideei buruz, kasurik onenean, isilik zeundetenok eta, kasurik okerrenean, ETA talde terroristak egiten zuena txalotzen ari zinetenok. Esan (Date: 27.03.2014)',
        '[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, Eusko Jaurlaritzak Kultura Ondarearen Euskal Autonomia Erkidegoko Kontseiluaren osaerari, antolamenduari, funtzionamenduari eta zereginei dagokienez dituen irizpideen inguruan. Eztabaida eta behin betiko ebazpena]\n[BARRIO BAROJA, (PV-ETP)]:\nbegira, are gehiago sendotzen dugu Elizaren betekizuna Autonomia Erkidego honetan. Gallástegui andreak tematsu izatea aipatu du; bai, egia da legegintza-prozedura normalean tematzen naizela. Hori egin nuen ponentzia parlamentarioan; hori egin dut interpelazioan eta interpelazioaren ondorioan, hau da, mozioan. Beraz, hori ere...Tema logiko eta normala da prozedura parlamentarioaren barruan. Ez nuen orduan lortu, erregulazioa beheratu egin baitzen, legezkotik administratibora, erregelamendukora; eta ez dut orain lortzen, erdibideko bat (Date: 06.02.2020)',
        '[TOPIC: MistoaUPyD legebiltzar-taldeak egindako legez besteko proposamena, Euskal Irrati Telebista erakunde publikoaren Administrazio Kontseiluko zuzendari nagusia eta kideak hautatzeko prozedura aldatzeari buruz. Eztabaida eta behin betiko ebazpena]\n[OYARZABAL DE MIGUEL, (PV-ETP)]:\nEskerrik asko, presidente andrea. Eserlekutik hitz egiteko asmoa nuen, baina… Hara, Maneiro jauna, uste dut gaur hona ekarri duzun proposamenak ez duela zentzurik. Oso ondo dakizu zuk gaur hona ekarri duzun proposamenak ez duela heldulekurik, ez dela EITBren arazoen konponbidea. Hemen denontzat askatzen ahalegindu da, Telemadriden adibidea jarrita. Egia esan, adibide ona ekarri duzu, bai. Eta esan duzu ea guk kontrolatzen al dugun. Ni dezentetan iraintzen nauten eta batik bat Rosa Díez azaltzen den telebista da. Ni Madrilera joaten naizen bakoitzean Telemadrid jartzen dut, eta Rosa Díez eta euskal PP iraintzen duen jendea bakarrik ikusten dut. Ez dakit horri buruz ari zaren telebistak kontrolatzeko modua aipatzen duzunean. Nik uste dut EITBk denok hausnarketa bat egitea behar duela, esaldi hutsetik haratago, eta Alderdi Popularrak nahi du, dudarik gabe, hau denon telebista izateko adinako akordioak eraiki ditzagun; profesionaltasuna bila dezagun nahi du. ETB eta bere profesionalak BBC balira, nik eta nire taldeak zure proposamenaren alde bozkatuko genuke. BBCren hautapensistema, BBCren antzeko telebista bagenu, jakina. Baina ezin zara hasi etxea teilatutik egiten. Eta zuk oso ondo dakizu gaur zuzendari nagusia aldatzen badugu zuk planteatzen duzun sistemaren bitartez, kontseilua (ez dakit legea irakurri duzun)… Kontseilua ez da betearazlea! Zuk administraziokontseiluaren planteamendua egin nahi duzu, kontseiluak ia eskumenik ez duen arren. Erantzukizun betearazle ia osoa zuzendaritza nagusian eta haren taldean dago! Eta nik esaten dizut emateko izen bat ETBren (Date: 31.10.2013)',
        '[TOPIC: Elkarrekin Podemos talde parlamentarioak egindako legez besteko proposamena, Alderdi Popularraren ustelkeriari buruz. Eztabaida eta behin betiko ebazpena]\n[PASTOR GARRIDO, (SV-ES)]:\nTira, Larrion andrea, asko harritzen nau, pertsona azkarra zarela uste dudalako eta zenbatu ahal izango zenuela pentsatzen dudalako: denbora bera erabili dut proposamen honen benetako asmoak kritikatzeko eta Alderdi Popularraren ustelkeria kritikatzeko. Bi orri kasu bakoitzerako; denbora bera, alegia. Beharbada, bata bestea baino deigarriagoa irudituko zitzaizun. Argi hitz egitearren, hemen asmo aitortuak eta asmo aitortu gabeak daude mota honetako ekimenak egiten direnean. Hala gertatu zen Estatuko Aurrekontu Orokorrekin, baita gai honekin ere. Eta bikoitza da, gainera. Lehenik eta behin, Iglesias jaunak hurrengo astean aurkeztuko duen zentsura-mozio irrealaren entsegu orokor moduko bat egin nahi duzue Podemosen aldetik; eta, bestetik, estualdian jarri nahi duzue, berriz ere, koalizio-gobernua. Kontua da batzuetan onuragarria izaten dela ia 140 urte dituen alderdi bateko kide izatea: aspalditik ezagutzen ditugu horrelako trikimailuak, zuenak nahiz zuek bezalako beste batzuenak, eta horretan ez gara eroriko. Egina daukagu soldadutza; duela urte asko, gainera. Soldadutza eginda harrapatzen gaituzue Madrilen, zuek aurkeztu nahi izan duzuenaren gisako zentsura-mozio bat aurkezten duzuenean; hura aurkeztu behar izateko jatorrizko bekatua daukazue, zuek ahalbidetu baitzenuten gaur Rajoy jaunak Espainiako presidente gisa jarraitzea, eta ez presidente sozialista batek. Hautagaiaren kontra bozkatu zenuten bi aldiz, bata bestearen jarraian. Horrenbestez, eta zuei horrenbeste interesatzen zaizuen eztabaida horretan gaudenez, nik ere gauza bat eskatu nahi dizuet, Pedro Sánchez jaunak ere dagoeneko eskatu dizuen (Date: 08.06.2017)',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

Evaluation

Metrics

Cross Encoder Reranking

• Dataset: jina-reranker-v2-base-multilingual-contrastive-parl-4and100ev
• Evaluated with CrossEncoderRerankingEvaluator with these parameters:

  {
      "at_k": 10,
      "always_rerank_positives": false
  }
  

Metric	Value
map	0.0200 (+0.0191)
mrr@10	0.0200 (+0.0197)
ndcg@10	0.0200 (+0.0192)

Training Details

Training Dataset

Unnamed Dataset

• Size: 3,200 training samples
• Columns: query and positive
• Approximate statistics based on the first 1000 samples:

  	query	positive
  type	string	string
  details	min: 32 characters mean: 101.44 characters max: 283 characters	min: 500 characters mean: 1009.73 characters max: 2275 characters

• Samples:

  query	positive
  Noiz izan zen aurreikusita Ekarpenen Legea mahai gainean egotea?	[TOPIC: Mozioa, Javier Ruiz de Arbulo Cerio Euskal Talde Popularreko legebiltzarkideak aurkeztua, ekarpenen legeproiektuari buruz. Eztabaida eta behin betiko ebazpena] [PINEDO BUSTAMANTE, (EH Bildu)]: Ez delako lehen aldia Herri Dirubideen Euskal Kontseiluak Ekarpenen Legearekin lotutako konpromiso bat hartu eta betetzen ez duena. Eta ez naiz legegintzaldi honetaz ari. Aurreko legegintzaldian ere elkarrizketak egon ziren Herri Dirubideen Euskal Kontseiluan Ekarpenen Legeari dagokionez, eta gauza batengatik edo bestearengatik –eta esan dut nire mintzaldian–, eta berdin zait zergatik, batengatik edo bestearengatik. Kontua da 2018an gaudela eta Ekarpenen Legea ez dagoela mahaiaren gainean. Eta badakizu zer gertatzen (Date: 22.11.2018)
  Zer kritika egin zion Pastor Garridok Fernández jaunari terrorismoaren biktimei egingo zaizkien omenaldiei buruz?	[TOPIC: Mozioa, Gorka Maneiro Labayen MistoaUPyD taldeko legebiltzarkideak aurkeztua, Euskadiko udalek terrorismoaren biktimei egingo dizkieten omenaldiei buruz. Eztabaida eta behin betiko ebazpena] [PASTOR GARRIDO, (SV-ES)]: Iturrate jauna, lehen esan dizut, eta berriz esango dizut: ez naiz hona etorri zuei aurre egiteko zeren, zorionez, gai honetan, funtsean, bat baikatoz eta horri eutsi behar diogula uste dut. Baina ez iezadazu, arren, leialtasuna aipatu, Iturrate jauna. Guk, leialtasun osoz, lehenengo minututik esan genizuen zuei, Jaurlaritzari eta Fernández jaunari berari ez genuela gogoko idazkaritza horren planteamendua. Idazki bidez helarazi genizkizuen gure ekarpen eta iradokizunak. Eta, noski, zerbait gogoko ez dugunean kritika-eskubidea izateko aukera izango dugu, ezta? Eta egiten ari garen zenbait gauza ez ditugunez gogoko, leialtasun osoz eta gardentasun osoz, esan egin dizugu hemen. Zeren ez baita egia, zuk diozunez, ez direla omenaldiak bultzatzen; kontua da udalei emate...
  Zein da Eusko Jaurlaritzaren jarrera Gizarte Elkarrizketarako Organo Iraunkorraren inguruan?	[TOPIC: Mozioa, Jon Hernández Hidalgo Elkarrekin Podemos taldeko legebiltzarkideak aurkeztua, Gizarte Elkarrizketarako Organo Iraunkorraren egungo egoerari buruz. Eztabaida eta behin betiko ebazpena] [AIARTZA ZALLO, (EA-NV)]: botereak daude eta bakoitzak legitimoki planteatzen ditu bere iritziak, eta Jaurlaritzaren jarrera bat da eta argia da, eta azaldu dizut dagoeneko, azaldu dizut, oso argia da: gobernatzea da, politika publikoak markatzea da, enplegu-politika publikoak markatzea, horixe da. Hori da Jaurlaritzaren jarrera. Hori da Jaurlaritzaren oreka eta hori da egiten ari dena. Lemaz ari bagara, ez lan-harremanen lemaz, politika publikoen lemaz, hori da egiten ari dena, ez izan inolako zalantzarik. (Date: 10.05.2018)

• Loss: CachedMultipleNegativesRankingLoss with these parameters:

  {
      "scale": 10.0,
      "num_negatives": null,
      "activation_fn": "torch.nn.modules.activation.Sigmoid",
      "mini_batch_size": 16
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 800 evaluation samples
• Columns: query and positive
• Approximate statistics based on the first 800 samples:

  	query	positive
  type	string	string
  details	min: 31 characters mean: 101.69 characters max: 247 characters	min: 504 characters mean: 977.94 characters max: 2113 characters

• Samples:

  query	positive
  Nork aurkeztu zuen bitartekaritza-prozedura ezartzeari buruzko mozioa?	[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, bitartekaritza-prozedura ezartzeari buruz. Eztabaida eta behin betiko ebazpena] [MAEZTU PEREZ, (EH Bildu)]: arteko negoziazio bat izan da, argi eta garbi. Despatxo itxietan egindako negoziazio bat izan da honetan ere. Iberdrolak eta Endesak euren etekin ekonomikoak handitzen jarraitu nahi dute, eta horretarako negoziazio bat hasi zuten Alderdi Popularraren gobernuarekin. Emaitza, badakigu, ad hoc egindako legedi bat, araudi bat, Garoña berriro zabaltzeko, inbertsioetarako kostea gutxitzeko, segurtasun neurriak murrizten dituen eta presio fiskala malgutzen duen ad hoc egindako araudia. Emaitza, badakigu, esan dut, hori (Date: 05.06.2014)
  Zein da EH Bildu legebiltzar-taldearen jarrera gaixorik dauden euskal presoak askatzeari dagokionez?	[TOPIC: EH Bildu legebiltzar-taldeak egindako legez besteko proposamena, gaixorik dauden euskal presoak askatzeari buruz. Eztabaida eta behin betiko ebazpena] [LLANOS GÓMEZ, (PV-ETP)]: Eta zuek berdin jarraitzen duzue; betikoan jarraitzen duzue. Betikoan. Bide luzea geratzen zaizue egiteko; bide luzea. Pentsatzen dut...; agian ez duzue aitortu nahiko, makurraraztea delako –zuek esan duzuen moduan–, baina ezin diguzue inolako irakaspenik eman giza eskubideei buruz, gutako inori ere ez. Ezin diguzue inolako irakaspenik eman giza eskubideei buruz, kasurik onenean, isilik zeundetenok eta, kasurik okerrenean, ETA talde terroristak egiten zuena txalotzen ari zinetenok. Esan (Date: 27.03.2014)
  Zein da Carmelo Barrio Baroja legebiltzarkidearen iritzia Eusko Jaurlaritzak Kultura Ondarearen Euskal Autonomia Erkidegoko Kontseiluaren inguruan duen jarrerari buruz?	[TOPIC: Mozioa, Carmelo Barrio Baroja Euskal Talde Popularreko legebiltzarkideak aurkeztua, Eusko Jaurlaritzak Kultura Ondarearen Euskal Autonomia Erkidegoko Kontseiluaren osaerari, antolamenduari, funtzionamenduari eta zereginei dagokienez dituen irizpideen inguruan. Eztabaida eta behin betiko ebazpena] [BARRIO BAROJA, (PV-ETP)]: begira, are gehiago sendotzen dugu Elizaren betekizuna Autonomia Erkidego honetan. Gallástegui andreak tematsu izatea aipatu du; bai, egia da legegintza-prozedura normalean tematzen naizela. Hori egin nuen ponentzia parlamentarioan; hori egin dut interpelazioan eta interpelazioaren ondorioan, hau da, mozioan. Beraz, hori ere...Tema logiko eta normala da prozedura parlamentarioaren barruan. Ez nuen orduan lortu, erregulazioa beheratu egin baitzen, legezkotik administratibora, erregelamendukora; eta ez dut orain lortzen, erdibideko bat (Date: 06.02.2020)

• Loss: CachedMultipleNegativesRankingLoss with these parameters:

  {
      "scale": 10.0,
      "num_negatives": null,
      "activation_fn": "torch.nn.modules.activation.Sigmoid",
      "mini_batch_size": 16
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 2e-05
• warmup_ratio: 0.1
• load_best_model_at_end: True
• batch_sampler: no_duplicates

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 3
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: True
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Epoch	Step	Training Loss	Validation Loss	jina-reranker-v2-base-multilingual-contrastive-parl-4and100ev_ndcg@10
1.0	200	0.0432	0.0215	0.0200 (+0.0192)
2.0	400	0.019	0.0202	0.0200 (+0.0192)
3.0	600	0.0177	0.0202	0.0200 (+0.0192)

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.9.7
• Sentence Transformers: 5.0.0
• Transformers: 4.56.0
• PyTorch: 2.7.1+cu126
• Accelerate: 1.5.2
• Datasets: 4.0.0
• Tokenizers: 0.22.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}