MMTEB: Massive Multilingual Text Embedding Benchmark
Paper • 2502.13595 • Published • 50
sentence1 stringlengths 13 158 | sentence2 stringlengths 10 156 | score float64 1 5 |
|---|---|---|
Bir grup çocuk bahçede oynuyor, arkaplanda da yaşlı bir adam duruyor. | Bir bahçede bir grup erkek çocuk oyun oynuyor, arka planda ise bir adam duruyor. | 4.5 |
Evin içinde bir grup çocuk oynuyor ve arka planda hiçbir erkek yok. | Bir grup çocuk bir bahçede oynuyor ve bir yaşlı adam arka planda duruyor. | 3.2 |
Genç çocuklar dışarıda oynuyorlar ve adam yakındakine gülüyor. | Çocuklar, gülümseyen bir adamın yakınında açık havada oynuyorlar. | 4.7 |
Çocuklar gülümseyen bir adamın yakınında dışarıda oynuyor. | Bir grup çocuk bahçede oynuyor ve arka planda da yaşlı bir adam duruyor. | 3.4 |
Genç oğlanlar dışarıda oynuyorlar ve adam yakında gülümseyerek duruyor. | Bir grup çocuk bahçede oynuyor ve arka planda yaşlı bir adam duruyor. | 3.7 |
İki köpek kavga ediyor | İki köpek kavga ediyor ve birbirine sarılıyor | 4 |
Pantolonlu adamın önünde kahverengi bir köpek başka bir hayvana saldırıyor. | İki köpek kavga ediyor. | 3.5 |
Pantolonlu adamın önünde kahverengi bir köpek başka bir hayvanı saldırıyor. | İki köpek kavga ediyor ve birbirine sarılıyor. | 3.2 |
Hiç kimse tek tekerlekli bisikletle yolculuk etmiyor. | Siyah ceketli bir kişi motosikletle çeşitli numaralar yapıyor. | 2.8 |
Bir kişi tek tekerleli bisikletle gidiyor. | Siyah ceketli bir adam motosikletiyle gösteriler yapıyor. | 3.7 |
Siyah bir motosikletin üzerinde bir kişi bir ceketle gösteriler yapıyor. | Bir kişi bir tekerlekli bisiklete biniyor. | 3.4 |
Maçta forma giyen bir adam topu smaçlıyor. | Basketbol maçında bir adam forma giyerek topa saldırdı | 4.9 |
Basketbol maçında forması olan bir adam topu slam dunk yapıyor | Bir adam basketbol topunu çemberden geçirerek oynuyor ve arka planda bir kalabalık görülüyor | 3.6 |
Oyuncu basketbol topunu nete sokuyor ve arkada bir kalabalık var. | Forma giyen bir adam basketbol maçında topu süzüp atıyor. | 3.8 |
İki kişi kickboks yapıyor, izleyenler de yok. | İki kişi kick boks yapıyor, izleyiciler de izliyor. | 3.4 |
İki genç kadın kickboks maçında dövüşüyor | İki kadın kickboks müsabakasında dövüşüyor. | 4.9 |
İki genç kadın kickboks maçında dövüşmüyor. | İki kadın kickboks maçında karşılıklı dövüşüyor. | 3.9 |
İki kişi kickboks yapıyor, seyirciler izliyor | İki genç kadın kick boks dövüşü yapmıyor. | 3.415 |
İki kadın kick boks maçında kapışıyor | İki kişi kick boks yapıyor, izleyiciler izlemiyor. | 3.7 |
Üç çocuk yaprakların arasına atlıyor. | Üç çocuk yaprakların arasında zıplıyor. | 4.4 |
Üç çocuk yaprakların arasında oturuyor. | Üç çocuk yaprakların arasına atlıyor. | 3.8 |
Kırmızı gömlekli çocuklar yaprakların arasında oynuyor | Üç çocuk yaprakların üzerinde oturuyor. | 3.5 |
Kırmızı gömlekli çocuklar yaprakların arasında oynuyorlar | Üç çocuk yaprakların arasına zıplıyor | 4 |
İki melek, yatmış olan çocukların üzerine kar yağdırıyor. | İki çocuk kar üstünde uzanmış ve kar melekleri yapıyorlar. | 2.9 |
İki çocuk karların üzerinde uzanmış, melekler çiziyorlar. | Kar kıyafeti giyen iki kişi karda uzanmış ve kar melekleri yapıyorlar. | 4.1 |
Kar giysisi giymiş iki kişi karda uzanıp kar melekleri yapıyorlar. | İki melek yatan çocukların üstüne kar yağdırıyor. | 2.5 |
İki çocuk karın üstünde uzanmış, kar melekleri yapıyorlar. | Kar giysisi giymiş iki kişi karda uzanmış ve kar melekleri çiziyor. | 4.2 |
Kostümlü insanlar bir ormanda bir araya gelmiş ve aynı yöne bakıyorlar. | Bir ormanda maskeli insanlar aynı yöne bakıyorlar. | 4.4 |
Kostümlü insanlar bir ormanda bir araya geliyor ve aynı yöne bakıyorlar. | Kostümlü insanlar bir ormanda dağılıyor ve farklı yönlere bakıyorlar. | 3.2 |
İnsanlar ormanın yakınında toplanmış bazı kostümlere bakıyor. | Kostüm giyen insanlar bir ormanda toplanıyor ve aynı yöne bakıyorlar. | 3.635 |
Küçük bir kız kostümlü bir kadına bakıyor. | Kostümlü insanlar bir ormanda dağılıyor ve farklı yönlere bakıyorlar. | 2.4 |
Küçük bir kız, kostümlü bir kadına bakıyor. | İnsanlar ormanın yakınında toplanan bazı kostümlerin üzerinden bakıyorlar. | 2.6 |
Genç bir kız kostümlü bir kadına bakıyor | Kostümlü insanlar bir ormanda toplanıyor ve aynı yöne bakıyorlar. | 2.2 |
Kostümlü insanlar bir ormanda toplanmışlar ve aynı yöne bakıyorlar. | Küçük kız kostümlü bir adamı izliyor. | 3 |
Kostümlü insanlar bir ormanda toplanıyor ve aynı yöne bakıyorlar. | Kostümlü küçük bir kız bir kadına benziyor. | 2 |
Yalnız bir motorsikletçi havaya zıplıyor. | Bir bisikletçi, yalnız başına havaya zıplıyor. | 5 |
Havada zıplayan hiçbir bisikletçi yok. | Yalnız bir bisikletçi havada zıplıyor | 4.2 |
Bir adam boş bir havuza atlıyor | Bir adam tam dolu bir havuza atlıyor | 3 |
Bir adam boş bir havuza atılıyor | Erkeğin kazakları boş havuzun içinde. | 3.1 |
Yalnız bir motorcu havaya sıçrayıyor. | Bir adam dolu bir havuza atlıyor | 1.7 |
Erkeğin kazakları boş havuzdadır. | Yalnız bir bisikletçi havada zıplıyor. | 1.4 |
Tek başına bir bisikletçi havada zıplıyor. | Bir adam boş bir havuza atlıyor. | 1.5 |
Dört çocuk parkta sırtüstü eğiliyor. | Parkta dört çocuk sırtüstü pozisyonunda duruyorlar. | 4.8 |
Dört çocuk spor salonunda sırt üstü eğiliyor. | Parkta dört çocuk ters eğilmeye çalışıyor. | 3.8 |
Dört kız sırtüstü eğilip bahçede oynuyorlar. | Dört kız sırt çeviriyor ve dışarıda oynuyor. | 4.1 |
Oynayan bir adam ellerinde top ile koşuyor. | Bir oyuncu topuyla koşuyor. | 4.3 |
İki grup insan futbol oynuyor. | Bir oyuncu topla koşuyor | 2.1 |
İki takım beyzbol maçında yarışıyor. | Bir oyuncu topla koşuyor. | 3 |
Bir oyuncu topla koşuyor. | İki takım bir futbol maçında yarışıyor. | 2.6 |
Her çocuğun kulübesinin önünde beş adet ahşap tezgah bulunmaktadır. | Beş çocuk ahşap bir kulübenin önünde duruyor. | 3.2 |
Beş çocuk yan yana duruyor ve bir çocukta bir silah var. | Beş çocuk birbirine yakın duruyor ve hiçbirinin silahı yok. | 3.7 |
Beş çocuk birbirine yakın duruyor ve hiçbirinin silahı yok. | Beş çocuk ahşap bir kulübenin önünde duruyor. | 2.6 |
Beş çocuk ahşap bir kulübede duruyor. | Beş çocuk birbirine yakın duruyor ve onlardan birinin silahı var. | 2.7 |
Her çocuğun kulübesinin önünde beş ahşap stand bulunmaktadır. | Beş çocuk yan yana duruyor ve birinin elinde silah var. | 2.3 |
Bir ihtiyar bir tarlada oturuyor. | Bir adam bir tarlada oturuyor. | 4.4 |
Bir adam bir tarlada oturuyor. | Bir adam tarlada koşuyor. | 2.6 |
Bir kişi şapka takıyor ve çimlerin üzerinde oturuyor. | Bir kişi tarlada oturuyor ve bir şapka giyiyor. | 4.1 |
Bir kişi oturuyor ve çimden yapılmış bir şapka takıyor. | Bir kişi şapka takıyor ve çimlerde oturuyor. | 3.4 |
Bir kişi oturuyor ve ot bitmiş bir şapka takıyor. | Bir adam tarlada oturuyor | 3.3 |
Bir adam bir tarlada oturuyor. | Bir kişi şapka takıyor ve çimlerin üzerinde oturuyor. | 3.8 |
Bir grup arkadaş kürek takımıyla nehrin akıntısı üzerinde ilerliyor. | Bir grup arkadaş rafla akıntıya karşı yol alıyor. | 4.9 |
Bir grup arkadaş bir rafta akıntıya karşı yolculuk ediyor | Bir grup bir sal üzerinde akıntıya kapılarak yüzer durumda değildir. | 3.7 |
Arkadaşlardan oluşan bir grup, akıntının üzerinde sal üzerinde sürükleniyor. | Bu grup su güvenliği kurallarını uyguluyor ve koruyucu kıyafetler giyiyor. | 3.2 |
Bir grup arkadaş kürekli kayıkla akıntıya karşı gidiyor. | Bu grup su güvenliği önlemlerini uyguluyor ve koruyucu giyiyor. | 3.1 |
Bir geyik çitin üzerinden atlıyor. | Bir geyik çitin üzerinden atlamıyor. | 3.9 |
İnsanlar üzerinde birçok duvar resminin bulunduğu bir binanın içinde yürüyüş yapıyor | Binada çok sayıda duvar resminin bulunduğu bir binanın dışında insanlar dolaşıyor. | 3.4 |
Birkaç kişi renkli bir binanın önünde duruyor. | Kimse renkli binanın önünde değil. | 3.5 |
İnsanlar üzerinde birçok duvar resmi bulunan bir binanın dışına yürüyormuş. | Renkli binanın önünde kimse yok | 3.6 |
Üzerinde birkaç duvar resmi olan binanın dışından insanlar geçiyor. | Birçok kişi renkli bir binanın önünde duruyor. | 3.6 |
Bir aile, beyzbol topuna vuran küçük bir oğlana bakıyor. | Bir aile, beyzbol topunun eksik olduğu küçük bir çocuğu izliyor. | 3.9 |
Bir çocuk beyzbol topuyla vuruyor | Bir aile, beyzbol topu eksik olan küçük bir oğlana bakıyor. | 3.015 |
Bir çocuğun elindeki beyzbol topu kayıp. | Bir aile beyzbol topuna vurmaya çalışan küçük bir oğlana bakıyor. | 2.7 |
Mor bir insan kalabalığı, birbirinden farklı ışıklı restoran masalarında yemek yiyor. | Mor ışıklarla dolu, kalabalık bir restoranda çeşitli insanlar kırmızı masalarda yemek yiyorlar. | 3.3 |
Bir restoranın içinde çok sayıda Asyalı insan yemek yiyor. | Sarıklı kadın müşterilerle dolu bir restoranda yemek yiyorlar | 2.9 |
Mor giyinmiş bir grup insan, kırmızı ışıkla aydınlatılmış çeşitli restoran masalarında yemek yiyor. | Bir restoranda çok sayıda Asyalı insan yemek yiyor. | 3.1 |
Kalabalık bir restoranda mor ışıklar altında çeşitli insanlar kırmızı masalarda yemek yiyorlar. | Bir restoranın önünde küçük bir grup insan yemek için bekliyor. | 3.2 |
Bir motosiklet sürücüsü beyaz bir motosikletin üzerinde ayakta duruyor. | Hiçbir motosiklet sürücüsü motosikletin üzerinde ayakta durmuyor | 3.8 |
Hiç kimse motorsiklete binip koltukta durmuyor. | Siyah beyaz bir motosiklette oturan biri, motosikletin üzerinde duruyor. | 3.7 |
Bir motosiklet sürücüsü, yolda tehlikeli bir şekilde motosiklet sürüyor. | Bir motosiklet sürücüsü yolda motosikletiyle ilerliyor. | 4.6 |
Karayolunda motosikletle giden bir motosiklet sürücüsü yok. | Bir motosiklet sürücüsü yol üzerinde motosikletiyle gidiyor. | 3.7 |
Kırmızı boyalı bir kask takan bir adam mavi bir motosikletle yolda gidiyor. | Kırmızı kasklı bir motosiklet sürücüsü, mavi bir motosikletle yolda ilerliyor. | 4.8 |
Kask takmayan bir motosiklet sürücüsü yolun kenarında mavi bir motosikletle bekliyor. | Bir motosikletçi bir yol boyunca motosikletiyle gidiyor. | 3.3 |
İki köpek bir ağacın altında oynuyor | Bir köpek havadaki bir sopayı yakalıyor, diğeri de onu izliyor. | 3.7 |
İki köpek bir ağacın yanında oynuyor. | Hava içinde zıplayan bir köpek yok. | 2.7 |
İki köpek bir ağacın altında oynuyor. | Bir köpek havada yüksekte sıçrıyor, diğeri de onu izliyor. | 3 |
Beyazlı bir kız dans ediyor | Dansçı ses ekipmanının önünde dans ediyor. | 4 |
Beyaz giyimli bir kız dans ediyor | Sarışın kız ses ekipmanlarının arkasında dans ediyor. | 3.3 |
Bir kız beyaz kıyafetler giyiyor ve dans ediyor. | Sarışın kız ses ekipmanlarının önünde dans ediyor. | 3.5 |
Sarışın kız ses ekipmanının önünde dans ediyor. | Beyaz giyen bir kız dans etmiyor. | 3.3 |
Üç Asyalı çocuk dans ediyor, bir adam izliyor. | Üç Asyalı çocuk dans ediyor ve bakacak bir erkek yok. | 3.9 |
Üç Asyalı çocuk dans ediyor ve bir adam onları izliyor. | Bir Asyalı adam dans ediyor ve üç çocuk bakıyor. | 3.7 |
Ailenin çocukları oynuyor ve bekliyorlar. | Üç Asyalı çocuk dans ediyor, ciddiyetsiz görünen bir adam ise onları seyrediyor. | 1.9 |
Ailedeki çocuklar sabırla oynuyor ve bekliyor. | Üç Asyalı çocuk dans ediyor ve bir adam bakıyor. | 2.3 |
Oynayan ve bekleyen çocuklar yok. | Üç Asyalı çocuk dans ediyor ve bir adam onları izliyor. | 1.6 |
Bir kadın başının üzerinde Mısır şapkasını giyiyor. | Bir kadın Mısır başlığı takıyor | 4.3 |
Bir kadın Mısır tarzı bir başlık takıyor. | Bir kadın Hint tarzı bir başlıktaki | 4 |
Siyah kadın baş örtüsünün üzerinde gözlük takıyor. | Bir kadın Mısır şapkası takıyor. | 3.6 |
Bir kadın başındaki Mısır şapkasıyla çekilmiş fotoğraf | Kadın gözlük ve siyah bir başörtüsü takıyor. | 2.5 |
Bir yürüyüşçü dağın tepesinde dans ediyor. | Dağın tepesinde dans eden bir yürüyüşçü yok. | 3.2 |
Birkaç ağacın üstündeki kayada garip bir pozisyonda duran hiçbir insan yok. | Bir adam bazı ağaçların üzerinde yüksekte bir kayanın üzerinde ve tuhaf bir pozisyonda duruyor. | 4.3 |
End of preview. Expand in Data Studio
This is a machine-translated version of the SICK-R dataset by mteb.
The translation has been done with MiLMMT-46-4B-v1.0 model.
Citation
@inproceedings{marelli-etal-2014-sick,
abstract = {Shared and internationally recognized benchmarks are fundamental for the development of any computational system. We aim to help the research community working on compositional distributional semantic models (CDSMs) by providing SICK (Sentences Involving Compositional Knowldedge), a large size English benchmark tailored for them. SICK consists of about 10,000 English sentence pairs that include many examples of the lexical, syntactic and semantic phenomena that CDSMs are expected to account for, but do not require dealing with other aspects of existing sentential data sets (idiomatic multiword expressions, named entities, telegraphic language) that are not within the scope of CDSMs. By means of crowdsourcing techniques, each pair was annotated for two crucial semantic tasks: relatedness in meaning (with a 5-point rating scale as gold score) and entailment relation between the two elements (with three possible gold labels: entailment, contradiction, and neutral). The SICK data set was used in SemEval-2014 Task 1, and it freely available for research purposes.},
address = {Reykjavik, Iceland},
author = {Marelli, Marco and
Menini, Stefano and
Baroni, Marco and
Bentivogli, Luisa and
Bernardi, Raffaella and
Zamparelli, Roberto},
booktitle = {Proceedings of the Ninth International Conference on Language Resources and Evaluation ({LREC}'14)},
editor = {Calzolari, Nicoletta and
Choukri, Khalid and
Declerck, Thierry and
Loftsson, Hrafn and
Maegaard, Bente and
Mariani, Joseph and
Moreno, Asuncion and
Odijk, Jan and
Piperidis, Stelios},
month = may,
pages = {216--223},
publisher = {European Language Resources Association (ELRA)},
title = {A {SICK} cure for the evaluation of compositional distributional semantic models},
url = {http://www.lrec-conf.org/proceedings/lrec2014/pdf/363_Paper.pdf},
year = {2014},
}
@article{enevoldsen2025mmtebmassivemultilingualtext,
title={MMTEB: Massive Multilingual Text Embedding Benchmark},
author={Kenneth Enevoldsen and Isaac Chung and Imene Kerboua and Márton Kardos and Ashwin Mathur and David Stap and Jay Gala and Wissam Siblini and Dominik Krzemiński and Genta Indra Winata and Saba Sturua and Saiteja Utpala and Mathieu Ciancone and Marion Schaeffer and Gabriel Sequeira and Diganta Misra and Shreeya Dhakal and Jonathan Rystrøm and Roman Solomatin and Ömer Çağatan and Akash Kundu and Martin Bernstorff and Shitao Xiao and Akshita Sukhlecha and Bhavish Pahwa and Rafał Poświata and Kranthi Kiran GV and Shawon Ashraf and Daniel Auras and Björn Plüster and Jan Philipp Harries and Loïc Magne and Isabelle Mohr and Mariya Hendriksen and Dawei Zhu and Hippolyte Gisserot-Boukhlef and Tom Aarsen and Jan Kostkan and Konrad Wojtasik and Taemin Lee and Marek Šuppa and Crystina Zhang and Roberta Rocca and Mohammed Hamdy and Andrianos Michail and John Yang and Manuel Faysse and Aleksei Vatolin and Nandan Thakur and Manan Dey and Dipam Vasani and Pranjal Chitale and Simone Tedeschi and Nguyen Tai and Artem Snegirev and Michael Günther and Mengzhou Xia and Weijia Shi and Xing Han Lù and Jordan Clive and Gayatri Krishnakumar and Anna Maksimova and Silvan Wehrli and Maria Tikhonova and Henil Panchal and Aleksandr Abramov and Malte Ostendorff and Zheng Liu and Simon Clematide and Lester James Miranda and Alena Fenogenova and Guangyu Song and Ruqiya Bin Safi and Wen-Ding Li and Alessia Borghini and Federico Cassano and Hongjin Su and Jimmy Lin and Howard Yen and Lasse Hansen and Sara Hooker and Chenghao Xiao and Vaibhav Adlakha and Orion Weller and Siva Reddy and Niklas Muennighoff},
publisher = {arXiv},
journal={arXiv preprint arXiv:2502.13595},
year={2025},
url={https://arxiv.org/abs/2502.13595},
doi = {10.48550/arXiv.2502.13595},
}
@article{muennighoff2022mteb,
author = {Muennighoff, Niklas and Tazi, Nouamane and Magne, Lo{\"\i}c and Reimers, Nils},
title = {MTEB: Massive Text Embedding Benchmark},
publisher = {arXiv},
journal={arXiv preprint arXiv:2210.07316},
year = {2022}
url = {https://arxiv.org/abs/2210.07316},
doi = {10.48550/ARXIV.2210.07316},
}
- Downloads last month
- 63