update

README.md

@@ -476,6 +476,288 @@ da: 79844
 
 
 
+#### stsb_multi_mt
+以下都是 train 训练集的信息
+
+
+```text
+语种数量：
+en: 10536
+pt: 10462
+it: 10454
+es: 10437
+nl: 10425
+de: 10413
+fr: 10380
+zh-cn: 10358
+pl: 10338
+ru: 10314
+```
+
+
+样本示例：
+
+| 数据 | 语种 | 样本 |
+| :---: | :---: | :---: |
+| stsb_multi_mt | de | Ein Flugzeug hebt gerade ab. |
+| stsb_multi_mt | de | Ein Mann spielt eine große Flöte. |
+| stsb_multi_mt | de | Ein Mann spielt eine Flöte. |
+| stsb_multi_mt | en | A plane is taking off. |
+| stsb_multi_mt | en | An air plane is taking off. |
+| stsb_multi_mt | en | A man is playing a large flute. |
+| stsb_multi_mt | es | Un avión está despegando. |
+| stsb_multi_mt | es | Un hombre está tocando una gran flauta. |
+| stsb_multi_mt | es | Un hombre está tocando una flauta. |
+| stsb_multi_mt | fr | Un avion est en train de décoller. |
+| stsb_multi_mt | fr | Un homme joue d'une grande flûte. |
+| stsb_multi_mt | fr | Un homme joue de la flûte. |
+| stsb_multi_mt | it | Un aereo sta decollando. |
+| stsb_multi_mt | it | Un uomo sta suonando un grande flauto. |
+| stsb_multi_mt | it | Un uomo sta suonando un flauto. |
+| stsb_multi_mt | nl | Er gaat een vliegtuig opstijgen. |
+| stsb_multi_mt | nl | Een man speelt een grote fluit. |
+| stsb_multi_mt | nl | Een man speelt fluit. |
+| stsb_multi_mt | pl | Samolot wystartował. |
+| stsb_multi_mt | pl | Człowiek gra na dużym flecie. |
+| stsb_multi_mt | pl | Człowiek gra na flecie. |
+| stsb_multi_mt | pt | Um avião está a descolar. |
+| stsb_multi_mt | pt | Um avião aéreo está a descolar. |
+| stsb_multi_mt | pt | Um homem está a tocar uma grande flauta. |
+| stsb_multi_mt | ru | Самолет взлетает. |
+| stsb_multi_mt | ru | Взлетает самолет. |
+| stsb_multi_mt | ru | Человек играет на большой флейте. |
+| stsb_multi_mt | zh-cn | 一架飞机正在起飞。 |
+| stsb_multi_mt | zh-cn | 一个男人正在吹一支大笛子。 |
+| stsb_multi_mt | zh-cn | 一个人在吹笛子。 |
+
+
+
+<details>
+<summary>文本长度</summary>
+<pre><code>0-10: 1025
+10-20: 6326
+20-30: 8096
+30-40: 14187
+40-50: 16517
+50-60: 15156
+60-70: 11326
+70-80: 7522
+80-90: 4780
+90-100: 3399
+100-110: 2746
+110-120: 2310
+120-130: 1993
+130-140: 1635
+140-150: 1307
+150-160: 1256
+160-170: 1084
+170-180: 860
+180-190: 687
+190-200: 521
+200-210: 1384
+</code></pre>
+</details>
+
+
+文本长度统计图像：
+
+![stsb_multi_mt_text_length.jpg](docs/picture/stsb_multi_mt_text_length.jpg)
+
+
+
+#### stsb_multi_mt
+以下都是 train 训练集的信息
+
+```text
+语种数量：
+ru: 169271
+fr: 153806
+eo: 84013
+nl: 75947
+pt: 64838
+es: 64595
+mr: 51807
+en: 35522
+gl: 3096
+```
+
+
+样本示例：
+
+| 数据 | 语种 | 样本 |
+| :---: | :---: | :---: |
+| tatoeba | en | Today is June 18th and it is Muiriel's birthday! |
+| tatoeba | en | Muiriel is 20 now. |
+| tatoeba | en | The password is "Muiriel". |
+| tatoeba | mr | आज १८ जून आहे व आज म्यूरिएलचा वाढदिवस आहे! |
+| tatoeba | mr | म्यूरिएल आता २० वर्षांची आहे. |
+| tatoeba | mr | पासवर्ड "Muiriel" आहे. |
+| tatoeba | eo | Ĉu vi dezirus havi tason da kafo? |
+| tatoeba | eo | Ĉu vi volas tason da kafo? |
+| tatoeba | eo | Ĉu vi deziras tason da kafo? |
+| tatoeba | nl | Wilt u een kopje koffie? |
+| tatoeba | nl | Hoe oud bent u? |
+| tatoeba | nl | We houden niet van regen. |
+| tatoeba | es | ¿Qué estás haciendo? |
+| tatoeba | es | ¡Feliz cumpleaños, Muiriel! |
+| tatoeba | es | La contraseña es "Muiriel". |
+| tatoeba | gl | Que andas a facer? |
+| tatoeba | gl | Feliz aniversario, Muiriel! |
+| tatoeba | gl | O contrasinal é "Muiriel". |
+| tatoeba | pt | Vamos tentar alguma coisa! |
+| tatoeba | pt | Vamos tentar algo! |
+| tatoeba | pt | Preciso ir dormir. |
+| tatoeba | fr | Pour une fois dans ma vie je fais un bon geste... Et ça ne sert à rien. |
+| tatoeba | fr | Lorsqu'il a demandé qui avait cassé la fenêtre, tous les garçons ont pris un air innocent. |
+| tatoeba | fr | Je ne supporte pas ce type. |
+| tatoeba | ru | Один раз в жизни я делаю хорошее дело... И оно бесполезно. |
+| tatoeba | ru | Когда он спросил, кто разбил окно, все мальчики приняли невинный вид. |
+| tatoeba | ru | Я не переношу этого типа. |
+
+
+<details>
+<summary>文本长度</summary>
+<pre><code>0-10: 5303
+10-20: 111682
+20-30: 239994
+30-40: 182232
+40-50: 89407
+50-60: 37804
+60-70: 16780
+70-80: 8054
+80-90: 4099
+90-100: 2395
+100-110: 1413
+110-120: 911
+120-130: 647
+130-140: 477
+140-150: 372
+150-160: 255
+160-170: 188
+170-180: 133
+180-190: 134
+190-200: 116
+200-210: 499
+</code></pre>
+</details>
+
+
+文本长度统计图像：
+
+![tatoeba_text_length.jpg](docs/picture/tatoeba_text_length.jpg)
+
+
+
+#### xnli
+以下都是 train 训练集的信息
+
+```text
+语种数量：
+en: 518657
+th: 517015
+hi: 516809
+de: 516390
+es: 516072
+vi: 515983
+tr: 515740
+bg: 515224
+el: 515126
+fr: 515074
+sw: 514850
+ru: 514849
+ar: 514663
+zh-cn: 514160
+ur: 481443
+```
+
+
+样本示例：
+
+| 数据 | 语种 | 样本 |
+| :---: | :---: | :---: |
+| xnli | ar | المنتج والجغرافيا هو ما يجعل كريم القشط العمل . |
+| xnli | ar | - و قد ال كريم المفاهيمية اثنان اساسيين - المنتج والجغرافيا . |
+| xnli | ar | انت تفقد الاشياء الى المستوى التالي اذا كان الناس يتذكرون . |
+| xnli | bg | продукт и география са това , което прави крем краде работа . |
+| xnli | bg | концептуално крем краде има две основни измерения - продукт и география . |
+| xnli | bg | губиш нещата на следното ниво , ако хората си припомнят . |
+| xnli | de | Produkt und Geographie sind das , was creme abschöpfen Arbeit macht . |
+| xnli | de | Konzeptionell cream abschöpfen hat zwei grundlegende Dimensionen - Produkt und Geographie . |
+| xnli | de | Man verliert die Dinge auf die folgende Ebene , wenn sich die Leute erinnern . |
+| xnli | el | Το προϊόν και η γεωγραφία είναι αυτά που κάνουν την κρέμα να κλέβει . |
+| xnli | el | Η εννοιολογικά κρέμα κρέμα έχει δύο βασικές διαστάσεις - προϊόν και γεωγραφία . |
+| xnli | el | Χάνεις τα πράγματα στο επόμενο επίπεδο , αν οι άνθρωποι θυμούνται . |
+| xnli | en | Product and geography are what make cream skimming work . |
+| xnli | en | Conceptually cream skimming has two basic dimensions - product and geography . |
+| xnli | en | You lose the things to the following level if the people recall . |
+| xnli | es | El producto y la geografía son los que hacen que la crema funcione . |
+| xnli | es | Los robando de crema conceptualmente tienen dos dimensiones básicas : producto y geografía . |
+| xnli | es | Pierdes las cosas al siguiente nivel si la gente recuerda . |
+| xnli | fr | Le produit et la géographie sont ce qui fait travailler la crème de la crème . |
+| xnli | fr | L' écrémage conceptuel de la crème a deux dimensions fondamentales : le produit et la géographie . |
+| xnli | fr | Vous perdez les choses au niveau suivant si les gens se rappellent . |
+| xnli | hi | उत ् पाद और भूगोल क ् या क ् रीम एंजलिस काम बनाते हैं . |
+| xnli | hi | Conceptually क ् रीम एंजलिस में दो मूल आयाम हैं - उत ् पाद और भूगोल । |
+| xnli | hi | अगर लोग याद करते हैं तो आप निम ् न स ् तर पर चीज ़ ें खो देते हैं . |
+| xnli | ru | Продукт и география - это то , что делает крем для работы с кремом . |
+| xnli | ru | Концептуально крем крем имеет два основных измерения - продукт и география . |
+| xnli | ru | Вы теряете все до следующего уровня , если люди помнят . |
+| xnli | sw | Bidhaa na geography ndio hufanya kazi ya utoaji wa cream . |
+| xnli | sw | Sakata cream ya conceptually ina vipimo viwili vya msingi - bidhaa na geography . |
+| xnli | sw | Wewe mambo kwa kiwango kifuatacho kama watu alipo . |
+| xnli | th | สินค้า และ ภูมิศาสตร์ คือ สิ่ง ที่ ทำให้ ครีม ยักยอก งาน |
+| xnli | th | ท่า ครีม ยักยอก มี สอง มิติ พื้นฐาน   -   สินค้า และ ภูมิศาสตร์ |
+| xnli | th | คุณ สูญเสีย สิ่ง ต่างๆ ไป ใน ระดับ ต่อไปนี้ หาก ประชาชน จดจำ |
+| xnli | tr | Ürün ve coğrafya , krem kaymağını işi yapan şey . |
+| xnli | tr | Kavramsal krem kaymağını iki temel boyutu vardır - ürün ve coğrafya . |
+| xnli | tr | Eğer insanlar hani , aşağıdaki seviyeye . |
+| xnli | ur | مصنوعہ اور جغرافیہ |
+| xnli | ur | ارضیات کی ناپیدی اور جغرافیہ نے دو بنیادی فسل تصاویر اور جغرافیہ کا اشتراک کیا ہے ۔ |
+| xnli | ur | آپ کو مندرجہ ذیل معلومات میں سے کسی کو کھو دیا گیا ہے . |
+| xnli | vi | Sản phẩm và địa lý là những gì làm cho kem skimming làm việc . |
+| xnli | vi | Conceptually kem skimming có hai kích thước cơ bản - sản phẩm và địa lý . |
+| xnli | vi | Anh sẽ mất mọi thứ ở mức độ sau nếu người dân nhớ lại . |
+| xnli | zh-cn | 产品 和 地理 是 什么 使 奶油 抹 霜 工作 . |
+| xnli | zh-cn | 从 概念 上 看 , 奶油 收入 有 两 个 基本 方面 产品 和 地理 . |
+| xnli | zh-cn | 如果 人们 记得 的 话 , 你 就 会 把 事情 弄 丢 了 . |
+
+
+<details>
+<summary>文本长度</summary>
+<pre><code>0-10: 27403
+10-20: 320061
+20-30: 725257
+30-40: 969299
+40-50: 1057959
+50-60: 1008843
+60-70: 843605
+70-80: 647293
+80-90: 471139
+90-100: 336650
+100-110: 245307
+110-120: 181959
+120-130: 139761
+130-140: 112214
+140-150: 91378
+150-160: 77845
+160-170: 65331
+170-180: 55759
+180-190: 47623
+190-200: 40554
+200-210: 236815
+</code></pre>
+</details>
+
+
+文本长度统计图像：
+
+![xnli_text_length.jpg](docs/picture/xnli_text_length.jpg)
+
+
+
+
+
+
 ### 参考来源
 <details>
 <summary>参考的数据来源,展开查看</summary>

examples/make_subset_details.py

@@ -12,7 +12,7 @@ from project_settings import project_path
 
 def get_args():
     parser = argparse.ArgumentParser()
-    parser.add_argument("--dataset_name", default="scandi_langid", type=str)
+    parser.add_argument("--dataset_name", default="xnli", type=str)
     parser.add_argument(
         "--dataset_cache_dir",
         default=(project_path / "hub_datasets").as_posix(),

language_identification.py

@@ -16,6 +16,7 @@ _URLS = {
     "nordic_langid": "data/nordic_langid.jsonl",
     "scandi_langid": "data/scandi_langid.jsonl",
     "stsb_multi_mt": "data/stsb_multi_mt.jsonl",
+    "tatoeba": "data/tatoeba.jsonl",
     "xnli": "data/xnli.jsonl",
 
 }
@@ -80,6 +81,7 @@ class LanguageIdentification(datasets.GeneratorBasedBuilder):
         datasets.BuilderConfig(name="nordic_langid", version=VERSION, description="nordic_langid"),
         datasets.BuilderConfig(name="scandi_langid", version=VERSION, description="scandi_langid"),
         datasets.BuilderConfig(name="stsb_multi_mt", version=VERSION, description="stsb_multi_mt"),
+        datasets.BuilderConfig(name="tatoeba", version=VERSION, description="tatoeba"),
         datasets.BuilderConfig(name="xnli", version=VERSION, description="xnli"),
 
     ]