Update README.md
Browse files
    	
        README.md
    CHANGED
    
    | @@ -57,3 +57,17 @@ configs: | |
| 57 | 
             
              - split: train
         | 
| 58 | 
             
                path: 50%/train-*
         | 
| 59 | 
             
            ---
         | 
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | |
|  | 
|  | |
| 57 | 
             
              - split: train
         | 
| 58 | 
             
                path: 50%/train-*
         | 
| 59 | 
             
            ---
         | 
| 60 | 
            +
            # ABEJA-CC-JA-edu
         | 
| 61 | 
            +
            ## Summary
         | 
| 62 | 
            +
            このデータセットは[株式会社ABEJA](https://www.abejainc.com/)が公開する[ABEJA-CC-JA](https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409)に対し、
         | 
| 63 | 
            +
            [tokyotech-llm/edu-classifier](https://huggingface.co/tokyotech-llm/edu-classifier)でフィルタリングしたものとなります。
         | 
| 64 | 
            +
             | 
| 65 | 
            +
            ## 10%
         | 
| 66 | 
            +
            LLM-based classifierで上位10%のスコアの文章です。閾値には`>= 1.9`を使用しました。
         | 
| 67 | 
            +
             | 
| 68 | 
            +
            ## 30%
         | 
| 69 | 
            +
            LLM-based classifierで上位30%のスコアの文章です。閾値には`>= 1.02`を使用しました。
         | 
| 70 | 
            +
             | 
| 71 | 
            +
            ## 50% 
         | 
| 72 | 
            +
            LLM-based classifierで上位50%のスコアの文章です。閾値には`>= 0.98`を使用しました。
         | 
| 73 | 
            +
             |