File size: 2,434 Bytes
bb53069
 
 
 
 
 
 
 
 
cf17530
bb53069
 
 
 
9bfa1c4
bb53069
 
 
be9bf77
9bfa1c4
cf17530
bb53069
 
 
cf17530
bb53069
9bfa1c4
bb53069
cf17530
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
---
license: apache-2.0
language:
- pl
base_model:
- speakleash/Bielik-4.5B-v3.0-Instruct
pipeline_tag: text-generation
tags:
- legal
- text-generation-inference
---

# Prosty Język

Prosty Język to otwartoźródłowy asystent AI (czatbot) oparty na polskim modelu językowym [Bielik-4.5B-v3.0-Instruct](https://huggingface.co/speakleash/Bielik-4.5B-v3.0-Instruct), który przekształca pisma zgodnie z [zasadami prostego języka](https://www.gov.pl/web/sluzbacywilna/prosty-jezyk). Dla zachowania poufności wrażliwych danych, **asystent działa w pełni lokalnie**, jako pojedynczy plik wykonywalny na Windows/Linux/MacOS, wykorzystując technologię [llamafile](https://llamafile.ai/). Program automatycznie wykrywa zainstalowane biblioteki GPU (CUDA/ROCm), a w przypadku ich braku wykorzystuje CPU.

### Uruchamianie

Wystarczy pobrać plik [**prosty-jezyk.cmd**](https://huggingface.co/jglowa/prosty-jezyk/resolve/main/prosty-jezyk.cmd?download=true) (klikając prawym przyciskiem -> zapisz link jako...) i uruchomić go (klikając dwukrotnie myszą lub wpisując w wierszu poleceń `./prosty-jezyk.cmd`). Skrypt sam pobierze plik `prosty-jezyk.llamafile` (jeśli nie został wcześniej pobrany), uruchomi go i otworzy stronę [http://localhost:8080](http://localhost:8080) w przeglądarce internetowej. Następnie w polu tekstowym należy wkleić treść skomplikowanego urzędniczego pisma i kliknąć przycisk _Send_. Asystent działa off-line, a wszelkie dane pozostają lokalnie na urządzeniu.

Można też ustawić własny prompt systemowy zamiast domyślnego, wpisując w wierszu poleceń `./prosty-jezyk.cmd --prompt "Jesteś pomocnym asystentem..."`. Więcej parametrów można znaleźć wpisując komendę `./prosty-jezyk.cmd --help`.

### Budowanie

Aby zbudować własną wersję asystenta AI, należy ściągnąć plik `build.cmd` oraz `.args`, ewentualnie zmienić model GGUF w pliku `build.cmd` oraz wyedytować prompt systemowy i inne ustawienia w pliku `.args` zgodnie z pomocą widoczną po wywołaniu komendy `./prosty-jezyk.cmd --help`. Na koniec uruchomić skrypt `./build.cmd`. Po udanym zbudowaniu powinien pojawić się nowy plik `prosty-jezyk.llamafile`.

### Podgląd

[![Prosty Język](https://cdn-uploads.huggingface.co/production/uploads/682faccfdf2cde4aac0985bc/o_AkusjJOVyDn6FhJNc_K.png)](https://cdn-uploads.huggingface.co/production/uploads/682faccfdf2cde4aac0985bc/8DEj8ObNdF_ZT9bbJC_uV.png)