license: apache-2.0
language:
- pl
base_model:
- speakleash/Bielik-4.5B-v3.0-Instruct
pipeline_tag: text-generation
tags:
- legal
Prosty Język
Prosty Język to otwartoźródłowy asystent AI (czatbot) oparty na polskim modelu językowym Bielik-4.5B-v3.0-Instruct, który przekształca pisma zgodnie z zasadami prostego języka. Dla zachowania poufności wrażliwych danych, asystent działa w pełni lokalnie, jako pojedynczy plik wykonywalny na Windows/Linux/MacOS, wykorzystując technologię llamafile. Program automatycznie wykrywa zainstalowane biblioteki GPU (CUDA/ROCm), a w przypadku ich braku wykorzystuje CPU.
Uruchamianie
Wystarczy pobrać plik prosty-jezyk.zip, rozpakować go, uruchomić (klikając dwukrotnie myszą lub wpisując w wierszu poleceń ./prosty-jezyk.exe) i otworzyć stronę http://localhost:8080 w przeglądarce internetowej. Następnie w polu tekstowym wkleić treść skomplikowanego urzędniczego pisma i kliknąć przycisk Send. Asystent działa off-line, a wszelkie dane pozostają lokalnie na urządzeniu.
Można też ustawić własny prompt systemowy zamiast domyślnego, wpisując w wierszu poleceń ./prosty-jezyk.exe --prompt "Jesteś pomocnym asystentem...". Więcej parametrów można znaleźć wpisując komendę ./prosty-jezyk.exe --help.
Budowanie
Aby zbudować własną wersję asystenta AI, należy ściągnąć pliki build.bat (Windows) lub build.sh (Linux/MacOS) oraz .args, ewentualnie zmienić model GGUF w pliku build.bat/build.sh oraz wyedytować prompt systemowy i inne ustawienia w pliku .args zgodnie z pomocą widoczną po wywołaniu komendy prosty-jezyk --help. Na koniec uruchomić skrypt build.bat/build.sh. Po udanym zbudowaniu powinien pojawić się nowy plik wykonywalny.
Podgląd
