Hosting Langfuse na własnym serwerze.
Obserwowalność i tracing aplikacji LLM. Stawiasz jednym kliknięciem, płacisz raz w roku, dane zostają u Ciebie.
Self-hosted Langfuse bez konsoli: instalujesz z panelu, płacisz raz w roku i dostajesz fakturę, a wsparcie odpowiada po polsku.
Czym jest Langfuse
Langfuse to obserwowalność i tracing aplikacji LLM - śledzenie promptów, odpowiedzi modelu, kosztów, latencji i ocen jakości każdego wywołania, z historią sesji i datasetów do testów regresji. Oficjalne obrazy Docker langfuse/langfuse i langfuse/langfuse-worker, z własnymi kontenerami Postgres, ClickHouse, Redis i MinIO w komplecie - najcięższy przepis w katalogu Saplo, sześć kontenerów naraz. Klucze API projektu gotowe od razu po postawieniu, do wklejenia w SDK (Python, JS, proxy kompatybilne z OpenAI). Zalączniki multimedialne w trace-ach (obrazy, audio) nie wgrywają się poprawnie z zewnętrznego SDK - magazyn plików jest dostępny tylko wewnątrz Boxa, podstawowy tracing tekstowy działa bez ograniczeń. Inna nisza niż Grafana, Prometheus czy GlitchTip, już obecne w katalogu Saplo - te obserwują infrastrukturę i błędy aplikacji, nie wywołania modeli językowych.
Dla kogo
- Deweloper budujący własną aplikację AI na Boxie, który dziś nie widzi, ile kosztują i jak długo trwają wywołania modelu
- Zespół, który chce testować zmiany w promptach na zapisanych datasetach zamiast ręcznie sprawdzać każdą odpowiedź modelu
- Firma wdrażająca czatbota albo asystenta AI, która potrzebuje wglądu w koszty i jakość odpowiedzi bez oddawania danych zewnętrznemu serwisowi (LangSmith)
Jak to wygląda
- Wybierasz Box. Langfuse ruszy na Box L za 599 zł rocznie, ale przy poważniejszym użyciu weź większy. Rozpisaliśmy to niżej.
- Klikasz Langfuse w katalogu. Kontener, domena i certyfikat SSL powstają same.
- Wchodzisz i pracujesz. Dane logowania czekają w panelu, pod aplikacją.
Który Box wybrać pod Langfuse
Zależy, do czego go użyjesz. Poniżej trzy przypadki i to, co w każdym z nich zjada pamięć i dysk. Plan zmienisz później z panelu, bez przenoszenia danych.
- 6 GB RAM
- 60 GB dysku
- SSH z sudo
- kopie 7 dni
- 12 GB RAM
- 150 GB dysku
- SSH z sudo
- kopie 14 dni
- 24 GB RAM
- 300 GB dysku
- SSH z sudo
- kopie 30 dni
Nie musisz zgadywać. Zacznij od mniejszego, a jeśli zabraknie pamięci, dokładamy ją bez restartu aplikacji i bez przenoszenia danych.
Co jeszcze zmieścisz na tym samym Boxie
Langfuse zajmuje 4 GB z 6 GB pamięci Box L. Zostaje 1.8 GB i 40 GB dysku, czyli miejsce na jeszcze 104 aplikacji z katalogu. Bez dopłaty, bo płacisz za Box, nie za sztuki.
Zanim klikniesz
Nie. Kontener, domena, certyfikat SSL i aktualizacje systemu są po naszej stronie. Langfuse klikasz w panelu i po kilkunastu sekundach masz adres i hasło. Jeśli chcesz wejść po SSH, dostaniesz pełny dostęp z sudo, ale nie musisz.
Zmieniasz plan z panelu i pamięć dokłada się bez restartu aplikacji. Nie przenosisz danych i nie stawiasz niczego od nowa.
Twoje. Stoją na wydzielonym kontenerze, nie na współdzielonym koncie. Codziennie robimy kopię poza serwer, do centrum danych w Finlandii, i to dotyczy każdego planu.
Masz 7 dni za darmo bez podawania karty. A jeśli już zapłacisz i w ciągu 14 dni napiszesz, że rezygnujesz, oddajemy 100% opłaty za pierwszy okres. To zapis w regulaminie, nie obietnica na stronie.
Nie jesteśmy najtańsi. Za 5 zł miesięcznie kupisz gdzieś współdzielone konto i ono wystarczy do prostej strony. Saplo ma sens, gdy chcesz stawiać własne aplikacje, mieć SSH i nie dzielić serwera z tysiącem obcych witryn.
