Ollama
Ollama to bardzo popularny, open-source runner LLM działający lokalnie, który pozwala deweloperom uruchamiać w pełni offline wiodące modele o otwartych wagach, takie jak Llama i Gemma, na lokalnym sprzęcie konsumenckim. Dzięki dostarczaniu cz endpointu API lokalnego stał się złotym standardem dla tworzenia aplikacji AI stawiających na prywatność.