Ollama
Ollama, geliştiricilerin Llama ve Gemma gibi önde gelen açık ağırlıklı modelleri yerel tüketici donanımında tamamen çevrimdışı çalıştırmasına olanak tanıyan, oldukça popüler, açık kaynaklı yerel bir LLM çalıştırıcısıdır. Temiz bir yerel API uç noktası sağlayarak, gizliliğe öncelik veren yapay zeka uygulama geliştirmesi için altın standart haline gelmiştir.