Lilbee: Arama ve Model Yönetimi için Özel Yerel AI Yığını
Lilbee, Tobocop2 tarafından, yerel AI yığınları, arama motorları ve model yönetimi için bir MCP sunucu aracıdır. Python ile inşa edilmiştir, model motoru için llama.cpp ve vektör indeksleme için LanceDB kullanmaktadır. Lilbee, Linux, macOS ve Windows için kendi kendine yeterli ikili dosyalar sunar, ayrıca Homebrew, AUR, Nix, Docker, Flatpak, Snap ve Scoop aracılığıyla dağıtım yapar. Aynı zamanda bir Python kütüphanesi olarak da kullanılabilir veya bir Node.js başlatıcısı aracılığıyla çalıştırılabilir. Bu araç, yerel işletim ve gizlilik üzerine odaklanmaktadır.
En Çok Önerilen Alternatif
Lilbee neye bağlanır?
Lilbee, mevcut GPU'lar arasında sohbet, gömme, görsel ve yeniden sıralama dahil olmak üzere yerel AI modellerini yönetir. Kullanıcının yerel dosyalarına, koduna ve taranan web sayfalarına bağlanarak alıntılı cevaplar sunan bir arama motorunu güçlendirir. İsteğe bağlı olarak, Lilbee mevcut Ollama veya LM Studio örnekleriyle entegre olabilir. Kullanıcılar ayrıca bulut modelleriyle bağlantı kuracak şekilde yapılandırabilir, böylece yerel kaynakların ötesinde yeteneklerini genişletebilir.
Temel özellikler ve araçlar
Lilbee, işlevlerini yönetmek için birkaç çağrılabilir araç sunar. Bunlar arasında sorgular için lilbee_search, içerik için lilbee_add ve web sayfalarını dizinlemek için lilbee_crawl bulunur. Durum ve kontrol için lilbee_crawl_status ve lilbee_crawl_cancel sunar. Model yönetimi lilbee_model_list ve lilbee_catalog_browse ile gerçekleştirilir. lilbee_init, lilbee_remove, lilbee_list_documents, lilbee_export_dataset, lilbee_status, lilbee_sync, lilbee_settings_set ve lilbee_settings_reset gibi diğer araçlar sistem kontrolü sağlar.
Kimler için?
Lilbee, geliştiricileri, kodlama ajanları kullanan programcıları ve Obsidian kullanıcılarını hedef alır. Ayrıca, özel, yerel bir AI arama motoru ve model yöneticisi arayan bireylere de hizmet eder. Tasarımı yerel işlemi önceliklendirir, böylece hiçbir telemetri göndermeyerek ve bulut modelleri yapılandırılmadıkça hesap gerektirmeyerek gizliliği garanti eder. Temel işlem için doğal olarak telemetri gönderen veya bulut hesap entegrasyonu talep eden bir hizmete ihtiyacınız varsa, bu uygun bir seçenek değildir.
Nasıl başlanır
Yerel dağıtımlar için, sunucu ortam değişkenleri veya sistem kimlik bilgileri kullanarak kimlik doğrulaması yapar. Uzak HTTP tabanlı MCP sunucuları için erişim, standart bir OAuth yetkilendirme akışı aracılığıyla sağlanır.
Kullanım senaryoları
- Yerel AI Arama ve RAG: Kişisel belgeleri, kodu ve taranan web içeriğini dizinleyerek doğal dil sorgularına alıntılı cevaplar almak.
- Kodlama Ajanı Entegrasyonu: MCP farkında kodlama ajanları için bir geri alma arka ucu sağlayarak, dizinlenmiş kod ve belgelerden alıntılı parçacıklara erişim sağlamak.
- Yerel Model Yönetimi: Çeşitli AI modellerini (sohbet, gömme, görsel, yeniden sıralama) doğrudan yerel GPU'larda göz atmak, indirmek ve çalıştırmak.
Lilbee, modelleri yönetmek ve kişisel veriler arasında alıntılı aramalar yapmak için özel, yerel bir AI yığını sağlar. Çeşitli platformlar için desteği ve MCP farkında olan ajanlarla entegrasyonu, onu çok yönlü bir araç haline getirir. Yerel işletim ve gizlilik üzerindeki odak, AI görevleri için güvenli bir ortam sunar. Yerel dağıtım için mevcut AI modellerini keşfetmek için "lilbee_catalog_browse" kullanarak başlayın.
