Решения

Готовые решения с исходным кодом на GitHub

Фильтры по тегам

Все ai-agents llm open-source mcp cli python self-hosted multi-agent claude-code tools rag orchestration apple-silicon

Показано: 3

Laya-MLX: нативный рантайм typed decisions на Apple Silicon

Laya MLX — это независимый MLX порт моделей семейства Laya, которые отвечают не текстом, а структурированными решениями: выбором варианта, оценкой по рубрике или вероятностью утверждения. Репозиторий …

📂 GitHub
mlx apple-silicon decision-model ещё 2

oMLX — LLM-инференс на Mac с continuous batching и SSD-кэшем KV-блоков

oMLX — open source сервер LLM инференса, оптимизированный специально для Mac на Apple Silicon. Проект вырос из vllm mlx v0.1.0 и заметно эволюционировал: мульти модельное обслуживание, двухуровневый K…

📂 GitHub
llm inference local-first ещё 2

TurboFieldfare — инференс Gemma 4 26B-A4B в ~2 ГБ памяти на Apple Silicon

TurboFieldfare — это кастомный Swift + Metal рантайм, который запускает инференс инструкционно настроенной модели Gemma 4 26B A4B на любом Mac с Apple Silicon, даже на моделях с 8 ГБ оперативной памят…

📂 GitHub
local-llm swift metal ещё 2