Фильтры по тегам

Все ai-agents ai-coding llm opinion tools review harness comparison claude-code open-source productivity benchmarks vllm

Показано: 2

Настройка локального кодинг-агента: oh-my-pi и Qwen3.8-27B на двух RTX 3090

Настройки кодинг агента по умолчанию рассчитаны на большую облачную модель с большим запасом мощности. На домашней машине они решают, ответит агент за пять секунд или за пять минут. Автор потратил ден…

local-llm vllm coding-agent ещё 2

Горячий prefix-кэш vLLM между ходами агента: с 55% до 95% попаданий

Автор месяц хостил Qwen3.8 27B локально на двух RTX 3090 под vLLM, пытаясь собрать замену Claude Code для повседневных задач. Первое утро было тяжёлым: в среднем полминуты до первого слова ответа, отд…

vllm inference local-llm ещё 2