Фильтры по тегам

Все ai-agents ai-coding llm opinion tools review harness comparison claude-code open-source productivity benchmarks quantization

Показано: 3

Ternary Bonsai 2 2B, 4B и 9B: тернарные модели от 0,43 ГБ для локальных агентов

В конце сентября PrismML выпустила флагман Ternary Bonsai 2 27B — большую мультимодальную модель, которая влезает в 5,9 ГБ. В октябре компания пошла в другую сторону: не вверх по размеру, а вниз. В се…

llm quantization local-llm ещё 2

MicroLLM lab: маленькие языковые модели в браузере на WebGPU

MicroLLM lab — это эксперимент с сайта stateofutopia.com, где языковые модели размером от 26 до 362 миллионов параметров запускаются прямо во вкладке браузера. Никаких API ключей, никакого Python, ник…

webgpu local-llm quantization ещё 2

Ternary Bonsai 2 27B: 27B-модель в 5,9 ГБ с сохранением 98,2% качества

Два месяца назад команда PrismML показала, что 27B классную мультимодальную модель можно сжать настолько, чтобы она комфортно работала на локальном устройстве. Теперь они пошли дальше: Ternary Bonsai …

llm quantization open-source ещё 2