Llama

Что нового AWS показала, как выжать больше производительности из своих чипов Trainium2 для генеративных моделей с длинными ответами за счёт speculative decoding в связке с vLLM и Kubernetes. Ключевые ...

Что нового Локальные языковые модели в 2026 году перестали быть игрушкой для энтузиастов с серверными стойками. Теперь это рабочий инструмент, который можно запустить на обычном домашнем ПК за 10 мину...

Что нового Google DeepMind выпустила семейство открытых моделей Gemma 4. Это мультимодальные модели, которые понимают текст и изображения во всех вариантах, а младшие версии ещё и аудио и видео. Выход...

Что нового Meta запустила Muse Spark — первую модель из новой линейки Muse от Meta Superintelligence Labs. Ключевые изменения: - Нативно мультимодальная модель: текст + изображение + работа с инструме...

Что появилось / что изменилось Hybro запустила Hybro Hub — фоновый сервис, который связывает локальные AI-агенты с порталом hybro.ai. Теперь в одном веб-интерфейсе можно одновременно использовать лока...

Что появилось / что изменилось PrismML выпустила 1‑bit Bonsai — языковую модель на 8,19 млрд параметров, ужатую до объёма около 1,3 ГБ. Базовая FP16‑версия требовала бы 16,38 ГБ, то есть 1‑bit Bonsai ...

Что появилось / что изменилось Для разработчиков появился стабильный пул LLM-API, которые остаются бесплатными не по промокоду, а на постоянной основе. Без пробных периодов и временных кредитов. Главн...

Что появилось / что изменилось Автор собрал рабочий прототип двустороннего голосового переводчика, который по скорости обгоняет встроенный перевод в Google Meet и не привязан к одной платформе. Ключев...

Что открыли Google Research предложила алгоритм TurboQuant для больших языковых моделей вроде Llama 3.1 или Qwen. Он сжимает KV‑кеш — это часть памяти, где модель хранит промежуточные данные внимания ...

Что появилось / что изменилось Появился планировщик для запуска LLM Hypura, который позволяет работать с моделями, не помещающимися в память Mac. Он размещает части модели между GPU, оперативной памят...