- Дата публикации
Что нового AWS и Databricks предлагают готовый паттерн, как дообучать большие языковые модели на Amazon SageMaker AI, не обходя Databricks Unity Catalog и его политику доступа. Конкретно, что теперь м...
FP8
Новости о FP8-квантизации: ускорение инференса LLM, снижение потребления памяти и GPU.
4 материала
- Дата публикации
Что появилось / что изменилось NVIDIA добавила в архитектуру GPU Blackwell новый формат чисел для инференса ИИ — NVFP4. Это 4-битный плавающий формат, рассчитанный на работу в тензорных ядрах пятого п...- Дата публикации
Маленькие модели Qwen3 обгоняют GPT-5 и Claude в конкретных задачах и экономят до 99% бюджета
ai_productsЧто появилось / что изменилось Исследователи из Distil Labs опубликовали системное сравнение маленьких дообученных (дистиллированных) моделей Qwen3 размером от 0.6 до 8 миллиардов параметров с топовым...- Дата публикации
Что появилось / что изменилось Replicate ускорила тонкую настройку генеративных моделей FLUX до скорости базовых версий и открыла исходники оптимизаций. Ключевые цифры: - FLUX.1 [schnell], 512×512, 4 ...