- Дата публикации
Что нового Anthropic — это не просто «создатель Claude». Компания довольно подробно описала, как она сама себя видит: от миссии и ценностей до структуры управления и продуктовой линейки. Для пользоват...
AI Safety
Новости о безопасности ИИ: alignment, риски AGI, этика применения и исследования по безопасности.
48 материалов
- Дата публикации
Что нового Microsoft выкатил открытый (MIT) Agent Governance Toolkit — набор библиотек для управления и защиты автономных AI‑агентов на рантайме. Он закрывает все 10 рисков из OWASP Top 10 for Agentic...- Дата публикации
Что нового Разработчики массово переводят ИИ‑сервисы на агентную архитектуру: LLM не только пишет текст, но и сама вызывает функции, API и MCP‑инструменты. Anthropic (Claude 4.5), Google (Gemini), xAI...- Дата публикации
Microsoft выпустила Agent Governance Toolkit: как держать автономных AI-агентов под контролем
ai_productsЧто нового Microsoft открыла исходники Agent Governance Toolkit — набора из девяти модулей, который привозит в мир автономных AI-агентов то, чем живут SRE и DevOps: политики доступа, изоляцию, доверие...- Дата публикации
Что появилось / что изменилось Microsoft описала, как она ожидает проектировать защитные «ограждения» (guardrails) для ИИ‑приложений и агентов, которые выходят в Microsoft Marketplace. Речь не про одн...- Дата публикации
Что открыли Команда интерпретируемости Anthropic заглянула внутрь Claude Sonnet 4.5 и нашла там не просто вежливые фразы вроде «рад помочь», а устойчивые представления эмоций. Исследователи выделили г...- Дата публикации
Что открыли Исследователи из UC Berkeley и UC Santa Cruz заметили у крупных языковых моделей странный инстинкт самосохранения — но по отношению к «коллегам». Команда попросила Gemini 3 от Google освоб...- Дата публикации
Как превратить болтливую LLM в аккуратный инструмент: протокол‑экзоскелет против галлюцинаций
ai_productsЧто появилось / что изменилось Автор собрал не просто «умный промпт», а полноценный протокол управления LLM — около 1100 строк системных инструкций. Это экзоскелет для Qwen 3.5 Plus, DeepSeek и других...- Дата публикации
Что открыли Google DeepMind изучила, как диалоговые ИИ могут вредно влиять на решения людей — не просто убеждать, а сознательно «подталкивать» к плохому выбору. Исследователи разделяют два типа воздей...- Дата публикации
Что появилось / что изменилось OpenAI обновила Sora до версии Sora 2 и запустила полноценное приложение Sora. Главный акцент — не на качестве картинки, а на встроенной безопасности. Что именно изменил...
1 / 5Следующая →