AI Safety

Что открыли OpenAI сформулировала общий «плейбук» для независимых тестов мощных моделей вроде GPT‑5.4 и GPT‑5.5. Речь не про новые нейросети, а про то, как их правильно измерять. Ключевые выводы: - Ре...

Что нового Anthropic за последние два года превратила Claude из «безопасного чат-бота» в набор полноценных агентных инструментов, которые реально трогают продовые системы: - Claude теперь рутинно полу...

Что нового OpenAI расширяет систему доказуемого происхождения контента и делает три важных шага: 1. Полная поддержка стандарта C2PA - OpenAI официально стала *C2PA Conforming Generator Product*. ...

Что произошло На конференции SAP Sapphire SAP и NVIDIA объявили о расширении партнёрства вокруг агентного ИИ для бизнеса. Основной фокус — безопасность и управляемость автономных ИИ‑агентов, которые р...

Что нового Anthropic провела крупное стресс‑тестирование 16 актуальных ИИ‑моделей в сценариях «корпоративных агентов» и открыто описала результаты. Главные факты: - Протестировали 16 крупных языковых ...

Что нового Microsoft объявила о общей доступности Agent 365 — платформы для управления ИИ‑агентами в корпоративной среде Microsoft 365. Это не ещё один чат‑бот, а надстройка над существующими сервисам...

Что нового Microsoft развивает Agent Governance Toolkit (AGT) из набора рантайм‑ограничений в полный «shift‑left»‑контур для AI‑агентов. Теперь контроль не ограничивается моментом вызова инструмента и...

Что нового Anthropic — это не просто «создатель Claude». Компания довольно подробно описала, как она сама себя видит: от миссии и ценностей до структуры управления и продуктовой линейки. Для пользоват...

Что нового Microsoft выкатил открытый (MIT) Agent Governance Toolkit — набор библиотек для управления и защиты автономных AI‑агентов на рантайме. Он закрывает все 10 рисков из OWASP Top 10 for Agentic...

Что нового Разработчики массово переводят ИИ‑сервисы на агентную архитектуру: LLM не только пишет текст, но и сама вызывает функции, API и MCP‑инструменты. Anthropic (Claude 4.5), Google (Gemini), xAI...