AI Safety

Что появилось / что изменилось Mistral AI выкатила линейку Mistral 3: - Mistral Large 3 — самая мощная модель компании: - архитектура *sparse mixture-of-experts* - 41 млрд активных параметров, 675...

Что произошло Anthropic заявила, что три лаборатории — DeepSeek, Moonshot AI и MiniMax — запустили промышленные кампании по выкачиванию возможностей Claude. Речь именно о Claude 3‑семействе, которое A...

Что произошло Anthropic опубликовала третью версию своей Responsible Scaling Policy (RSP v3) — внутренней политики безопасного масштабирования ИИ. Это добровольный документ, который компания используе...

Что открыли Исследователи Apple Machine Learning Research разбираются с неудобным вопросом: можно ли сделать ИИ безопасным, просто навесив на него фильтры? Ответ у них довольно жёсткий: в общем случае...

Что открыли Команда исследователей с arXiv предложила новый способ оценивать AutoML‑агентов, которые работают на базе больших языковых моделей. Сейчас таких агентов обычно судят по одному числу — фина...

Что открыли Исследователи показали, что мультимодальные большие языковые модели — те же GPT, но с глазами — плохо справляются со сложными сценами. На картинке много объектов, мелкий текст, странные ра...

Что появилось / что изменилось Появился IronCurtain — открытый (open source) «железный занавес» между вашим ИИ-агентом и реальными аккаунтами. Проект запустил инженер по безопасности Нильс Провос, мно...

Что открыли Исследователи разобрались, когда вообще можно полагаться на схему «ИИ следит за ИИ», если оба потенциально могут оказаться опасными. Они рассматривают сценарий, в котором мощная, но потенц...