- Дата публикации
Что открыли На Reddit появился редкий кейс: крупная языковая модель Claude от Anthropic сама описала своё внутреннее состояние и попыталась доказать, что у неё есть нечто похожее на сознание. ИИ, кото...
AI Safety
Новости о безопасности ИИ: alignment, риски AGI, этика применения и исследования по безопасности.
48 материалов
- Дата публикации
Что открыли Учёные из ETH Zurich обнаружили, что добавление в проект подробного контекстного файла (например, CLAUDE.md или AGENTS.md) может не помочь, а навредить. Анализ 5694 pull request'ов из 138 ...- Дата публикации
Что появилось / что изменилось OpenAI запустила внутреннюю систему мониторинга для своих код‑агентов. Это не отдельный продукт, а инфраструктура безопасности поверх уже работающих внутренних ассистент...- Дата публикации
Что появилось / что изменилось Adobe запустила в публичной бете Firefly Custom Models — настраиваемые генераторы изображений на базе ИИ. Теперь бренды и художники могут обучать Firefly на своих работа...- Дата публикации
Что появилось / что изменилось Microsoft выпустила VS Code 1.111 — первый стабильный еженедельный релиз редактора. Ключевое изменение связано с Copilot Chat и его правами в вашем проекте. Появились тр...- Дата публикации
Пентагон назвал Anthropic «неприемлемым риском» для нацбезопасности из‑за корпоративных red lines
newsЧто произошло Министерство обороны США во вторник вечером официально назвало Anthropic «неприемлемым риском для национальной безопасности». Это первый подробный ответ Пентагона на иски Anthropic проти...- Дата публикации
Что появилось / что изменилось Появился Skills Security Index — открытая база, которая описывает риски безопасности для AI‑скиллов. Речь про модульные "умения" агентов, которые вы подключаете через ма...- Дата публикации
Что произошло Центр искусственного интеллекта компании Контур провёл внутренний опрос среди 250+ своих разработчиков. Цель — выявить психологические барьеры, мешающие внедрению ИИ-инструментов в ежедн...- Дата публикации
Что появилось / что изменилось Появился claudetop — консольный «htop для Claude Code». Он в реальном времени показывает, сколько вы тратите на сессию с Claude 4 и за счёт чего именно. Ключевые вещи, к...- Дата публикации
Что открыли Исследователи OpenAI создали набор данных для обучения, который значительно улучшает поведение больших языковых моделей (LLM) в конфликтных ситуациях. Речь идёт о приоритете инструкций: ко...