AI Safety

Что открыли Исследователи Apple Machine Learning Research разбираются с неудобным вопросом: можно ли сделать ИИ безопасным, просто навесив на него фильтры? Ответ у них довольно жёсткий: в общем случае...

Что открыли Команда исследователей с arXiv предложила новый способ оценивать AutoML‑агентов, которые работают на базе больших языковых моделей. Сейчас таких агентов обычно судят по одному числу — фина...

Что открыли Исследователи показали, что мультимодальные большие языковые модели — те же GPT, но с глазами — плохо справляются со сложными сценами. На картинке много объектов, мелкий текст, странные ра...

Что появилось / что изменилось Появился IronCurtain — открытый (open source) «железный занавес» между вашим ИИ-агентом и реальными аккаунтами. Проект запустил инженер по безопасности Нильс Провос, мно...

Что открыли Исследователи разобрались, когда вообще можно полагаться на схему «ИИ следит за ИИ», если оба потенциально могут оказаться опасными. Они рассматривают сценарий, в котором мощная, но потенц...