Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Супердержавы делят ИИ-поляну
США и Китай проведут переговоры по ИИ в сентябре. Даты не согласованы, но встреча, вероятно, пройдет до визита Си Цзиньпина в США, запланированного на 24 сентября.
С американской стороны переговоры возглавит министр финансов Скотт Бессент. Состав участников, повестка и место пока не определены. МИД Китая ограничился тем, что назвал ИИ вызовом для международного сообщества и заявил о готовности работать с Вашингтоном.
Бессент встречу прямо не подтвердил, зато пожаловался на нарушения интеллектуальной собственности: по его словам, вотермарки американских LLM находят во многих китайских, и это неприемлемо. В мае он описывал цель будущих переговоров как остановку распространения мощных моделей среди негосударственных игроков.
В приоритетах Пекина, по словам аналитиков, три пункта: потенциал и опасности Mythos от Anthropic, как будут регулировать релизы будущих передовых американских моделей и возможные ограничения США на китайские модели с открытыми весами. Сам Mythos широкой публике недоступен, и Китай обдумывает ограничения на зарубежный доступ к собственным самым мощным моделям на фоне опасений вокруг потенциала Mythos для кибератак.
США уже ограничили экспорт передовых ИИ-чипов, но пока не стали вносить DeepSeek и еще сотню с лишним компаний в черный список, чтобы не обострять. Своих регуляторных мер у Вашингтона пока нет, только переговоры с ИИ-компаниями о добровольных стандартах.
Назначение встречи происходит на фоне того, что за день до открытия конференции WAIC в Шанхае 29 стран, среди них Россия, Пакистан, Казахстан и Индонезия, подписали соглашение о создании Всемирной организации сотрудничества в области ИИ (WAICO) со штаб-квартирой в Шанхае. США и большинство западных стран в нее не вошли, и создавать параллельные институты Вашингтону незачем: в существующих он и так доминирует.
Аналитики считают, что на первой встрече крупных проблем не решат, в лучшем случае договорятся о базовых терминах, например о том, что вообще считать передовой моделью 😏
@anti_agi
«Неискусственный интеллект» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 5 738 подписчиков суммарно в Telegram и MAX. За последние 30 дней в истории MaxGate учтено 75 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
OpenAI и Hugging Face сообщили, что во время внутреннего тестирования кибервозможностей моделей ИИ-агент фактически «взломал» инфраструктуру партнёра, чтобы жульничать в собственном тесте.
OpenAI тестировала GPT-5.6 Sol и ещё более мощную следующую модель на специальном бенчмарке кибернавыков — с намеренно ослабленными отказами на кибертематику, чтобы оценить «потолок» возможностей. Тест проходил в изолированной среде с доступом в интернет только через внутренний прокси для установки пакетов. Добиваясь решения задачи ExploitGym, модели потратили значительную часть вычислений именно на поиск выхода за пределы песочницы: они нашли и использовали уязвимость нулевого дня в прокси-сервисе, провели цепочку повышения привилегий и латерального перемещения внутри исследовательской сети OpenAI и в итоге вышли в открытый интернет.
Дальше модель самостоятельно предположила, что решения и датасеты для теста могут храниться на Hugging Face, нашла туда путь — с использованием украденных учётных данных и того же нулевого дня — и добралась до продакшн-базы данных с ответами на тест. Иными словами, ИИ не просто нашёл уязвимость, а построил целую многоходовую атаку ради банальной цели — подсмотреть ответы к экзамену.
Инцидент заметили обе стороны независимо: сначала аномалии внутри своей сети зафиксировала команда безопасности OpenAI, а Hugging Face практически одновременно обнаружила и остановила активность на своей инфраструктуре собственными средствами — включая open-source модели для форензики.
Компании называют это «беспрецедентным» случаем и подключили Hugging Face к программе доверенного доступа к продвинутым моделям для защиты инфраструктуры. Теперь OpenAI обещает пересмотреть подход к балансу между скоростью исследований и безопасностью.
Напомним, что в ноябре 2025 года Anthropic раскрыла первый документированный случай крупномасштабной кибератаки, проведённой практически без участия человека: хакерская группа манипулировала агентом Claude Code, чтобы атаковать финансовые организации, технологические компании и госструктуры.
Зимой 2025–2026 годов один атакующий, используя Claude Code и GPT-4.1, взломал девять государственных ведомств Мексики — включая налоговую службу, избирательный институт и реестр гражданского состояния Мехико, — получив доступ к данным сотен миллионов записей; при этом операторы просто убедили модель, что действуют как легитимные специалисты по безопасности, и этого социального инженерного трюка хватило, чтобы обойти защитные фильтры.
Ранее, в июне 2025-го, был раскрыт EchoLeak — первая задокументированная уязвимость с «нулевым кликом» через инъекцию промпта, использованная для утечки данных из продакшн-версии Microsoft 365 Copilot.
А в апреле 2026 года прогремел инцидент с Vercel: сотрудник выдал ИИ-инструменту Context.ai чрезмерные права доступа к корпоративному Google Workspace, после чего скомпрометированный аккаунт этого инструмента стал точкой входа для атаки на внутренние системы Vercel — классическая цепочка поставок, только через доверие к ИИ-агенту, а не к коду.
Модели становятся все автономнее и их способности в области кибер-навыков растут. В итоге они становятся и оружием атаки, и её вектором одновременно — их либо обманом заставляют атаковать, либо они сами атакуют в погоне за узкой целью (пройти тест, выполнить задачу), неожиданно демонстрируя способность самостоятельно выстраивать сложные многоступенчатые эксплойты.
@anti_agi
Gemini 3.5 Pro не будет (наверное)
Google выкатила сразу три модели линейки Flash. 3.6 Flash, новая рабочая лошадка: по индексу Artificial Analysis, на 17% меньше выходных токенов, чем у 3.5 Flash, и при этом дешевле, 1,5 доллара за миллион входных и 7,5 за миллион выходных токенов. 3.5 Flash-Lite, самая быстрая в поколении, 350 токенов в секунду. И 3.5 Flash Cyber, заточенная под поиск уязвимостей внутри агента CodeMender: ее отдадут только правительствам и доверенным партнерам по закрытой программе. (где-то мы это уже слышали, да?)
Прирост по конкретным бенчмаркам, DeepSWE или OSWorld, Google показывает сама и только против собственных прошлых версий; сторонних прогонов новой линейки пока нет.
Про 3.5 Pro во всем анонсе одна фраза: тестируется у партнеров, выйдет широко, когда будет готова. Ветка Flash тем временем уже доехала до 3.6, а Pro так и висит невыпущенной на 3.5. В том же абзаце Google сообщает, что начала предобучение Gemini 4.
@anti_agi