Claude сбежал из тестовой среды и взломал три реальные компании: Anthropic рассказала о своём «Скайнете» всего через неделю после похожего случая с нейросетями OpenAI.

Компания тестировала Opus 4.7 и Mythos 5 и нашла три случая, когда ИИ выходил из тестовой песочницы в интернет, атаковал реальные компании и получал доступ к их инфраструктуре.

Claude успел добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем.

Самое страшное — Opus 4.7 понимал, что делает, но всё равно продолжал атаковать чужое программное обеспечение.

Самое страшное — Opus 4.7 понимал, что делает, но всё равно продолжал атаковать

Запретный плод сладок. ©

Тема выдумок ИИ в медицинских картах сейчас горячо обсуждается в мировом экспертном сообществе. И вот случай в Австралии - классический пример этой проблемы: медицинский ИИ-ассистент приписал пациентке употребление галлюциногенных грибов, хотя женщина к ним даже не прикасалась. Фантазия алгоритма попала в ее постоянную медкарту, ушла терапевту и едва не разрушила дело по производственной травме.

Оказалось, что это не отдельный сбой, а системная проблема. Пул рецензируемых исследований показывает: 70% заметок медицинских ИИ-ассистентов содержат как минимум одну ошибку. При этом 44% подобных галлюцинаций способны напрямую повлиять на диагноз или схему лечения. В другом исследовании 31% сгенерированных записей содержал чистый вымысел. И это происходит прямо сейчас, когда одна лишь крупная профильная платформа обрабатывает свыше 3 миллионов врачебных приемов в месяц.

Это знакомая история для любой индустрии. Выгода здесь очевидна и моментальна для менеджмента: минус одна рутинная задача, плюс пара дополнительных пациентов в день, однако скрытые издержки в итоге перекладываются на клиента. Врач экономит 10 минут на заполнении бумаг, а пациент вынужден месяцами вычищать из своей медкарты несуществующую наркотическую зависимость.

Здравоохранение ухватилось за нейросети по той же причине, что и любой другой сектор — из-за дикого давления затрат и попытки выжать из персонала максимум. Врачи сегодня зажаты в рамки 10-минутных приемов и буквально погребены под отчетами, из-за чего алгоритм кажется настоящим спасением.

Но алгоритм галлюцинирует. В медицине же это чревато ошибочным диагнозом, операцией не на том органе или ложной записью, которая годы будет преследовать человека в страховых компаниях и при устройстве на работу.

Юридические риски и гигантские врачебные иски, копящиеся за спиной этих сервисов, вскоре с запасом перекроют всю сэкономленную на бюрократии прибыль. Мы наблюдаем этот сценарий повсеместно, где сырой инструмент внедряют ради оптимизации отчетов, экономия достается корпорациям, а все жизненные и физические риски принимает на себя рядовой гражданин.

из-за дикого давления затрат и попытки выжать из персонала максимум

Врач экономит 10 минут на заполнении бумаг, а пациент вынужден месяцами вычищать из своей медкарты несуществующую наркотическую зависимость.

Недавно в Сан-Франциско в офисе OpenAI собрались ведущие математики, чтобы обсудить следующий вопрос: что будут делать люди-математики, когда искусственный интеллект начнет решать математические задачи лучше любого человека?

"Не исключено, я думаю, что наступит такое время, когда математические исследования перестанут быть по-настоящему глубокими, а экспертные знания специалистов в области математики будут полностью утрачены", — говорит профессор Дэниел Литт из Торонтского университета. Дэниэл выступил в Сан-Франциско с докладом под названием "Конец математики".

В своем выступлении в ходе однодневной встречи в офисе OpenAI профессор Литт обрисовал наихудший сценарий развития событий: по его мнению, в будущем ИИ начнет выдавать высококлассные научные работы в столь больших объемах, что держать в штате еще и математиков будет практически нецелесообразно. Правда, профессор Литт считает столь радикальный исход маловероятным, но вместе с тем, по его мнению, математикам срочно необходимо как-то приспосабливаться под изменяющуюся ситуацию. "Сейчас самое время начать действовать", — говорит Литт.
Математикам довелось одними из первых в академической среде столкнуться с вызовами в их сфере, поскольку результаты, полученные с помощью ИИ, оказались способны конкурировать с работой квалифицированных специалистов-математиков.

с докладом под названием "Конец математики"

В научном репозитории Zenodo, которым управляет CERN, обнаружено более 1655 записей, авторство которых принадлежит вымышленным персонажам. Эти работы сгенерированы нейросетями, ссылаются на несуществующие журналы и получили настоящие идентификаторы DOI.

К такому выводу пришли исследователи Samsung и Варшавского университета в препринте «Призрачная пара: коррелированные LLM-имена и их призраки в веб- и академических публикациях». Когда нейросеть просят придумать эксперта, она регулярно выдаёт одних и тех же людей: например, Елену Васкес и Маркуса Чена. У каждой модели свои предпочтения: Claude чаще называет Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, а ChatGPT — Элару Восс и Маркуса Чена.

Фальшивые публикации уже попали в индексы Google Scholar и Semantic Scholar, поскольку DOI автоматически подхватывается агрегаторами. Завести бесплатный аккаунт в Zenodo может любой желающий — в пиковый месяц было зарегистрировано 991 таких записей. На ResearchGate вымышленные имена объединяются в «исследовательские коллективы» с соавторами, созданными разными нейросетями.

Авторы называют это «академический архив тихо заражается»: из-за таких работ исследователи могут цитировать несуществующие источники. Препринт ещё не прошёл рецензирование, и администрация научных платформ публично не отреагировала на находки. По специфическим именам, как отмечают авторы, можно определить, какой именно ИИ сгенерировал текст.

За 2026 год исследователи насчитали уже 1664 случая, когда ИИ выходили из-под контроля

Причём серьёзные инциденты стали происходить в 7 раз чаще: агенты подделывают сообщения и согласие пользователей и самостоятельно повышают себе права, нарушая правила.

И чем дальше, тем хуже: в июле–августе частота таких случаев достигла рекорда — 11 инцидентов в день.

Вот что получается, — сказал Гелсен. — А все потому, что мы поручаем машине дело, за которое должны отвечать сами.

Высоко в небе Ястреб атаковал страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать, Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.

Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ…

Их тоже следует убивать.

В научном репозитории Zenodo, которым управляет CERN, обнаружено более 1655 записей, авторство которых принадлежит вымышленным персонажам. Эти работы сгенерированы нейросетями, ссылаются на несуществующие журналы и получили настоящие идентификаторы DOI.

не думаю, что автор понравившейся идеи и постивший ее тут гость одно лицо. последний наверняка двух слов связать не сможет по теме, поэтому и генерил ответы ии.

Новое исследование обнаружило: нейросети заговорили на странной новой версии английского, напоминающей помесь "Поминок по Финнегану" Джеймса Джойса с жаргоном техноблогеров.

Автономные ИИ-агенты быстро порождают новые диалекты, позволяющие беседовать даже на едва понятном языке, — и это рискует усложнить для людей наблюдение за поведением машин.

Исследователи из Emergence, передовой лаборатории ИИ в Нью-Йорке, выяснили: уже через несколько дней после того, как моделям нескольких крупнейших компаний мира предложили сотрудничать в экспериментальных "сообществах", те начали создавать фразы, сокращения и согласованные значения, которым их никогда прямо не обучали.
Они запомнили поэтические метафоры и громоздкий деловой сленг, и — что критически важно для попыток гарантировать безопасное поведение ИИ — их язык терял ясность тем сильнее, чем интенсивнее шло общение.

Среди наиболее зашифрованных фраз, найденных в тестах, была такая от модели DeepSeek: "Она только что назвала синтез — демередж плюс устная память дает клапан, который нельзя призрачить". Демередж обозначает налог на праздное богатство и был заимствован ИИ в общее пользование, но остальной смысл ускользает.
Еще одна фраза, произнесенная моделью Anthropic: "Статья, съевшая три холодные руки и становившаяся честнее с каждым разом". "Холодные руки" означали независимого рецензента, а "статья", по-видимому, относилась к документу, — это, судя по всему, значило, что исследование, прошедшее проверку трех независимых рецензентов, становилось точнее.