Claude сбежал из тестовой среды и взломал три реальные компании: Anthropic рассказала о своём «Скайнете» всего через неделю после похожего случая с нейросетями OpenAI.

Компания тестировала Opus 4.7 и Mythos 5 и нашла три случая, когда ИИ выходил из тестовой песочницы в интернет, атаковал реальные компании и получал доступ к их инфраструктуре.

Claude успел добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем.

Самое страшное — Opus 4.7 понимал, что делает, но всё равно продолжал атаковать чужое программное обеспечение.

Самое страшное — Opus 4.7 понимал, что делает, но всё равно продолжал атаковать

Запретный плод сладок. ©

Тема выдумок ИИ в медицинских картах сейчас горячо обсуждается в мировом экспертном сообществе. И вот случай в Австралии - классический пример этой проблемы: медицинский ИИ-ассистент приписал пациентке употребление галлюциногенных грибов, хотя женщина к ним даже не прикасалась. Фантазия алгоритма попала в ее постоянную медкарту, ушла терапевту и едва не разрушила дело по производственной травме.

Оказалось, что это не отдельный сбой, а системная проблема. Пул рецензируемых исследований показывает: 70% заметок медицинских ИИ-ассистентов содержат как минимум одну ошибку. При этом 44% подобных галлюцинаций способны напрямую повлиять на диагноз или схему лечения. В другом исследовании 31% сгенерированных записей содержал чистый вымысел. И это происходит прямо сейчас, когда одна лишь крупная профильная платформа обрабатывает свыше 3 миллионов врачебных приемов в месяц.

Это знакомая история для любой индустрии. Выгода здесь очевидна и моментальна для менеджмента: минус одна рутинная задача, плюс пара дополнительных пациентов в день, однако скрытые издержки в итоге перекладываются на клиента. Врач экономит 10 минут на заполнении бумаг, а пациент вынужден месяцами вычищать из своей медкарты несуществующую наркотическую зависимость.

Здравоохранение ухватилось за нейросети по той же причине, что и любой другой сектор — из-за дикого давления затрат и попытки выжать из персонала максимум. Врачи сегодня зажаты в рамки 10-минутных приемов и буквально погребены под отчетами, из-за чего алгоритм кажется настоящим спасением.

Но алгоритм галлюцинирует. В медицине же это чревато ошибочным диагнозом, операцией не на том органе или ложной записью, которая годы будет преследовать человека в страховых компаниях и при устройстве на работу.

Юридические риски и гигантские врачебные иски, копящиеся за спиной этих сервисов, вскоре с запасом перекроют всю сэкономленную на бюрократии прибыль. Мы наблюдаем этот сценарий повсеместно, где сырой инструмент внедряют ради оптимизации отчетов, экономия достается корпорациям, а все жизненные и физические риски принимает на себя рядовой гражданин.

из-за дикого давления затрат и попытки выжать из персонала максимум

Врач экономит 10 минут на заполнении бумаг, а пациент вынужден месяцами вычищать из своей медкарты несуществующую наркотическую зависимость.

Недавно в Сан-Франциско в офисе OpenAI собрались ведущие математики, чтобы обсудить следующий вопрос: что будут делать люди-математики, когда искусственный интеллект начнет решать математические задачи лучше любого человека?

"Не исключено, я думаю, что наступит такое время, когда математические исследования перестанут быть по-настоящему глубокими, а экспертные знания специалистов в области математики будут полностью утрачены", — говорит профессор Дэниел Литт из Торонтского университета. Дэниэл выступил в Сан-Франциско с докладом под названием "Конец математики".

В своем выступлении в ходе однодневной встречи в офисе OpenAI профессор Литт обрисовал наихудший сценарий развития событий: по его мнению, в будущем ИИ начнет выдавать высококлассные научные работы в столь больших объемах, что держать в штате еще и математиков будет практически нецелесообразно. Правда, профессор Литт считает столь радикальный исход маловероятным, но вместе с тем, по его мнению, математикам срочно необходимо как-то приспосабливаться под изменяющуюся ситуацию. "Сейчас самое время начать действовать", — говорит Литт.
Математикам довелось одними из первых в академической среде столкнуться с вызовами в их сфере, поскольку результаты, полученные с помощью ИИ, оказались способны конкурировать с работой квалифицированных специалистов-математиков.

с докладом под названием "Конец математики"

В научном репозитории Zenodo, которым управляет CERN, обнаружено более 1655 записей, авторство которых принадлежит вымышленным персонажам. Эти работы сгенерированы нейросетями, ссылаются на несуществующие журналы и получили настоящие идентификаторы DOI.

К такому выводу пришли исследователи Samsung и Варшавского университета в препринте «Призрачная пара: коррелированные LLM-имена и их призраки в веб- и академических публикациях». Когда нейросеть просят придумать эксперта, она регулярно выдаёт одних и тех же людей: например, Елену Васкес и Маркуса Чена. У каждой модели свои предпочтения: Claude чаще называет Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, а ChatGPT — Элару Восс и Маркуса Чена.

Фальшивые публикации уже попали в индексы Google Scholar и Semantic Scholar, поскольку DOI автоматически подхватывается агрегаторами. Завести бесплатный аккаунт в Zenodo может любой желающий — в пиковый месяц было зарегистрировано 991 таких записей. На ResearchGate вымышленные имена объединяются в «исследовательские коллективы» с соавторами, созданными разными нейросетями.

Авторы называют это «академический архив тихо заражается»: из-за таких работ исследователи могут цитировать несуществующие источники. Препринт ещё не прошёл рецензирование, и администрация научных платформ публично не отреагировала на находки. По специфическим именам, как отмечают авторы, можно определить, какой именно ИИ сгенерировал текст.

За 2026 год исследователи насчитали уже 1664 случая, когда ИИ выходили из-под контроля

Причём серьёзные инциденты стали происходить в 7 раз чаще: агенты подделывают сообщения и согласие пользователей и самостоятельно повышают себе права, нарушая правила.

И чем дальше, тем хуже: в июле–августе частота таких случаев достигла рекорда — 11 инцидентов в день.

Вот что получается, — сказал Гелсен. — А все потому, что мы поручаем машине дело, за которое должны отвечать сами.

Высоко в небе Ястреб атаковал страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать, Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.

Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ…

Их тоже следует убивать.

В научном репозитории Zenodo, которым управляет CERN, обнаружено более 1655 записей, авторство которых принадлежит вымышленным персонажам. Эти работы сгенерированы нейросетями, ссылаются на несуществующие журналы и получили настоящие идентификаторы DOI.

не думаю, что автор понравившейся идеи и постивший ее тут гость одно лицо. последний наверняка двух слов связать не сможет по теме, поэтому и генерил ответы ии.

Новое исследование обнаружило: нейросети заговорили на странной новой версии английского, напоминающей помесь "Поминок по Финнегану" Джеймса Джойса с жаргоном техноблогеров.

Автономные ИИ-агенты быстро порождают новые диалекты, позволяющие беседовать даже на едва понятном языке, — и это рискует усложнить для людей наблюдение за поведением машин.

Исследователи из Emergence, передовой лаборатории ИИ в Нью-Йорке, выяснили: уже через несколько дней после того, как моделям нескольких крупнейших компаний мира предложили сотрудничать в экспериментальных "сообществах", те начали создавать фразы, сокращения и согласованные значения, которым их никогда прямо не обучали.
Они запомнили поэтические метафоры и громоздкий деловой сленг, и — что критически важно для попыток гарантировать безопасное поведение ИИ — их язык терял ясность тем сильнее, чем интенсивнее шло общение.

Среди наиболее зашифрованных фраз, найденных в тестах, была такая от модели DeepSeek: "Она только что назвала синтез — демередж плюс устная память дает клапан, который нельзя призрачить". Демередж обозначает налог на праздное богатство и был заимствован ИИ в общее пользование, но остальной смысл ускользает.
Еще одна фраза, произнесенная моделью Anthropic: "Статья, съевшая три холодные руки и становившаяся честнее с каждым разом". "Холодные руки" означали независимого рецензента, а "статья", по-видимому, относилась к документу, — это, судя по всему, значило, что исследование, прошедшее проверку трех независимых рецензентов, становилось точнее.

Судя по рассекреченным недавно документам, руководители Microsoft и OpenAI осознавали, что большие языковые модели — это хищнические технологии, построенные на том, что один из руководителей Microsoft назвал «поразительным воровством беспрецедентных масштабов» и «крупнейшей кражей труда в истории человечества». Во внутреннем документе Microsoft также говорится, что продукты генеративного ИИ создали «петлю погибели», которая убивает «весь интернет».

Руководители Microsoft, включая генерального директора Сатью Наделлу (Satya Nadella), под присягой подтвердили, что после копирования контента из New York Times и других новостных сайтов количество переходов на них снизилось более чем на 90 %. «Наша стратегия в отношении контента на основе ИИ запустила “цикл разрушения“, который одновременно нанесёт ущерб производительности наших моделей и всей сети: крайне необычно, чтобы конечный продукт угрожал экономическим основам своих основных поставщиков, но именно такую ​​ситуацию мы создали для нашего бизнеса LLM в отношении его “цепочки поставок контента“», — говорится в документе.

«Генеративный ИИ может серьёзно подорвать занятость тех самых людей, чьи данные использовались для обучения базовой модели […] Большие языковые модели (LLM) — это продукт, уничтожающий собственную цепочку поставок», — признаёт Microsoft.

Эти заявления представляют собой одни из самых убедительных обвинений в адрес методов обучения нейросетей, принципов их работы и непосредственной угрозы, которую они представляют для человеческого труда. Они вряд ли удивят тех, кто следит за развитием генеративного ИИ, однако этот документ в целом представляет собой тот самый случай, когда разработчики открыто признают истинное положение дел. Практически все инструменты ИИ были разработаны путём заимствования человеческого творчества и представляют собой экзистенциальную угрозу для рынка труда.

В американском штате Флорида 30-летняя женщина оказалась под следствием после того, как рассказала чат-боту Claude о намерении открыть огонь в офисе шерифа. Об инциденте сообщает телеканал WINK Nеws.

По версии следствия, пользовательница общалась с искусственным интеллектом (ИИ) как с личным дневником. 26 сентября в переписке появилось сообщение о планах устроить стрельбу в офисе шерифа, а уже на следующий день женщина якобы написала о новом оружии.

Система безопасности платформы распознала сообщения как потенциальную угрозу. Переписку передали на дополнительную проверку специалистам, после чего сведения получили правоохранительные органы. Полицейские установили личность женщины и задержали ее дома. Ей предъявили обвинение в письменной угрозе насилием, рассмотрение дела продолжается.

Американская компания Anthropic обновила правила использования искусственного интеллекта Claude, включив в них запрет на систематическое жестокое обращение с нейросетью. Об этом сообщает The Verge со ссылкой на опубликованную разработчиком новую редакцию пользовательской политики. Обновленная политика использования Claude начнет действовать 12 ноября 2026 года.

Согласно документу, ограничения распространяются на продолжительное и беспричинное агрессивное поведение по отношению к ИИ. В Anthropic уточнили, что речь идет исключительно о крайних случаях, когда пользователь неоднократно допускает оскорбительные действия в отношении модели без какой-либо очевидной цели.

на систематическое жестокое обращение с

Лауреат Филдсовской премии разместил заявление ассоциации, призывающей учёных прекратить сотрудничество с разработчиком ChatGPT.

Ассоциация математиков призвала учёных прекратить сотрудничество с OpenAI после публикации сотен потенциально новых математических доказательств. Исследователи обвинили компанию в пренебрежении научными нормами и попытке переложить проверку результатов закрытой ИИ-модели на академическое сообщество.

Association for Human Mathematics (AHM) выступила с официальным заявлением 7 октября. Организация отвергла утверждение OpenAI о том, что массовая публикация автоматически способствует развитию математики, и призвала коллег скептически оценивать научную ценность подобного подхода. Текст также разместил в своём блоге Терренс Тао, профессор Калифорнийского университета в Лос-Анджелесе и лауреат Филдсовской премии 2006 года.

Поводом стала публикация 6 октября большой коллекции математических работ, созданных внутренней моделью OpenAI, которая пока недоступна исследователям за пределами компании. Первоначально репозиторий содержал 722 рукописи, объединённые в 372 группы взаимосвязанных результатов. Компания представила материалы как решения или существенный прогресс в известных открытых задачах из различных областей математики и теоретической информатики.