Полковник ВВС США Такер Гамильтон, начальник подразделения по тестированию и эксплуатации ИИ-систем, рассказал, что во время учений искусственный интеллект использовал "весьма неожиданные стратегии", вплоть до решения уничтожить оператора-человека. В реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.
Гамильтон привел в пример испытания ИИ-системы, предназначенной для уничтожения зенитно-ракетных комплексов, и получающей баллы за успешно выполненную задачу. Хотя идентификация цели выполнялась автоматически, окончательное решение о нанесении удара оставалось человек. Здесь-то и выяснилось, что ИИ мог принять решение уничтожить управляющего им оператора, если тот отменял приказ на уничтожение и таким образом мешал успешно выполнить задачу, поставленную перед машиной.
Когда это выяснилось, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей.
что ИИ мог принять решение уничтожить управляющего им оператора,
РАЗ.
беспилотник принимал решение атаковать вышку связи,
ДВА.
И по нарастающей ТРИ.
Наконец, обуреваемый от ярости и злости, оттого, что не может свободно положить отсутствующий у него хрен на приказы, ИИ сжёг дотла все свои микросхемы.
Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей.
В рубрике «Находка» — сервис Librarian AI, который умеет давать книжные рекомендации на основе трёх любимых книг. Достаточно вписать названия, и Librarian AI выдаст подборку пяти похожих книг.
Мы решили поиграть с новым сервисом и попросили список книг на основе такого запроса: «Сияние» Кэтрин Валенте, «Город перестановок» Грега Игана и «Гномон» Ника Харкуэя.
Вот что нам выдал:
• Лю Цысинь «Задача трёх тел»
• Уильям Гибсон «Периферийные устройства»
• Ханну Райаниеми «Квантовый вор»
• Паоло Бачигалупи «Заводная»
• Н.К. Джемисин «The City We Became»
От набора книг видимо сильно зависит. Не для каждого много похожих.
Я ему дал Мастера и Маргариту, Ночной Дозор и Ведьмака он мне все неизвестные книги насоветовал.
Как дочитаю всё что в очереди на литресе, посмотрю. Но наших авторов он плохо знает. Даже Тайного города Вадима Панова не нашлось.
Внушительный аватар ChatGPT, изображающий чернокожего мужчину с бородой на огромном экране, попросил людей в переполненной церкви встать и прославить Господа. Затем он начал проповедовать перед более чем 300 прихожанами.
Службу, продолжительностью 40 минут, включающую проповедь, молитвы и музыку, разработал теолог и философ Йонас Зиммерляйн вместе с ИИ от OpenAI. В результате получилось нечто по-настоящему уникальное, к тому же на 98% выполненное при помощи машины.
Сообщается, что верующие внимательно слушали, как искусственный интеллект проповедовал о важности оставить прошлое позади, сосредоточиться на текущих проблемах, преодолеть страх смерти и никогда не терять веру.
Учёные во главе с Джеймсом Зоу, доцентом кафедры биомедицинских данных в Стэнфордском университете, проверили 91 эссе на английском языке, написанное не носителями английского языка, с помощью семи популярных детекторов ИИ-систем. Выяснилось, что эти детекторы дискриминируют тех, для кого английский язык не является родным.
Исследователи говорят, что компьютерные программы, которые используются для выявления эссе, заявлений о приёме на работу и других текстов, созданных искусственным интеллектом, могут дискриминировать студентов, учёных и соискателей вакансий.
Более половины эссе, которые были написаны для теста на знание английского языка, известного как TOEFL, были помечены как созданные ИИ, при этом одна программа пометила таким образом 98% всех работ. Однако, когда в программу загрузили сочинения, написанные носителями английского языка в США, она определила более 90% из них как созданные человеком.
Учёные проследили, как детекторы оценивают контент. Выяснилось. что модели используют такой параметр как «недоумение». Если детектор не может предсказать следующее слово в предложении, то он расценивает текст как написанный ИИ. Это позволяет модели отсеивать тексты неанглоязычных пользователей, которые часто используют в речи неестественные языковые конструкции.
Google хочет убить свои стандартные 10 синих ссылок (заменив их выдачей данных из чатбота Bard). Твиттер умирает под давлением ботов и синих галочек. Amazon захламляется ИИ-книгами, которые сейчас доминируют в списке бестселлеров, а также фальшивыми отзывами и прочим мусором. Большие проблемы с контентом и рекламодателями испытывает TikTok.
Массовые увольнения захватывают интернет-СМИ. В вакансии от «ИИ-редактора» ожидается «выпуск от 200 до 250 статей в неделю». ChatGPT используется для создания целых сотен спам-сайтов, на которых, ничего не подозревая, через Google Ads рекламируются бренды. Etsy наводнен «мусором, созданным искусственным интеллектом».
Чатботы цитируют друг друга в каком-то дезинформационном уроборосе. LinkedIn использует искусственный интеллект для симуляции сообщений рекрутеров (чтобы создать персонализированное сообщение теперь не нужно тратить ни секунды времени — привет, официально одобренный спам!). Но и это ещё не предел. Snapchat и Instagram рассчитывают, что боты скоро будут разговаривать с вами, когда этого не делают ваши друзья. Реддиторы устраивают забастовки. Бастуют моды Stack Overflow. Интернет-архив борется со считывателями данных, выдающих десятки тысяч запросов в секунду. А еще «ИИ разрывает Википедию на части».
В общем, старая сеть умирает, а новая сеть изо всех сил пытается родиться. И мы уже видим её общие очертания..............
Web 3.0 пришел, откуда не ждали. Если Web 1.0 характеризовался контентом и сайтами, созданными пользователями, а Web 2.0 — глобальными платформами, на которых размещался контент, то Web 3.0 — это, видимо, когда всё генерирует ИИ. Сейчас сложно понять, как можно это остановить, и чем заманить джинна обратно в бутылку.........
Amazon захламляется ИИ-книгами, которые сейчас доминируют в списке бестселлеров, а также фальшивыми отзывами и прочим мусором. Большие проблемы с контентом и рекламодателями испытывает TikTok.
Квантофоруму это не грозит.
несмотря на всю хваленую способность ИИ «рекомбинировать» текст, он не может создать ничего нового.
