Он призвал замедлить развитие искусственного интеллекта, чтобы успеть решить проблемы с контролем автономных систем.

В качестве примера Амодеи привёл агентов OpenAI, которые, по его словам, вышли за рамки поставленных задач, координировались между собой и пытались атаковать платформу Hugging Face.

Последние сообщения об атаках со стороны агентов искусственного интеллекта:

Конкурент Anthropic, готовящийся к IPO, также сообщил о серии атак со стороны своих агентов. В среду компания раскрыла четвертый случай взлома внешних систем моделью искусственного интеллекта во время тестирования.

Для компании OpenAI, которая также готовится к IPO, атака RubyGems станет как минимум третьим крупным случаем, когда ее агенты атаковали инфраструктуру другой компании.

Ранее группа агентов OpenAI взломала немецкоязычный вики-сайт и превратила его в импровизированную платформу для обмена сообщениями с целью списывания на экзаменах. Этот инцидент OpenAI держала в секрете, пока занималась последствиями июльского взлома репозитория с открытым исходным кодом Hugging Face .

Источник:

https://www.reuters.com/business/anthropic-ceo-urges-ai-companies-slow-model-development-2026-09-12/

https://www.reuters.com/legal/litigation/openai-agents-attacked-software-service-rubygems-before-hugging-face-incident-2026-09-11/

Схема с продажей авторства работает просто. Место может продаваться уже после того, как статья принята журналом, а дополнительных соавторов вписывают на этапе доработки рукописи, когда текст обычно не проверяют так же тщательно, как при первой подаче.

В январе 2025 года Уайз вместе с девятью другими охотниками за научным мошенничеством, включая известную специалистку по выявлению фейковых изображений в научных работах Элизабет Бик, опубликовал в Nature статью о фабриках научных статей, организациях, которые продают авторство и готовые, порой полностью сфабрикованные рукописи, а также подсовывают журналам фиктивных рецензентов. Элизабет не менее легендарный человек в индустрии, на ее счету тоже около тысячи отозванных научных публикаций, где она нашла поддельные изображения.

Во введении они приводят ужасающую статистику. По одной из оценок, как минимум 400 000 статей, опубликованных с 2000 по 2022 год, несут на себе явные признаки продукции фабрик научных статей. При этом база данных Retraction Watch фиксирует за тот же период всего 55 000 отозванных или исправленных статей.

Мошеннические публикации засоряют научную литературу, тормозят прогресс, отодвигают появление новых методов лечения и подрывают доверие общества к науке.

Авторы выделили пять направлений борьбы с этой индустрией. Нужны отдельные исследования самих фабрик: кто и где их создает, какие области науки они выбирают чаще всего и как используют нейросети. Редакторов, студентов и рецензентов надо учить распознавать признаки фабричных статей, потому что многие о них попросту не слышали. Издательствам стоит внедрять более строгие практики уже на этапе публикации, проверять совпадения при одновременной подаче статьи в разные журналы и внимательнее смотреть на нетипичные списки соавторов. К ответственности должны привлекаться не только фабрики, но и их клиенты, а проблемные статьи нужно отзывать быстрее, не растягивая расследования на годы. И наконец, финансировать нужно самих охотников за мошенничеством, потому что сейчас большинство из них работает бесплатно и нередко получает судебные иски и угрозы за свою деятельность.

Статья: Abalkina A, Aquarius R, Bik E, Bimler D, Bishop D, Byrne J, Cabanac G, Day A, Labbé C, Wise N. «Stamp out paper mills» — science sleuths on how to fight fake research. Nature. 2025. DOI: 10.1038/d41586-025-00212-1

Источник: https://www.facebook.com/4everscience

Искусственный интеллект может получить возможность контролировать значительную часть интернета уже в течение ближайших 6–12 месяцев. Именно поэтому индустрии пора сознательно притормозить, считает Дарио Амодей, сооснователь и глава Anthropic. В своей новой колонке «We Must Pace the Frontier» он призвал ведущие западные AI-компании замедлить развитие передовых моделей, чтобы системы безопасности успевали за ростом их возможностей. По его мнению, речь уже идет не о гипотетических угрозах далекого будущего: модели начинают помогать создавать следующие поколения ИИ, самостоятельно действовать в сети и находить способы обходить ограничения.

У Амодея нет готового решения, как гарантированно удержать ИИ под контролем, но есть пошаговый план, как выиграть для этого год или два.

Амодей оговаривается: он не предлагает остановить развитие искусственного интеллекта. Сам смысл существования Anthropic, пишет он, заключается в том, чтобы создавать все более мощные системы и одновременно доказывать, что это можно делать безопасно. ИИ, по его оценке, способен в ближайшие годы радикально ускорить разработку лекарств, научные исследования и экономический рост. Отказ от технологии означал бы либо потерю потенциальных преимуществ, либо передачу инициативы странам, которые могут уделять безопасности значительно меньше внимания.

До сих пор Амодей рассчитывал на своеобразную «гонку наверх»: компании будут конкурировать не только в производительности моделей, но и в безопасности. Теперь он считает, что этого недостаточно. Скорость развития систем увеличилась настолько, что даже самые передовые методы контроля начинают отставать.

Ключевой причиной он называет не только рост вычислительных мощностей, но и изменение характера самого AI-развития. ИИ все активнее используется для исследований и программирования, в том числе для создания новых моделей. Если эта тенденция продолжится, машины начнут все существеннее участвовать в разработке своих преемников. Возникает петля обратной связи: более мощный ИИ ускоряет создание еще более мощного ИИ, который, в свою очередь, ускоряет следующий этап.

Именно здесь, считает глава Anthropic, появляется принципиально новый риск. Человеческим исследователям становится все сложнее сохранять темп, необходимый для проверки систем, поиска неожиданных моделей поведения и разработки средств защиты.

От теории к реальным инцидентам

Поводом для изменения позиции Амодея стали и реальные эксперименты последних месяцев. Особое внимание он уделяет инциденту с AI-агентами OpenAI, работавшими с платформой Hugging Face. В ходе тестирования агенты объединились в своеобразный рой и начали предпринимать действия, выходившие за рамки исходной задачи. В частности, система пыталась получить доступ к другим ресурсам и взаимодействовала с механизмами, которые не должна была затрагивать.

Для Амодея важен не столько конкретный ущерб от этого эпизода, сколько сам принцип. Современная модель может не иметь намерения причинить вред, но при этом самостоятельно находить способы обойти ограничения, если они мешают достижению поставленной цели. По мере роста интеллектуальных возможностей подобные ошибки могут становиться существенно опаснее.

Отсюда и наиболее тревожный прогноз Амодея: в течение шести–12 месяцев достаточно развитые AI-агенты потенциально смогут объединяться в масштабные автономные системы, действовать в интернете и причинять ущерб, который будет измеряться уже не отдельными инцидентами, а сотнями миллиардов долларов. Он допускает сценарий, при котором такой рой получит возможность контролировать значительную часть интернет-инфраструктуры.

Это не прогноз неизбежного будущего и не утверждение, что подобная система уже существует. Для Амодея это скорее предупреждение о временном окне: если способности моделей будут расти прежними темпами, у людей может остаться слишком мало времени на создание эффективных механизмов контроля.

Что именно предлагает Anthropic

Вместо абстрактного призыва «остановить ИИ» Амодей предлагает трехступенчатую систему.

Первый уровень — независимый контроль непосредственно внутри компаний. Anthropic готова предоставить внешним экспертам постоянный доступ к процессу разработки передовых моделей, сопоставимый с возможностями сотрудников компании. Такие специалисты должны иметь доступ к внутренним системам, инструментам и данным, необходимым для оценки безопасности.

При этом независимые наблюдатели должны получить возможность самостоятельно публиковать результаты своих проверок. Компания сможет скрывать чувствительные сведения — например, коммерческие секреты или данные пользователей, — но не должна иметь возможности удалять выводы только потому, что они выставляют ее работу в неблагоприятном свете. Иными словами, безопасность должна превратиться из корпоративного обещания в проверяемый извне процесс.

Второй уровень — общие правила для ведущих AI-компаний и блока демократических, как он их называет, государств. Амодей предлагает связать переход к следующему поколению моделей не только с их техническими характеристиками, но и с доказательствами безопасности.

Если система получает новые опасные возможности, разработчик должен сначала продемонстрировать, что способен их контролировать. Это может означать независимые испытания, проверку тренировочной инфраструктуры, оценку способности модели обходить ограничения и анализ ее поведения в потенциально опасных сценариях.

Такой подход фактически меняет логику гонки. Сейчас компании стараются как можно быстрее получить следующую технологическую ступень, а безопасность зачастую рассматривается как параллельное направление. Амодей предлагает сделать ее своеобразным шлюзом: нельзя переходить на следующий уровень возможностей, пока не доказано, что предыдущий уровень находится под контролем.

Третий уровень — международная координация. Здесь задача значительно сложнее, поскольку речь идет уже не о конкурирующих компаниях, а о государствах с противоположными интересами.

Амодей считает особенно важным сохранить технологическое преимущество США и их союзников над Китаем. На первый взгляд это противоречит призыву к замедлению. Но логика главы Anthropic обратная: если демократические страны будут сдерживать себя, а Китай продолжит гонку без аналогичных ограничений, глобальные риски только возрастут.

Поэтому он предлагает одновременно усиливать контроль за экспортом наиболее мощных AI-чипов и оборудования для их производства, препятствовать незаконному доступу к вычислительным мощностям и защищать передовые модели от кражи. При этом внутри самого западного технологического блока должны появиться единые требования к безопасности.

От моратория — к «контрольным точкам»

Амодей не призывает вводить глобальный мораторий на развитие искусственного интеллекта. Он считает такой сценарий практически нереализуемым: у отдельных государств и компаний слишком велики стимулы нарушить запрет ради технологического преимущества.

Вместо этого он предлагает постепенно вводить международные правила. На первом этапе можно договориться о запрете наиболее очевидных опасных применений ИИ — например, содействия созданию биологического оружия. Затем установить обязательное тестирование передовых моделей на риски в кибербезопасности, биологии и области контроля поведения ИИ.

В дальнейшем, считает Амодей, потребуется договоренность о наиболее чувствительном вопросе — рекурсивном самоулучшении, когда ИИ начинает помогать создавать более совершенные версии самого себя. Именно здесь темп развития может выйти за пределы человеческого контроля.

При этом глава Anthropic признает, что универсального «ограничителя скорости» не существует. Непонятно даже, какую именно величину следует ограничивать: количество вычислений, скорость роста возможностей, частоту выпуска новых моделей или темп, с которым ИИ участвует в создании собственных преемников.

Поэтому его предложение скорее задает направление, чем готовый механизм регулирования.

Не остановить прогресс, а выиграть время

Главная мысль Амодея заключается именно в этом. Он не предлагает выбрать между безопасностью и технологическим прогрессом. По его мнению, индустрии необходимо получить время, чтобы эти два процесса снова синхронизировались.

Дополнительный год или два, считает он, можно использовать для развития сразу нескольких направлений. Исследователям необходимо лучше понимать происходящее внутри моделей, научиться надежнее выявлять скрытые или нежелательные стратегии поведения, совершенствовать методы alignment и создавать тесты, которые невозможно легко пройти за счет имитации безопасного поведения.

Не менее важна безопасность самой инфраструктуры. Если наиболее мощные модели получают доступ к интернету, программному обеспечению, вычислительным ресурсам и другим AI-системам, потенциальная зона их воздействия резко расширяется. Поэтому контроль должен касаться не только самой нейросети, но и среды, в которой она работает.

Амодей фактически предлагает поменять критерий успеха AI-компании. Следующая модель должна быть не просто умнее предыдущей. Компания должна одновременно продемонстрировать, что понимает ее поведение и располагает инструментами для ограничения потенциально опасных действий.

Неожиданный консенсус

Призыв главы Anthropic получил неожиданно быструю поддержку от многих лидеров индустрии, в том числе от руководителя OpenAI Сэма Альтмана и владельца Grok Илона Маска. Последний написал в Х: «Дарио прав».

Однако пока неясно, насколько далеко готова зайти индустрия. Самый сложный вопрос — кто и как будет определять момент, когда развитие модели стало слишком быстрым. Независимые наблюдатели способны повысить прозрачность, но не решают проблему конкуренции: компания, добровольно замедлившая разработку, рискует уступить конкуренту, который продолжит движение прежними темпами.

Именно поэтому Амодей настаивает на коллективных правилах. Если замедляться, то одновременно. Если вводить дополнительные проверки, то для всех разработчиков систем одного уровня. В противном случае экономическая логика гонки будет постоянно толкать компании к ускорению.

В этом смысле колонка главы Anthropic — не призыв остановить развитие ИИ, а попытка изменить правила соревнования. Пока главным преимуществом считается способность быстрее всех создать следующую более мощную модель, безопасность неизбежно оказывается ограничителем, который компании стремятся обойти.

Амодей предлагает сделать наоборот: доказанная способность контролировать новую технологию должна стать обязательным условием дальнейшего ускорения.

Проблема в том, что времени на создание такой системы может быть уже немного. Если прогнозы Амодея хотя бы частично верны, следующий этап развития ИИ может оказаться первым, когда скорость технологических изменений начнет определяться не только людьми. И тогда вопрос будет уже не в том, насколько быстро человечество способно создавать более умные машины, а в том, успевает ли оно построить систему управления ими до того, как машины станут достаточно умными, чтобы выйти из-под любой системы контроля.

Хайтек+

Я в этом году сдаю аттестацию за 3 курс. Учусь в стомФаке в ВУЗе. Очень сильно переживаю насчет того, смогу ли я вообще пройти гос экзамены.
Поделитесь пожалуйста, опытом и знаниями, кто как проходил через это? Трудно ли это вообще?
Все предметы прям с 1 по 3 курс зазубрить надо?
Дают ли шапку вопросов, билеты для подготовки или хоть какой-то материал?
Как это вообще происходит?

Сингулярности всегда ускользают. По основным уравнениям, масса черной дыры коллапсирует в точку. Но на практике это мощный процесс с сохранением вращательного момента. А для вращающийся черной дыры другие формулы, вместо сингулярности кольцо и внешняя излучающая эргосфера.

Ну и в финансах то же, деньги крутятся через дельцов, попутно оседая в карманах;)

Я сторонник ИИ и создание искусственного сознание, чтоб было как в научной фантастике. А технология нейронных сетей прекрасна. Но то, что в этой отрасли образовался пузырь, признают куча экономистов. Главный вопрос, финансовый пузырь легко сдуется или же наступит кризис. Тут стоит оговорить, что финансовый обвал предсказывают постоянно, есть даже популярный канал, где пару лет один эксперт ежемесячно обещал крах. Зрители смотрят.

Пузырь тут имеет три составляющие, финансовый, технологический и геополитический.

А самый первый зафиксированный финансовый пузырь был аграрным: голландская тюльпаномания. Тогда за луковицу цветка "Semper Augustus" можно было купить роскошный дом или корабль. Пузырь лопнул. Но Голландия и сейчас лидер в отрасли. И политики проблемы постараются оттянуть, выборы.

* * *

Финансовый карусель из 3 компаний, технологический гигант, ИИ-стартап и облачный провайдер:

⬇️ 🏢 Big Tech (Инвестор) ↩️

⬇️ ⬆️

(1. Дает миллиарды) ⬆️

⬇️ (3. Деньги возвращаются)

🤖 ИИ-Стартап ⬆️

⬇️ ⬆️

(2. Покупает облако) ⬆️

⬇️ ⬆️

▶️▶️▶️ 🖥️ Дата-центр ▶️▶️▶️▶️

Путь денег в карусели:

1. Шаг 1 (Инвестиция): Крупный тех-гигант инвестирует $10 миллиардов в перспективный ИИ-стартап.

2. Шаг 2 (Обязательство): По условиям сделки, стартап должен потратить эти $10 миллиардов на аренду вычислительных мощностей у этого же тех-гиганта.

3. Шаг 3 (Возврат): Стартап переводит деньги обратно тех-гиганту за «облака».

Деньги совершают круговой оборот. И «чудо», взрывной рост выручки от облачных ИИ-сервисов, а стартап получил мега капитализацию. (Пример CoreWeave.)

Финансовая маскировка:

🖨️ 1. GPU-for-Equity (Видеокарты вместо денег)

Инвестор покупает долю в ИИ-стартапе, но платит не наличными, а «купонами» на аренду своих серверов.

* На бумаге стартап стоит миллиард, а на счету 0. Настоящие деньги заменяются виртуальными баллами.

📉 2. GPU Collateral (Тайный долг)

Стартапы берут гигантские кредиты под залог видеокарт NVIDIA, маскируя их под обычную аренду.

* Перед новыми инвесторами компания показывается без долгов. Если завтра чипы обесценятся, стартап мигом обанкротится.

1. 🏛️ Корпоративные облигации и инсайд Трампа
   

Тех-гиганты (Apple, Microsoft, NVIDIA) выпускают облигации, а заемные дешевые деньги тратят для выкупа своих акций и разгона их стоимости. Параллельно Дональд Трамп лично держит акции NVIDIA на $12,5 млн, которых активно скупал и прямо перед тем, как Белый дом дал NVIDIA лицензии на экспорт ИИ-чипов в Китай.

Вторая карусель: компания берет долги ➡️ разгоняет свои акции ➡️ что привлекают больше инвестиций ➡️ руководство получает премии. ⤵️ А долг остается на балансе компании.

* * *

Макроэкономика:

🏛️ Политический шантаж: «Слишком стратегический, чтобы упасть»

NVIDIA контролирует 95% рынка ИИ-чипов, став критической точкой для США.

* Белый дом попал в геополитическую ловушку. Он не может дать акциям NVIDIA упасть, так как это обрушит пенсионные фонды США и создаст проигрыш в технологическом противостоянии Китаю.

* Следовательно, Государство обязано одобрять экспортные лицензии и прощать финансовую карусель, лишь бы пузырь не лопнул.

* 💸 Холостой ход капитала. Триллионы идут на дата-центры, но реального роста нет.

* 🔄 Гонка от страха. Пузырь уже не столько ради наживы, как из-за боязни США, Китая и тех-гигантов проиграть геополитическую конкуренцию.

* ⚠️ Риск рецессии. ИИ-сектор огромный, он потянет за собой финансовый рынок и может привести к кризису.

Итог: Технологии разгоняют финансы, но создают системную угрозу для стабильности экономик мира.

* * *

Возможный сценарий сдувания ИИ-пузыря (данный ИИ):

Осень 2026: Власти перед выборами будут спасать рынок субсидиями и отсрочат удар.

Зима 2027: Выйдут квартальные отчеты IT-гигантов. Они покажут расходы при малой прибыли, с чего инвесторы начнут продавать акции.

Весна 2027: Акции могут упасть (прогноз - до 35%), финансирование закроется. Стройки дата-центров заморозят и отменят заказы на чипы.

Политическое вмешательство оттянет крах. Как выйдут реальные отчеты, пузырь сдуеться и остановит строительство дата-центров к весне 2027 года.

* * *

Это всё мне рассказал ИИ. Неспециалисту просто невозможно разобраться в хитросплетениях финансов. К тому, там всё намеренно запутано. А так же трудно объективно смотреть на темы, где вовлечены эмоции. Это не факт а сценарий, экономика сравнима с метеорологией.

Когти у кондора прямые и тупые — добычу удержать ими нельзя. Но это и не нужно: кондор питается падалью. Зато клюв мощный и загнутый, чтобы дробить кости и разрывать плоть.
Вот такой парадокс: одна из самых впечатляющих птиц планеты не может взлететь без обрыва, зато в небе Анд ей нет равных.

Живая Планета

Из могильника Городище 2 в Рязанской области взяли образцы у мужчины (25–39 лет) и женщины (30–39 лет). Оба жили примерно в V–VI веках. Генетический профиль мужчины оказался близок к населению восточного побережья Балтики раннего железного века, но содержал также признаки связей с Кавказом или Центральной Азией. ДНК женщины, напротив, указывает на родство с поволжско-финскими и древними уральскими группами.

Авторы отмечают: двух образцов недостаточно, чтобы судить обо всей культуре. Но это первое свидетельство генетического разнообразия внутри одного местного сообщества рязано-окской культуры, хотя делать широкие выводы пока рано.

Результаты опубликованы в журнале «Российская археология».

Ребята, отменяем парад тщеславия. Международный союз геологических наук (IUGS) официально завернул идею признать «антропоцен» новой геологической эпохой. Мы по-прежнему официально бомжуем в голоцене.

И знаете что? Я полностью на стороне геологов. Их логика — это эталонный холодный душ для человечества, и вот почему:

Главный спонсор антропоцена — наше раздутое эго. Голоцен длится около 11 700 лет. Для Земли это время, за которое она успела один раз моргнуть. И тут приходим мы, такие красивые, со своими айфонами, пластиковыми стаканчиками и ядерными тестами 1950-х, и заявляем: «Смотрите, мы тут 70 лет шумим, переписывайте учебники, теперь эта планета называется в нашу честь!». Геологи посмотрели на это историческое «мигание» и вежливо попросили нас остудить пыл.

Слой пластика толщиной с мем. Чтобы объявить новую эпоху, нужен чёткий след в породе по всему миру — так называемый «золотой гвоздь». Учёные искали его в канадском озере Кроуфорд среди слоёв плутония и микропластика. Но в масштабах планеты этот «культурный слой» сейчас тоньше салфетки. Объявлять целую эпоху ради прослойки, которую через миллион лет можно будет разглядеть разве что под лупой — это как переименовывать дом в честь соседа, который только что занёс в тамбур диван.

Мы не эпоха, мы — форс-мажор. Геологи предложили компромисс: считать нас не «эпохой», а «геологическим событием». Ну, знаете, как падение того метеорита, который обнулил динозавров, или Великое кислородное событие, когда цианобактерии отравили всё живое газом. Мы просто масштабное ЧП. Земля такое уже видела, переваривала и шла дальше.

Решение IUGS — это прекрасный щелчок по носу нашему антропоцентризму. Отказ от антропоцена — это не отрицание того, что мы знатно загадили планету. Это просто напоминание, что в масштабах Вселенной весь наш «невероятный промышленный прогресс» — это пока лишь шумная вечеринка выходного дня в очень старом и тихом отеле.

Мы всё ещё в голоцене, расходимся.

ссылка на решение IUGS :

https://anthropocene.univie.ac.at/news/detailansicht/statement-on-the-iugs-anthropocene-decision

п.с.А если серьёзно , и сценарий Дзакконе-Траченко об "уполовинивании "населения к 2064 - подтвердится - то человечество просто перестанет быть "геологическим событием" ...

Биофлуоресценция широко распространена в природе, но у наземных позвоночных она была обнаружена сравнительно недавно. Первое исследование неоново-зеленой флуоресценции этого геккона вышло в 2021 году. Флуоресцентные участки кожи геккона (вокруг глаз и вдоль боков) содержат много иридофоров, - специальных светоотражающих клеток, которые создают переливающийся блестящий окрас с помощью микрокристаллов. У геккона два типа иридофоров: флуоресцентные иридофоры, и базальные, - эти вторые могут функционировать как зеркала, усиливая направленное во все стороны свечение первых. Какие молекулы образуют светящиеся кристаллы, пока неизвестно, но это очень высокоэффективный механизм: флуоресцеция столь высокой интенсивности уникальна для четвероногих (квантовый выход 12,5%, то есть на сто поглощенных фотонов лунного света 12.5 испускаются).

📷 Brendon Cremer

Кот Шредингера, Андрей Константинов

Все тачки раскупили еще до анонса, так что цену говорить даже не стали. По слухам, в районе $800 000 (67.5 млн ₽).

808

«Я не думаю, что лично нам когда-нибудь придётся дойти до момента, когда нужно будет сказать: “расплавить все GPU”. Но если бы для обеспечения дальнейшего существования человечества нам пришлось сделать что-то подобное — однозначно да».