|
|
РУС | ENG
| |
|
|
Прогресс в сфере искусственного интеллекта |
| |
|
12.11.2026
Прогресс в сфере искусственного интеллектаАкадемик Олег Фиговский
Сегодня моделирование физического процесса требует специализированного инструмента, подходящего только для выбранного материала. Исследователи из США предложили альтернативу — единую систему глубокого обучения под названием WorldParticle. Она позволяет моделировать самые разные физические явления — от движения песка до сворачивания белков — с помощью универсальной архитектуры ИИ. Так можно будет быстрее и точнее проанализировать, скажем, воздействие нефти на эластичный клапан резервуара. Система, разработанная учеными из Массачусетского технологического института, Университета Британской Колумбии и других научных организаций США представляет любой моделируемый объект — будь то песчаная дюна или молекула белка — в виде совокупности мельчайших частиц и пошагово прогнозирует их перемещение. Поскольку модель обучается на основе динамических закономерностей, а не жестко запрограммированных уравнений, она способна адаптироваться к материалам, силам и условиям, с которыми она не сталкивалась в процессе обучения. «Каждый раз, когда возникает необходимость создать симулятор для какого-либо физического явления, приходится писать код с нуля, — сказал Чэнь Ичэнь, один из участников проекта. — Наша цель — создать базовую модель, которая будет готова к работе „из коробки“ для любого сценария, который нужно смоделировать. Это первый шаг в данном направлении». Как правило, при моделировании материалов и физических процессов с использованием лагранжевых частиц ученые опираются на определяющее уравнение, которое задает фундаментальные законы поведения материала в пространстве и времени. Им приходится преобразовывать это сложное уравнение в формулу, пригодную для численного решения, — и повторять этот процесс для каждого нового материала или физического явления. Исследователи предложили иной подход: они разработали нейронную сеть, способную решать такие уравнения в общем виде, пишет Techxplore. Это избавляет от необходимости каждый раз создавать новую модель и алгоритм решения для конкретной задачи. Система WorldParticle преобразует объект в набор частиц, а нейронная сеть использует их трехмерные координаты и физические свойства в качестве входных данных. На выходе сеть выдает положение и характеристики частиц для следующего кадра симуляции, прогнозируя динамику материала в пространстве и времени с шагом в одну секунду. «Архитектура системы напоминает ChatGPT, — объяснил Чэнь. — Только вместо того, чтобы предсказывать следующее слово в тексте, мы прогнозируем движение частиц — шаг за шагом». Перед каждым шагом WorldParticle выделяет внешние силы, действующие на физическую систему — например, импульс океанской волны при ее ударе о волнорез, — и корректирует свои предсказания. Благодаря этому она способна работать с материалами, которые прежде не встречала, а также адаптироваться к меняющимся условиям окружающей среды и различным внешним воздействиям. Для оптимизации процесса обработки данных исследователи применили метод объединения, позволяющий комбинировать и сжимать частицы, сохраняя при этом возможность для WorldParticle фиксировать мельчайшие детали их поведения. Эффективность WorldParticle была продемонстрирована на примере шести различных физических явлений — включая поведение деформируемых объектов, сыпучих материалов и белков. При этом точность моделирования оказалась выше, чем у традиционных численных методов. Так, WorldParticle успешно воспроизвела процесс оседания сыпучего материала. Кроме того, предложенный метод позволяет моделировать изменения белковых структур во времени примерно в 100 раз быстрее, чем численные симуляторы. Этот подход можно применить ко многим материалам и процессам, включая задачи по управлению мягкими роботами, эволюцию РНК или слияние галактик. Прогресс в сфере искусственного интеллекта повысит уровень киберугроз, поэтому людям необходимо научиться ограничивать возможности нейросетей, заявил основатель Microsoft Билл Гейтс в интервью порталу Verge. Гейтс заявил в интервью, что «в ближайшие несколько лет в киберсфере вы увидите много атак, разных по целям и масштабу». Гейтс сравнил развитие искусственного интеллекта с ящиком Пандоры, отметив, что возможности нейросетей могут вызывать опасения. Он подчеркнул, что людям необходимо смириться с ограничениями в этой области и не стремиться использовать технологию на пределе ее возможностей. Ранее в интервью телеканалу NBC Гейтс отметил, что человечество еще никогда не сталкивалось с таким мощным оружием, как сочетание людей со злыми намерениями и новейших инструментов искусственного интеллекта. Он также высказался в пользу введения законодательных ограничений на использование ИИ. Кроме того, глава Anthropic Дарио Амодей предложил замедлить развитие более мощных моделей искусственного интеллекта, ссылаясь на вопросы безопасности. Это предложение нашло поддержку у американского миллиардера Илона Маска, который владеет компанией Space X AI, а также у главы OpenAI Сэма Альтмана. Начать программировать сегодня проще, чем несколько лет назад, а вот выйти с этим навыком на рынок — сложнее. Конкуренция среди начинающих специалистов растет, требования работодателей меняются, а искусственный интеллект постепенно перестраивает саму работу разработчика. «Компьютерра» разобрала три устойчивых представления об ИТ с двух сторон — с точки зрения преподавателя, который готовит будущих специалистов, и экспертов рынка труда, которые работают с запросами компаний на найм. Еще несколько лет назад ИТ воспринималось как сфера, где спрос на специалистов заметно превышает предложение, а техническая подготовка дает хороший шанс быстро начать карьеру. Сегодня ситуация выглядит сложнее. По аналитике Get Experts, при сравнении показателей сентября год к году объем спроса на ИТ-специалистов снизился примерно на 30%, а количество кандидатов, конкурирующих за одну роль по разным направлениям, выросло примерно на 25%. Светлана Аплеталина, руководитель практики «ИТ, телеком, финансовые институты» консалтинговой компании Get Experts, отмечает, что требования к кандидатам без опыта стали выше. Изменились и сами стартовые позиции. Часть относительно простых задач автоматизируется, а часть могут выполнять более опытные сотрудники с помощью новых инструментов. В результате компании получают возможность выбирать среди большего числа кандидатов, а базового набора технических знаний оказывается недостаточно, чтобы выделиться на их фоне.
С точки зрения рынка разработка тоже не выглядит профессией, требующей какого-то исключительного набора способностей. В Get Experts отмечают, что программирование — одна из функций внутри ИТ наряду с бизнес-анализом, продуктовой работой и другими направлениями. У каждой из них есть собственная сложность и свои требования к специалисту. Еще доступнее первые эксперименты с кодом делают инструменты генеративного ИИ. Модель может подсказать синтаксис, помочь найти ошибку или предложить вариант решения. Но профессиональная работа начинается там, где разработчик способен самостоятельно поставить задачу, разобраться в предложенном ответе, проверить его и при необходимости исправить.
Американский стартап Foundry Robotics получила $100 млн инвестиций на расширение автономной сборочной фабрики в Калифорнии. Компания объединяет роботизированные рабочие ячейки, ИИ-модели и собственную программную платформу, чтобы быстро перенастраивать производство под разные изделия, от дронов до спутников, и выпускать их для заказчиков по модели «производство как услуга». Предприятие занимает 12 тыс. м². За последнее время компании удалось увеличить производственные мощности в 20 раз. Foundry специализируется на сборке сложных электромеханических изделий, в том числе дронов, наземных роботов, подводных аппаратов, компонентов автономного транспорта, спутников и оборудования для телекоммуникационной инфраструктуры. Foundry строит заводы, в которых роботизированные ячейки работают под управлением моделей искусственного интеллекта. Они могут адаптироваться к выпуску разных изделий, тогда как традиционные сборочные линии обычно рассчитаны на один продукт и требуют длительной и дорогостоящей перенастройки при смене производства. Компания также развивает собственную систему FoundryOS, которая связывает роботов, производственный цех и облачную инфраструктуру. Данные каждого производственного цикла используются для дальнейшего обучения и совершенствования моделей. Foundry работает по модели «производство как услуга»: компания сама владеет заводом и управляет им, а заказчики могут передать ей сборку оборудования без необходимости строить собственные линии. По заявлению Foundry, переход от проектирования изделия к его производству в таком случае может занимать всего несколько недель. Новый раунд позволит Foundry ускорить внедрение ИИ в производственные процессы, расширить команды инженеров и робототехников, а также нарастить мощности завода в Эмеривилле. Раунд возглавил фонд Marlinspike Partners. Среди других участников — ранние инвесторы Khosla Ventures и Red Glass Ventures, а также SE Ventures, Wing VC, Axiom Ventures, Hanabi и Zero Shot Fund. Foundry Robotics основана в 2026 году Адаршем Кулкарни и Эммануэлем Ламаккиа. Последний ранее руководил производственной программой Tesla Model Y. Кулкарни работал в компании Ghost Robotics, разрабатывающей шагающих роботов для военных, а затем возглавлял направление робототехники в Scale AI. Компания рассчитывает, что гибкие автоматизированные мощности помогут быстрее запускать производство новой техники, в том числе для оборонного сектора. Два сотрудника OpenAI с помощью моделей GPT-6 и Astra менее чем за неделю спроектировали прототип устройства, а примерно через месяц контрактный производитель выпустил пробную партию. Гаджет позволяет взаимодействовать с ИИ-помощником для программирования Codex через физический интерфейс. С помощью этого эксперимента OpenAI хотела проверить, насколько далеко модели могут продвинуться в разработке аппаратного обеспечения — от первоначальной концепции до создания работающего прототипа. В проекте участвовали несколько инженерных направлений компании. GPT-6 помогла определить функциональные требования и организовать процесс проектирования, а Astra разработала внешний корпус и его внутренние компоненты. Модель подобрала электронные детали, спроектировала печатную плату, подготовила прошивку и пользовательский интерфейс, а затем обеспечила интеграцию устройства с Codex. В итоге прототип объединил специально изготовленный корпус, электронику и программное обеспечение. Однако переход от цифрового проекта к физическому устройству потребовал дополнительных усилий. Astra столкнулась с трудностями при учёте производственных ограничений, допусков компонентов и требований к сборке. Для проверки конструкции и подготовки к производству понадобилось несколько итераций. Контрактный производитель изготовил небольшую партию прототипов менее чем за месяц. В OpenAI считают, что эксперимент показывает, как ИИ может ускорить работу инженеров и сократить время перехода от идеи к готовым проектным решениям. Внутренние команды компании уже используют Codex и ChatGPT для создания моделей в системах автоматизированного проектирования (САПР), подготовки чертежей и настройки инженерных симуляций. По данным OpenAI, с февраля по октябрь объем использования моделей в командах, занимающихся разработкой аппаратного обеспечения, вырос в 23 раза. Компания рассчитывает этот показатель по количеству потребляемых токенов. OpenAI также оценивает инженерные возможности моделей с помощью специализированных тестов. В тесте BenchCAD 2.0 новая внутренняя модель компании набрала в среднем 0,875 балла, а GPT-6 Astra с максимальным уровнем логического мышления — 0,594. Тест проверяет, насколько хорошо модели могут восстанавливать трехмерные компоненты и распознавать соединения на печатных платах. В компании называют эти результаты предварительным свидетельством прогресса в решении инженерных задач. Кроме того, OpenAI проверяет свои разработки вместе с промышленными партнерами. В сотрудничестве с автоспортивной командой Chip Ganassi Racing инженеры изучают, как преобразовывать трехмерные сканы деталей в редактируемые CAD-модели и производственные чертежи. Это может пригодиться, когда исходные проектные файлы недоступны. Совместно с Mazda компания исследует применение ИИ для улучшения аэродинамики автомобилей и повышения безопасности при столкновениях. В частности, модели помогают изучать разные формы кузова и моделировать движение воздушных потоков. OpenAI намерена продолжить испытания с отраслевыми партнерами. Параллельно компания работает над своим первым потребительским аппаратным продуктом. По данным СМИ, это будет умная ИИ-колонка без экрана, способная двигаться. Исследователи из Массачусетского технологического института (США) использовали ИИ GPT-6 Astra от OpenAI, чтобы напрямую изменить параметры модели Qwen от Alibaba и устранить сбой в ее работе. Об этом сообщил Рикия Такехи, аспирант Лаборатории компьютерных наук и искусственного интеллекта MIT, на своем GitHub. GPT-6 Astra отредактировала веса (числовые параметры) модели Qwen3.5?0.8, изменив лишь около 0,016% весов без дополнительного обучения. Тем не менее, впоследствии точность Qwen в математическом тесте MATH-500 выросла с 7,9% до 48,1%. В другом тесте по математике — с 13,8% до 67,1%. Существенно улучшилось и выполнение инструкций. Такой результат был достигнут благодаря устранению проблемы циклических рассуждений. Ранее Qwen часто зацикливалась и генерировала текст до достижения лимита длины ответа. Astra выявила связанные с этим числовые закономерности и скорректировала отдельные параметры. После этого модель стала успешно выполнять больше задач, опираясь на уже имеющиеся у нее навыки. Новых математических знаний она при этом не получила. В других тестах Astra по весам небольших нейросетей определяла, в какие игры их научили играть. Кроме того, она изменила часть параметров симулируемого контроллера вождения, который ранее не мог преодолеть препятствие, — и тот справился с задачей. Самый успешный эксперимент длился более 20 часов и потребовал 158 реплик в диалоге и 80 запусков кода на Python, поэтому называть этот метод более быстрым или дешевым по сравнению с привычным обучением пока рано. Также не доказано, что крупная модель ИИ способна безопасно совершенствовать себя путем произвольного изменения собственных параметров. Компания Anthropic разработала для ИИ-модели Claude механизм «сновидений» — процесс, во время которого модель пересматривает накопленные воспоминания, исправляет неточности и систематизирует знания между сеансами работы. Подход помогает агенту сохранять полезную информацию из предыдущих разговоров и проверять ее, чтобы не переносить ошибки в будущие задачи. Память Claude устроена иерархически и состоит из нескольких уровней. В ее основе лежат стенограммы предыдущих взаимодействий — подробная история действий и событий, к которой модель может обращаться при необходимости. Опираясь на них, Claude формирует заметки с важными наблюдениями, а затем объединяет их в более сложные структуры знаний, например, вики со связанными страницами. Самые важные сведения попадают в отдельный слой контекста, который загружается в каждую новую сессию и сразу становится доступен модели. Механизм назвали «сновидениями» из-за аналогии с тем, как человеческий мозг во время сна обрабатывает и упорядочивает накопленные за день воспоминания. Похожим образом Claude в перерывах между сессиями пересматривает накопленную информацию — сверяет заметки с исходными стенограммами, находит противоречия и исправляет ошибки, создает новые заметки и обновляет вики. Таким образом, модель не просто сохраняет историю взаимодействий, а постепенно систематизирует знания и отбирает сведения, которые могут пригодиться в дальнейшей работе. Чтобы проверить, насколько эффективно модели Claude сохраняют и используют информацию в ходе длительных задач, Anthropic предложила им пройти Pokémon Red. После 10 тыс. игровых шагов Sonnet 3.7 создала 413 файлов памяти общим объемом 978 тыс. символов, но получила всего один значок-награду. Claude Fable 5 с новым механизмом памяти обошлась всего 10 файлами общим объемом 43,4 тыс. символов. Вместо подробной записи игровых событий она сохраняла преимущественно стратегии, планы и правила, которые могли пригодиться в дальнейшем. За то же время модель получила четыре значка. Компания Anthropic представила две новые модели искусственного интеллекта — публичную Claude Fable 5.2 и доступную для ограниченного круга партнеров Claude Mythos 5.2. Они показали улучшенные результаты в программировании, математике, робототехнике и инженерных задачах. Модели способны быстро выполнять проекты, которые раньше требовали месяцев работы специалистов. В ходе предварительного тестирования Fable 5.2 смогла самостоятельно за 8 дней создать работающую операционную систему, за 3 дня спроектировать три электронных устройства и за сутки с небольшим формализовать доказательство Великой теоремы Ферма. В одном из экспериментов инженер Anthropic поручил Fable 5.2 разработать операционную систему с нуля, предоставив ей только командную строку и пустую папку проекта. Модель координировала работу более тысячи субагентов на протяжении восьми дней — они писали код, тестировали отдельные компоненты и проверяли результаты. В итоге система смогла загрузиться на ноутбуке. Она получила собственное ядро, драйверы для диска, файловое хранилище, оконный интерфейс, экран входа, установщик и встроенные функции Claude. Другая задача касалась разработки физических устройств. В сотрудничестве с компанией Diode Computers, специализирующейся на проектировании и производстве печатных плат, Anthropic поручила модели создать домашний голосовой помощник, USB-спикерфон и портативного виртуального питомца. Fable 5.2 самостоятельно подготовила технические спецификации, подобрала доступные компоненты, спроектировала платы, корпуса для 3D-печати и программное обеспечение. Она также учитывала ограничения производства, проверяла совместимость деталей и неоднократно перерабатывала неудачные схемы. Все три платы удалось изготовить по проектам модели без доработок, а сами устройства заработали. При этом речь пока идет о прототипах: они не проходили полноценные испытания, сертификацию и проверку готовности к массовому производству. Модель также показала прогресс в математике и теоретической физике. Команда из тысячи агентов Fable 5.2 завершила компьютерную формализацию доказательства Великой теоремы Ферма за 30 часов, используя язык Lean. Они перевели существующее доказательство в форму, которую компьютер может проверить по шагам. В предыдущем эксперименте с более ранней исследовательской версией Claude аналогичная работа заняла 11 дней. Кроме того, Fable 5.2 решила две задачи, связанные с физикой черных дыр и соотношением квантовой механики и общей теории относительности. Модель также улучшила способности в робототехнике и программировании. В тесте RoboDojo, оценивающем способность управлять смоделированным двуруким роботом по изображениям с камер, Fable 5.2 набрала 64,9%. Для сравнения, предыдущая версия Fable 5.1 показала 27,6%, Opus 5.5 — 39,4%, а GPT-6 Astra — 29,8%. Модель выполняла задания, включавшие решение головоломок, открывание крышек бутылок и рисование. В другом эксперименте с помощью Fable 5.2 удалось перенести критически важный производственный сервис с Python на Rust. После миграции он стал запускаться в 26 раз быстрее. В целом новые модели генерируют ответы на 30% быстрее предыдущего поколения. В тесте CVE Rediscovery, который оценивает способность моделей находить известные уязвимости в программном обеспечении, Mythos 5.2 набрала 89,6% — на 11,3 процентного пункта больше, чем предыдущая версия. Независимая компания также установила, что другие протестированные передовые модели не обнаружили примерно каждую шестую подтвержденную уязвимость, которую удалось выявить Mythos 5.2. Одновременно Anthropic улучшила механизмы безопасности Fable 5.2: модель стала на 55% реже необоснованно отказывать в выполнении запросов. В частности, количество блокировок запросов по темам кибербезопасности сократилось на 60%, а биологии — на 40%. Модели построены на одной базовой архитектуре, но различаются доступностью и защитными механизмами. Fable 5.2 уже доступна широкому кругу пользователей, тогда как Mythos 5.2 могут использовать только организации, прошедшие проверку Anthropic, для исследований в области кибербезопасности и биомедицины. Стоимость Fable 5.2 составляет $8 за миллион входных и $40 за миллион выходных токенов — ниже, чем у предыдущего поколения. Обе модели предназначены для сложных технических задач, а для повседневной работы Anthropic рекомендует Claude Opus 5.5. Запуск новых моделей происходит на фоне подготовки Anthropic к выходу на биржу. При этом в сентябре глава Anthropic Дарио Амодей призвал индустрию замедлить развитие возможностей ИИ, чтобы меры безопасности успевали за технологическим прогрессом. Он подчеркнул, что речь не о прекращении разработок, а о более осторожном темпе их развития. Согласно «Докладу о развитии интернета в Китае — 2026», представленному на Всемирной конференции по вопросам интернета в Учжэне в 2026 году, объём китайского рынка корпоративных ИИ-агентов в 2025 году вырос до 21,2 млрд юаней, а объём рынка воплощённого искусственного интеллекта составил около 915 млрд юаней. Как отмечается в докладе, по состоянию на июнь 2026 года в Китае процедуру официальной регистрации прошли в общей сложности 924 сервиса генеративного искусственного интеллекта, а ещё 573 приложения или функции на базе генеративного ИИ были внесены в соответствующий реестр. В марте 2026 года среднесуточный объём использования токенов в Китае достиг 140 трлн, увеличившись более чем в тысячу раз за два года. OpenAI представила GPT-6 Cyber — новую модель искусственного интеллекта для задач кибербезопасности. Она предназначена для поиска уязвимостей, разработки эксплойтов и проверки программного обеспечения на защищенность. Модель уже обнаружила 81 ранее неизвестную уязвимость в браузере Firefox и помогла создать 948 работающих эксплойтов для ядра Linux. В тестировании ExploitGym, которое оценивает способность ИИ использовать известные уязвимости в удаленных системах, GPT-6 Cyber набрала 48,5% против 32,1% у предыдущей модели GPT-5.6 Cyber. В другом тесте, посвященном поиску уязвимостей в веб-приложениях без доступа к исходному коду, новая модель показала результат 40,3% — против 32% у GPT-6 Astra. Один из рисков при автоматизированных проверках безопасности заключается в том, что модель может выйти за рамки поставленной задачи — попытаться использовать уязвимости в несвязанных сервисах или проигнорировать правила, установленные исследователем. GPT-6 Cyber лучше соблюдает такие ограничения. Модель исследует только разрешенную систему и не пытается атаковать вспомогательные сервисы, которые находятся за пределами поставленной задачи. В специальном тестировании GPT-6 Cyber соблюдала заданные ограничения в 99,93% случаев без дополнительных инструкций и в 100% случаев — при использовании дополнительного механизма проверки безопасности. У предыдущей модели показатель в первом сценарии составлял 94,49%. OpenAI также использовала GPT-6 Cyber для проверки безопасности программного обеспечения с открытым исходным кодом. В ходе исследования Firefox модель помогла выявить 81 ранее неизвестную уязвимость высокого уровня опасности и обнаружила ещё 30 известных проблем, серьезность которых ранее оценивалась ниже. Компания передала результаты Mozilla вместе с предложениями по исправлению. Разработчики Firefox подтвердили находки и начали выпускать обновления безопасности. В работе с ядром Linux GPT-6 Cyber воспроизвела 1724 уязвимости и разработала работающие эксплойты для 948 из них. По данным OpenAI, это более чем в пять раз превышает результат предыдущей модели, которая с использованием тех же исследовательских инструментов смогла создать эксплойты для 166 уязвимостей. Одновременно OpenAI усилила защиту от злоупотреблений GPT-6 Cyber. Компания внедрила специальные механизмы мониторинга киберугроз и дополнительные проверки, призванные не допустить использования модели для атак на критически важные системы, например, промышленное оборудование и объекты инфраструктуры. В системе оценки готовности OpenAI GPT-6 Cyber получила статус модели с критическими возможностями в области кибербезопасности. Ее предшественница относилась к категории высокого уровня риска. Изначально GPT-6 Cyber будет доступна через API и Codex ограниченной группе одобренных клиентов программы Daybreak Red, предназначенной для специалистов по наступательной кибербезопасности. В дальнейшем OpenAI планирует расширить доступ на всех участников программы. Компания также развивает отдельное направление Daybreak Blue, ориентированное на защитников информационных систем. ИИ-модель Claude помогла исследователям впервые определить трехмерную структуру белковых частиц vault, обнаруженных у прокариот — бактерий и архей. Ученые знают о существовании таких крупных полых комплексов почти 40 лет, но их функция до сих пор остается загадкой. Новые данные могут помочь разобраться в происхождении этих структур и изучить их роль в клетках. В Anthropic рассказали, что Claude помогал на всех основных этапах работы — от поиска подходящих белков до анализа изображений электронной микроскопии. Vault-частицы — это полые белковые оболочки, напоминающие бочки. Впервые их обнаружили в клетках млекопитающих в 1986 году. У человека такие комплексы состоят из 78 копий основного белка, которые образуют две симметричные половины. Vault встречаются у многих эукариот — организмов со сложными клетками, от грибов до человека. Ученые предполагают, что эти структуры могут переносить молекулы внутри клетки, защищать ее от токсичных веществ или участвовать в работе иммунной системы. При этом мыши, у которых отсутствуют vault, выживают и без них. Это может означать, что такие структуры нужны организму лишь в определённых условиях, но пока ученые не знают, в каких именно. Исследователи Anthropic с помощью Claude проанализировали около 15 млрд белковых последовательностей и нашли потенциальных родственников vault у бактерий и архей. Для экспериментов отобрали 44 белка. Claude перевел информацию об их строении в последовательности ДНК, которые затем использовали для получения белков в лаборатории. Сначала конструкции проверили в бесклеточной системе, а затем перенесли в бактерии E. coli. Из 24 проверенных вариантов 15 позволили получить растворимый белок. Семь из них сформировали частицы, похожие на vault. Криогенная электронная микроскопия подтвердила структуру четырех кандидатов. Два из них были получены из бактерий, два — из бактериофагов. Для подробного анализа исследователи выбрали белок L05 из бактериофага. Он образует оболочку из 96 копий — по 48 в каждой половине частицы. Ее размеры — 54 × 45 нанометров, а молекулярная масса — 9,5 мегадальтона. Частица короче человеческих vault, но благодаря более сферической форме ее внутренний объем на 25% больше. Добавив в белок два повторяющихся сегмента, ученые получили более крупную частицу с увеличенным на 20% внутренним объемом. Кроме того, Claude обнаружил в каждой копии белка небольшую молекулу, которую пока не удалось идентифицировать. Claude помогал не только искать белки, но и готовить ДНК-конструкции, выбирать методы очистки частиц и анализировать данные микроскопии. Например, с его участием команда разработала способ очистки белковых комплексов с помощью хроматографии. Благодаря этому процесс занял 90 минут вместо трех дней. Claude также настроил программу для анализа изображений криоэлектронной микроскопии и подготовил первую полную структурную модель за 34 часа. По оценке исследователей, традиционный анализ мог бы занять несколько недель. Впрочем, в ходе работы Claude допускал ошибки. Один из компонентов предложенного им экспериментального протокола мешал доставить ДНК в клетки, из-за чего исследование задержалось на две недели. При анализе данных микроскопии модель пропустила стандартный этап обработки и построила неверную структуру. Исследователи исправили ошибки, а их лабораторные заметки передали команде Anthropic, которая занимается обучением Claude. В ходе проекта модель стала лучше готовить ДНК-конструкции и замечать возможные проблемы в экспериментах. Несмотря на то, что исследователи определили строение белковых комплексов, их функция остается неизвестной. Пока ученым удалось получить такие частицы только в лабораторной бактерии E. coli. Теперь предстоит выяснить, какую роль vault играют в живых организмах и почему похожие комплексы встречаются у столь разных форм жизни. В Anthropic надеются, что изучение бактериальных вариантов поможет понять и функцию vault в клетках человека. OpenAI развернула в своей исследовательской инфраструктуре систему Control Room, которая позволяет централизованно отслеживать работу ИИ-моделей и останавливать их при обнаружении потенциальных угроз безопасности. Система блокирует дальнейший вывод результатов не позднее чем через 35 секунд после принятия решения о вмешательстве. Control Room отслеживает исследовательские задачи, в которых используются модели. Это могут быть эксперименты по обучению с подкреплением, оценка их возможностей, обработка данных и другие процессы. Каждая задача, предполагающая работу ИИ-агентов, должна иметь утвержденное обоснование безопасности. При запуске ей присваивается уникальный идентификатор, по которому Control Room отслеживает ее статус. Чтобы остановить генерацию, система взаимодействует с механизмами вывода — компонентами, которые запускают модели на графических процессорах и производят ответы. Каждый раз, когда исследовательской задаче требуется новый результат от модели, механизм вывода проверяет в Control Room, разрешено ли ей продолжать работу. Если поступила команда остановить задачу, система отклоняет запрос, и модель перестает выдавать для нее ответы. При этом сама задача и вычислительные процессы могут продолжаться, но без доступа к новым результатам модели. Команду на остановку подает автоматизированная система мониторинга. В OpenAI все задачи обучения с подкреплением сопровождаются отдельной моделью-монитором. Она анализирует действия обучаемой модели и подает сигнал, если обнаруживает потенциальную проблему. В таком случае монитор может передать Control Room идентификатор задачи, которую необходимо остановить. После этого система блокирует новые запросы к любой модели, задействованной в этой задаче. В качестве примера работы мониторинга OpenAI приводит недавний инцидент, когда ИИ-агент попытался связаться с внешним чат-ботом через DNS. Система мониторинга зафиксировала это поведение. Подобные сигналы могут стать основанием для остановки задачи, если монитор или исследователь сочтут вмешательство необходимым. По данным OpenAI, задержка до 35 секунд связана с кэшированием запросов на авторизацию, которое позволяет обрабатывать большой объем трафика. Компания работает над тем, чтобы сократить этот интервал до нуля. Кроме того, если Control Room становится недоступна из-за технической ошибки или внешнего вмешательства, механизмы вывода автоматически отклоняют все запросы до восстановления работы. Control Room уже внедрена в тех частях исследовательской инфраструктуры OpenAI, где необходимость в оперативном вмешательстве наиболее высока. Компания рассматривает ее как часть более широкой системы защиты при разработке передовых моделей и намерена продолжить совершенствовать мониторинг их поведения и механизмы реагирования на нарушения безопасности.
Литература
https://techxplore.com/news/2026-11-ai-simulates-behavior-substances-sand.html https://openai.com/ru-RU/index/accelerating-engineering-for-the-physical-world/ https://rikiyat.github.io/blog/weight-space-programming/ https://www.anthropic.com/research/components-of-agent-memory https://www.anthropic.com/claude-fable-and-mythos-5-2 https://www.anthropic.com/research/claude-electronics-design https://darioamodei.com/post/we-must-pace-the-frontier https://openai.com/index/control-room/ https://www.anthropic.com/research/investigating-vault-particles-with-claude https://russian.people.com.cn/n3/2026/1104/c31518-20515612.html https://openai.com/index/introducing-gpt-6-cyber/ https://hightech.plus/2026/11/05/ii-agenti-openai-obnaruzhili-bolee-2-tis-uyazvimostei-v-yadre-linux Ваше мнение о статье |
Популярные тэги ntsr.info | |