Риски и достижения, связанные с ИИ

23.10.2026

Риски и достижения, связанные с ИИ

Академик Олег Фиговский

Риски, связанные с искусственным интеллектом (ИИ), могут превысить его возможности, если не обеспечить адекватные гарантии и этические рамки, заявила глава МВФ Кристалина Георгиева, сообщает Reuters. «Если не будет гарантий, то риски могут превысить возможности. И прежде всего, нам необходима этическая основа, а я не уверена, что мы как общество ее уже имеем», — сказала она в ходе панельной дискуссии на встрече МВФ и Всемирного банка в Бангкоке, в которой также принял участие соучредитель Anthropic Джек Кларк. При этом она выступила за сочетание саморегулирования ИИ-отрасли и участия ключевых правительств.

По ее словам, ИИ положительно влияет на мировую экономику, но может в любой момент вызвать негативные последствия, если не достигнет ожидаемого значительного повышения производительности. Георгиева заявила, что для извлечения выгоды из новых технологий, необходимо быстро создать определенные предпосылки, включая широкий доступ к цифровой инфраструктуре, к дешевой электроэнергии и адекватное регулирование. Новым технологиям уделялось больше всего внимания на ежегодных встречах МВФ и Всемирного банка в Бангкоке на этой неделе. В частности, президент Бундесбанка Йоахим Нагель заявил, что ИИ потенциально способен усугубить глобальный дисбаланс. 13 октября 2026 года МВФ заявил о наличии значительных рисков для роста и финансовой стабильности, связанных с возможным завершением инвестиционного бума в сфере ИИ.

Специалисты по кибербезопасности обнаружили критические уязвимости в стандартных приложениях для переноса данных на смартфонах семи ведущих мировых производителей. Опасные бреши в защите позволяли сторонним лицам перехватывать чужие конфиденциальные сведения — от фотографий и переписок до паролей и банковских данных, — просто находясь неподалеку от пользователей. Эксперты из Института информационной безопасности Грацского университета (Австрия) совместно с австрийским Центром безопасных информационных технологий проверили популярные утилиты для быстрой смены смартфона от Google, Samsung, Xiaomi, Vivo, Oppo, Huawei и Honor. Результаты своей работы ученые представили на международном симпозиуме по исследованиям в области компьютерной безопасности ESORICS 2026.

Специальные программы для «клонирования» смартфонов помогают быстро и без проводов скопировать абсолютно всю информацию с одного устройства на другое по прямому соединению Wi-Fi. Однако исследователи доказали, что этот удобный процесс оказывается крайне уязвимым для цифрового взлома. Находясь в радиусе действия беспроводной сети (примерно от 20 до 45 метров) и используя бюджетное хакерское оборудование стоимостью менее 100 евро, злоумышленники могли перехватывать передаваемый трафик, прослушивать его или вмешиваться в процесс передачи.

Во время экспериментов специалистам удалось получить полный доступ к SMS-сообщениям, контактам, галерее снимков, сведениям о здоровье, сохраненным паролям от приложений и ключам от Wi-Fi-сетей. В отдельных случаях хакеры могли подменять передаваемые установочные файлы и внедрять вредоносные вирусы напрямую в новую систему. Опасность усиливается тем, что такие сервисы предустановлены практически на каждом Android-устройстве и насчитывают суммарно свыше 12 миллиардов скачиваний. В зону повышенного риска попадают крупные магазины электроники и салоны связи, где покупатели ежедневно настраивают и переносят данные на только что купленные гаджеты.

Разработчики устранили обнаруженные уязвимости после того, как авторы исследования заранее предупредили компании о брешах, дав им время на создание защитных заплат. Специалисты настоятельно рекомендуют всем пользователям перед пересылкой файлов обязательно обновить приложение для переноса данных и саму операционную систему на обоих смартфонах, чтобы полностью исключить риск утечки.

Федеральное бюро расследований (ФБР) арестовало инженера OpenAI, который спрятал шпионское записывающее устройство в главном конференц-зале штаб-квартиры ради кражи секретных корпоративных данных. Об этом сообщает Bloomberg. Обвиняемым по делу стал 35-летний гражданин Саудовской Аравии Абдулрахман Алфозан, который работал в продуктовой команде стартапа с июля 2025 года. Мужчина обернул миниатюрную плату Seeed Xiao ESP32-S3 Sense с микрофоном в туалетную бумагу и тайно вставил ее в USB-порт на задней панели телевизора. В этой комнате руководство ИТ-гиганта регулярно проводило закрытые совещания и обсуждало коммерческие тайны, а также засекреченные исследования в области суперинтеллекта. Таким образом, секреты суперинтеллекта завернули в туалетную бумагу, устроив полноценное шпионство за топ-менеджментом.

Служба безопасности обнаружила прослушку, после чего разработчики использовали собственные ИИ-модели OpenAI для анализа передатчика и быстро вычислили автора диверсии. Администрация экстренно установила скрытую камеру над телевизором, которая зафиксировала, как Алфозан вернулся проверять жучок, из-за чего шпион OpenAI попался на прослушке во второй раз. Ситуацию усугубила забытая инженером сумка: охранники вскрыли ее и нашли кошелек, паспорт, а также второй аналогичный микрофон. Минюст США уже назвал инцидент угрозой национальной безопасности, а самому шпиону теперь грозит до 5 лет тюрьмы и крупный штраф.

Необычный музыкальный эксперимент организовал блогер под ником Auggie, который выложил анонимные аудиозаписи в своих профилях. По его словам, больше половины проголосовавших участников профессионально изучали музыку. Чтобы исключить влияние харизмы живых исполнителей, исследователь пропустил оригинальные ноты композиторов и ИИ-код через одинаковый синтезатор Muse Sounds в бесплатном редакторе Muses-core.

В результате 60% опытных слушателей назвали трек от языковой модели Anthropic произведением из плоти и крови. При этом реальный концерт Георга Фридриха Генделя посчитали человеческим 58% респондентов, а оригинальный шедевр Антонио Вивальди распознали лишь 43% участников. Пользователи в соцсетях массово выразили удивление результатом, так как алгоритм в голосовании обошел признанных гениев барокко. Нейросеть выдала готовые ноты в текстовом формате LilyPond по специальному текстовому запросу на виртуозное аллегро в до миноре. Правда, автор эксперимента добавил, что ИИ до сих пор полностью проваливает тесты на музыку классицизма и пока не способен имитировать Моцарта из-за шаблонности басовых фигур. Почти через четыре года после запуска ChatGPT по-прежнему остается ведущим ИИ-чат-ботом в интернете. Однако его преимущество заметно сократилось: Google Gemini и Anthropic Claude постепенно укрепляют свои позиции.

В совокупности два конкурента теперь обеспечивают более трети всего трафика на сайтах ИИ-чат-ботов. Особенно стремительно в рейтинге поднимается Claude. На инфографике были представлены самые популярные ИИ-чат-боты по доле глобальных посещений их сайтов в сентябре 2026 года. Данные Similarweb опубликованы в социальной сети X и на сайте компании. В расчет включены посещения с компьютеров и мобильных устройств через браузеры, но не учитываются использование приложений и API, а также функции искусственного интеллекта, встроенные в другие продукты. ChatGPT и Gemini доминируют среди ИИ-чат-ботов по посещаемости сайтов, оставляя всем остальным платформам менее пятой части трафика. В сентябре 2026 года сайт ChatGPT посетили около 5,9 миллиарда раз, тогда как на Gemini пришлось 2,6 миллиарда посещений. Занявший третье место Claude набрал примерно один миллиард посещений — больше, чем DeepSeek, Grok, Copilot и Perplexity вместе взятые.

Gemini и Claude стали единственными крупными ИИ-чат-ботами, увеличившими свою долю за период с октября 2025-го по сентябрь 2026 года. Gemini получил преимущество благодаря обширной пользовательской базе Google, а Claude привлек новую аудиторию благодаря специализации на программировании и интеллектуальной работе с информацией. Дополнительную роль сыграл рост его известности среди широкой публики.

Тем временем совокупная доля DeepSeek, Grok, Copilot и Perplexity сократилась с 11,4 до 8,1%. Claude, занимавший пятое место в октябре 2025 года, теперь собирает больше посещений, чем все четыре конкурента вместе взятые. Microsoft Copilot занимает шестое место с долей 1,5%. При этом показатель учитывает только посещения сайта чат-бота, но не его использование в составе Windows и Microsoft Office.

Ученые проверили агенты больших языковых моделей на 50 задачах теоретической физики с известными ответами. Лучший агент получил точность 98 процентов. Физики представили набор из 50 неопубликованных исследовательских задач по теоретической физике с проверяемыми ответами и протестировали способность ИИ-агентов решить их автономно, без подсказок человека. Лучшим агентом стал Codex модели GPT-6 Astra, который верно решил 49 задач. Препринт исследования доступен на arXiv.org. В теоретической физике всегда высоко ценили умение решать конкретные задачи, которые требовали от исследователя знакомства с текущей литературой и владения сложными вычислительными методами. В российской научной школе известным примером стал теорминимум Льва Ландау, который сегодня состоит из 11 экзаменов (два по математике и девять по теоретической физике — от механики до физической кинетики).

Недавно OpenAI проверила свою внутреннюю модель на сложных математических задачах, получив 372 новых решения (в том числе проверку числа пять в качестве хроматического числа плоскости). И хотя несколько решений позже «отозвали», пометив их неверными из-за ошибки в знаке, исследователи продолжают проверять возможности современных больших языковых моделей на примере сложных и неочевидных задач. Ученые из шести стран под руководством Суврата Раджу (Suvrat Raju) из Международного центра теоретических наук в Бангалоре проверили, смогут ли агенты автономно решить набор исследовательских задач по теоретической физике, которые близки к сложным математическим проблемам и не требуют экспериментальной проверки на дорогостоящем оборудовании.

Для этого авторы работы отобрали 50 задач из разных областей теоретической физики, включая классическую физику, стохастические процессы, решеточную и квантовую теории поля, гравитацию, а также космологию. Каждую задачу ученые снабдили проверяемым ответом в виде символьного выражения или численного значения, которое нельзя угадать. Затем исследователи запустили агентов в двух режимах: реалистичном, где им разрешили поиск литературы в интернете и локальные инструменты (например, скрипты для символьных вычислений), и изолированном, где оставили только локальные инструменты.

Одной из 50 проблем стала задача об исчезновении информации в черной дыре в четырехмерном Антидеситтеровском пространстве (AdS₄): по сути агент должен был найти уже существующую работу, в которой похожая задача уже решена для пятимерного пространства, адаптировать найденное решение для четырех измерений и написать скрипт для численного поиска ответа. Другой проблемой стала задача о пограничном слое на плоской пластине при числе Рейнольдса 1,6 × 10⁵, которую можно решить «в лоб», обсчитав трехмерное уравнение Навье – Стокса и получив характерный поперечный масштаб возмущений.

В реалистичном режиме Codex (модели GPT-6 Astra) получил точность 98 процентов, то есть верно решил 49 задач из 50. Модель Opus 5.5 с Claude Code CLI достигла 92 процентов, Gemini 3.8 Flash с Antigravity получил 68 процентов. При этом открытые модели отстали в успешности решения более заметно: DeepSeek-V4.1 Flash получил 54 процента, GLM 5.3 — 42 процента. В изолированном режиме результаты всех LLM оказались хуже: Astra и Opus получили по 92 процента успешно решенных задач, Gemini — 62 процента, GLM — 52 процента, а DeepSeek — 50 процентов. Такое незначительное снижение качества между реалистичным и изолированным режимами авторы работы объяснили тем, что большая часть литературы уже была в памяти моделей, попав туда во время обучения.

Во время реалистичного теста Codex ошибся только в одной задаче, где составители потребовали найти автономную систему дифференциальных уравнений по заданной кривой. Ученые отметили, что эту проблему не решили и все остальные агенты. В изолированном режиме Codex ошибся еще в трех задачах, включая две, которые агент ошибочно отверг как неразрешимые. Opus в реалистичном режиме допустил больше ошибок: например, в задаче о пограничном слое агент использовал начальные условия из другой работы, которые не совпали с постановкой исходной задачи, а во время решения другой проблемы Opus сделал неверный вывод о скорости сходимости бесконечного ряда.

Авторы работы отметили, что протестированные модели не продемонстрировали способность динамически менять направление исследования. Другими словами, при столкновении с объемным и сложным вопросом агенты не попытались переформулировать проблему или переключиться на разбор схожей и не менее интересной задачи, как это сделал бы человек. К такому выводу ученые пришли во время общения с агентами вне тестов, но не подтвердили свои наблюдения численными данными. Исследователи подчеркнули, что человеческие эксперты все еще необходимы, чтобы направлять агентов и ставить перед ними цели.

Ученые из США представили ИИ, способный выявлять на снимках КТ признаки заболеваний, которые не связаны с первоначальной причиной обследования. Кроме того, ИИ научили оценивать будущие риски для здоровья для составления индивидуальной программы диагностики и профилактики. Модель Percival разработали специалисты из Пенсильванского университета. Для ее обучения использовали около 400 тыс. снимков КТ примерно 50 тыс. пациентов. Percival не выявляет конкретную патологию по заданному запросу. Напротив, ИИ анализирует снимки шире и выявляет закономерности, связанные с различными заболеваниями и состояниями организма. Например, КТ могли назначить для обследования легких, но модель обнаруживала на ней признаки другой болезни.

Ученые установили, что Percival выявлял признаки различных хронических заболеваний, включая фибрилляцию предсердий и хроническую болезнь почек. Модель также сравнили с другой системой ИИ — TotalSegmentator. Percival надежнее выявляла признаки рака поджелудочной железы, цирроза печени и бактериальной пневмонии. Кроме того, алгоритм мог прогнозировать дальнейшее развитие заболеваний и оценивать риски серьезных осложнений на сердце, сосуды и печень.

Разработчики рассчитывают, что модель поможет расширить так называемый оппортунистический скрининг. Этот подход предполагает поиск дополнительных признаков заболеваний на снимках, которые уже сделали по другой медицинской причине. Например, при обследовании пациента с подозрением на пневмонию система сможет обратить внимание врача на возможные ранние признаки рака. В настоящее время авторы планируют крупное исследование, после которого Percival можно будет внедрить в медицинскую практику.

Anthropic разрабатывает новую модель искусственного интеллекта, которая сможет считывать намерения пользователей по коротким инструкциям и находить более творческие решения задач. Компания готовит релиз на фоне усиления конкуренции с OpenAI и Google, которые также работают над новыми моделями и стремятся повысить их производительность. Anthropic работает над моделью с улучшенными способностями к рассуждению и пониманию намерений пользователя. По данным издания The Information, она сможет определять цели человека даже по ограниченным инструкциям. Один из тех, кто тестировал модель, рассказал, что она способна выявлять более общие проблемы, стоящие за отдельными программными ошибками, и предлагать комплексные решения. По его словам, модель также находит более творческие подходы, чем существующие системы. Пока неизвестно, к какому семейству моделей Anthropic она будет относиться.

В последние недели Anthropic активно выпускала новые модели: 22 сентября компания представила Claude Opus 5.5, сопоставимую по возможностям с Fable 5.1 в большинстве задач, 28 сентября вышла Claude Sonnet 5.5, а 7 октября — Claude Haiku 5.5. Последнюю компания назвала самой быстрой и дешевой из своих небольших моделей. Ранее Reuters сообщало, что Anthropic рассматривала возможность нового релиза в ответ на успех GPT-6 Astra, представленной OpenAI 3 сентября. При этом быстрый темп релизов расходится с публичными призывами главы Anthropic Дарио Амодея к осторожности. В эссе от 12 сентября он призвал замедлить развитие возможностей ИИ, чтобы успевать оценивать связанные с ними риски. Anthropic также готовится к первичному размещению акций. По данным Reuters, оно может состояться после промежуточных выборов в США в ноябре.

Google, в свою очередь, разрабатывает Gemini 4 Carbon, которая должна превзойти Gemini 4 Argon, представленную в конце сентября. Разработчики отмечают сильные стороны моделей Google в задачах визуального анализа, включая обработку видео и проверку работы сайтов. OpenAI готовит новую модель семейства Terra — она может выйти в ближайшие недели. Ожидается, что новинка будет производительнее и дешевле GPT-6.1 Sol, которая, по сообщениям, приближается по возможностям к флагманской Astra. Новый релиз должен помочь OpenAI конкурировать с Anthropic по цене и предлагать модели с разным соотношением стоимости и производительности. При этом компания продолжает работать над вопросами безопасности следующей флагманской модели.

Смарт-телевизоры показывают рекламу, собирают данные о зрительских привычках и перегружают интерфейс предустановленными приложениями. Теперь энтузиасты с помощью ИИ-агентов, например, Claude Code, создают программы, которые помогают убрать лишнее. Они позволяют отключать рекламу и ненужные функции, удалять предустановленные приложения и заменять стандартный домашний экран. Современные телевизоры могут использовать технологию автоматического распознавания контента (ACR), которая определяет, что воспроизводится на экране, анализируя изображения, аудиосигналы и другие цифровые данные. Информация о просмотрах может применяться для персонализации рекламы и анализа зрительских привычек. Пользователи, недовольные рекламой и сбором данных, ищут способы вернуть контроль над устройствами.

Попытки упростить работу бытовой электроники появились задолго до распространения ИИ-агентов. Пользователи устанавливали альтернативные оболочки, отключали предустановленные приложения и меняли системные настройки. Для этого, однако, требовались технические знания и время. Тем, кто хочет просто заменить домашний экран, доступны готовые приложения для Android TV, например ATV Launcher, Projectivy Launcher и FLauncher. Теперь часть этой работы можно поручить ИИ. Агент способен помочь разобраться в устройстве телевизора, подготовить команды для изменения настроек и автоматизировать отдельные действия. Это делает подобные эксперименты доступнее людям без навыков программирования.

Несколько разработчиков уже создали проекты, которые используют такой подход для удаления рекламы и настройки интерфейса. Один из них — cleanyourtv, созданный разработчиком Гатином Т. Идея возникла, когда его утомила реклама на телевизоре родителей: она появлялась еще до запуска Netflix. С помощью Claude Code он подключился к телевизору по Wi-Fi, удалил 25 программных пакетов Xiaomi и создал новый домашний экран, напоминающий интерфейс Apple TV. По словам разработчика, после публикации проекта пользователи начали повторять эксперимент на устройствах разных производителей, включая Xiaomi, TCL и Sony. Для работы cleanyourtv, как утверждает автор, не требуется получать root-права.

Другой проект, dumbtv, предлагает убрать рекламу и ненужные функции, оставив на главном экране приложения и HDMI-входы. Его создатель Муззаммил Ясин Сабувала сообщил, что разрабатывал инструмент с помощью нескольких ИИ-моделей, включая DeepSeek и Claude. Он тестировал решение на Fire TV Edition, а также на телевизорах Sony, TCL, Philips, Hisense и Xiaomi с Android TV или Google TV. Еще один пользователь, Райан Дойл, рассказал, что отправил Claude Code объявление о продаже своего телевизора и спросил, можно ли его взломать. Агент объяснил, как удалить рекламу и ненужные предустановленные программы, настроить заставку и ускорить работу интерфейса. В опубликованном видео Дойл показал, насколько отзывчивее стал телевизор после изменений.

ВМС США впервые установили связь с беспилотным самолетом-заправщиком MQ-25A Stingray и осуществили его дистанционное управление с авианосца, находившегося на расстоянии более 3380 километров. Это стало новым этапом программы интеграции беспилотников в авианосные операции. Испытания прошли на борту авианосца «Рональд Рейган» типа «Нимиц», действовавшего в Тихом океане. Испытываемый MQ-25A находился на предприятии компании Boeing в городе Маскута, штат Иллинойс. Во время предварительных морских испытаний операторы на авианосце использовали Центр управления беспилотной авиацией, чтобы установить связь с летательным аппаратом за пределами прямой видимости через спутниковую сеть.

В ВМС США назвали это первым успешным установлением связи между пунктом управления на находящемся в движении авианосце и самолетом MQ-25A. Демонстрация позволила проверить системы связи и управления, необходимые для будущего применения беспилотников на авианосцах. Boeing разрабатывает MQ-25A Stingray для дозаправки самолетов ВМС США в воздухе. Это позволит сократить необходимость использовать пилотируемые боевые самолеты в качестве воздушных танкеров. ВМС США рассчитывают, что беспилотник сможет дозаправлять истребители F/A-18E/F Super Hornet, позволяя им дольше оставаться в воздухе и действовать на большем удалении от авианосца.

MQ-25A должен стать первым оперативным беспилотным самолетом-заправщиком палубного базирования в составе ВМС США и заложить основу для интеграции других беспилотных летательных аппаратов в авиакрылья авианосцев будущего. Последняя демонстрация подтвердила один из важных элементов этой программы — возможность поддерживать канал управления между движущимся авианосцем и самолетом, находящимся на большом удалении. В дальнейшем потребуются дополнительные испытания, чтобы оценить работу системы в ходе регулярных полетов и выполнения задач с авианосца.

Литература

https://www.pennmedicine.org/news/ai-model-can-uncover-unseen-health-issues-in-ct-scans

https://darioamodei.com/post/we-must-pace-the-frontier

https://www.reuters.com/

https://naked-science.ru/article/hi-tech/uyazvimosti-smartfonov

https://hightech.fm/2026/10/14/ai-vs-vivaldi-concert

https://www.bloomberg.com/businessweek

https://arxiv.org/abs/2610.16733

https://nplus1.ru/news/2026/10/07/openai372

https://electrek.co/2026/10/14/delorean-may-have-a-flying-car-in-the-air-before-tesla-does-video

https://www.reuters.com/business/anthropic-considers-releasing-new-ai-model-ahead-ipo-sources-say-2026-09-19/

https://techcrunch.com/2026/10/19/people-are-using-ai-to-make-their-smart-tvs-dumb-again/