Академик Олег Фиговский
Использование искусственного интеллекта может привести к «деструкции морали». Об этом заявила профессор НИЯУ Екатерина Тихомирова, выступая на сессии Международного дискуссионного клуба, посвященной одному из самых обсуждаемых сюжетов современности – этике искусственного интеллекта. По мнению Екатерины Тихомировой, попытки обсуждать и регулировать вопросы этики ИИ сегодня приводят к т.н. «терминологической контрабанде», то есть к подмене фундаментальных понятий этики, таких как добро, ответственность, достоинство, доверие, справедливость – медийным и регуляторным дискурсом об ИИ. Эта подмена способствует появлению «кодексов», манифестаций, способствующих редукции этики к праву и, главное — созданию иллюзии решенности проблем, которые в принципе не разрешаются стандартом или кодексом.
Отдельный акцент профессор Тихомирова сделала на неожиданном преломлении этики генеративного ИИ в эстетическом измерении – деструкции морали при создании с помощью ИИ-моделей художественного продукта. Встроенные в архитектуру моделей «гарды», призванные «защищать» пользователей – скрывают некоторые эстетические категории – трагическое, безобразное и низменное. Эти полярности также нужны для осмысления и создания высших ценностей. Формализованная «мораль» выхолащивает природу творчества из латентного пространства. Художественный продукт, созданный на «фабрике» ГенИИ и, казалось бы, находящийся на периферии споров об этике искусственного интеллекта, на самом деле является полем борьбы как за технологический суверенитет, так и за человеческое.
Разговор на сессии «Валдая» собрал экспертов из нескольких стран. Футуролог Евгений Кузнецов, представитель Singularity University говорил о геополитическом измерении гонки за вычислительными мощностями, а социолог Александр Филиппов, разбирал политико-философские основания власти технологических корпораций. Онлайн к дискуссии подключились Арвинд Гупта, глава фонда Digital India, представивший индийский взгляд на цифровое неравенство, и Сюэ Ин, сооснователь РКЦ, обозначивший китайскую перспективу на суверенитет технологий.
Более 200 экономистов, исследователей искусственного интеллекта и представителей технологической отрасли подписали открытое письмо, в котором призвали власти и бизнес заранее подготовиться к возможным последствиям развития ИИ. Авторы заявления считают, что технология может в ближайшие годы значительно изменить экономику и привести как к росту производительности, так и к сокращению рабочих мест. Среди подписавших обращение — 16 лауреатов Нобелевской премии. Письмо We Must Act Now («Мы должны действовать сейчас»), состоящее всего из четырех предложений, было подготовлено исследовательской лабораторией цифровой экономики одного из крупных американских университетов. Среди участников инициативы — специалисты по экономике и информатике, а также представители ведущих технологических компаний, включая Anthropic, Google и OpenAI.
Авторы документа отмечают, что искусственный интеллект в течение следующего десятилетия может стать существенно мощнее. По их оценке, это способно вызвать «беспрецедентную трансформацию экономики», которая по масштабу может превзойти промышленную революцию, но произойдет значительно быстрее. В заявлении говорится, что развитие ИИ несет одновременно серьезные риски и новые возможности. Среди потенциальных проблем исследователи называют массовое сокращение рабочих мест. При этом технология может повысить уровень жизни благодаря росту эффективности производства и появлению новых инструментов. Подписанты призвали правительства и компании создать механизмы контроля и стимулы, которые помогут направить развитие искусственного интеллекта на сотрудничество с человеком, а не на его вытеснение. По мнению авторов письма, необходимо заранее формировать институты и правила, которые позволят обществу адаптироваться к технологическим изменениям.
Известный специалист по искусственному интеллекту Йошуа Бенджио, подписавший письмо, заявил, что с учетом текущих темпов развития ИИ «весьма вероятно», что технология кардинально изменит экономику. Он призвал к коллективному обсуждению и созданию мер регулирования, которые помогут распределить преимущества новой технологии и снизить риски для работников. Руководители ИИ-компаний уже обсуждают возможные социальные последствия распространения ИИ. Так, глава Anthropic Дарио Амодей заявил, что в случае резкого снижения спроса на человеческий труд могут потребоваться новые механизмы перераспределения доходов, включая базовый доход, финансируемый за счет налогов на деятельность ИИ-компаний.
Генеральный директор Meta Марк Цукерберг поручил команде создать приложение для рынков прогнозов: приложение с предварительным названием Arena будет независимым от Facebook и Instagram. Оно должно будет конкурировать за внимание пользователей с Polymarket и Kalshi, крупнейшими рынками прогнозов. Об этом пишет The New York Times. «Polymarket и Kalshi — рынки прогнозов, где пользователи могут делать ставки на такие события, как Суперкубок и продолжительность выступления перед Конгрессом, — стали одними из самых быстрорастущих направлений в интернете. Марк Цукерберг это заметил — и хочет принять участие в этом», — пишет издание.
Генеральный директор Meta сформировал команду для разработки приложения для смартфонов, похожего на Polymarket и Kalshi, сообщили на условиях анонимности двое сотрудников компании. Пользователи не будут ставить деньги, и, вероятно, приложение будет основано на системе баллов, похожей на видеоигру, сказал один из сотрудников, хотя компания не исключала возможности использования ставок на реальные деньги в будущем. Приложение будет функционировать независимо от социальных сетей Meta, в число которых входят Facebook, Instagram, WhatsApp и Messenger. Meta намерена развивать приложение, используя свою обширную аудиторию в социальных сетях и направляя её на его использование, сказали они.
Эта инициатива, которую инсайдеры охарактеризовали как экспериментальную, но приоритетную, является частью более широких усилий г-на Цукерберга по созданию новых типов приложений на основе новых тенденций социального поведения в интернете. Более 3,56 миллиарда человек ежедневно посещают одно или несколько приложений Meta, что подняло вопрос о том, достигли ли эти платформы точки насыщения. Arena — одно из приложений, которые тестирует Meta. Среди них также приложение под названием Meta Photos — ещё одно отдельное приложение, которое будет создавать новые типы медиа с помощью искусственного интеллекта, сообщили сотрудники.
На протяжении многих лет Цукерберг изучал, как меняется поведение пользователей в интернете, а затем быстро следовал за быстрорастущими конкурентами, такими как Snap и другими, копируя их приложения и функции, пишет NYT. Издание отмечает, что эти усилия увенчались смешанным успехом. Meta ранее сталкивалась с трудностями при запуске новых отдельных приложений, главным образом из-за того, что было сложно заставить людей их находить и скачивать. В 2019 году сотрудники пытались создать различные социальные приложения, в том числе ориентированные на подкасты и путешествия, а также на музыку и знакомства. Лишь некоторые из них обрели популярность, пишет NYT.
Но поскольку Facebook и Instagram всё больше ориентируются на видеоконтент, руководители Meta считают, что внутри приложений остаётся всё меньше места для тестирования новых идей продуктов, отметили источники. Это заставило компанию сосредоточиться на отдельных приложениях. Это не первый раз, когда Meta экспериментирует с рынками прогнозов. В 2020 году компания выпустила Forecast — приложение для краудсорсингового рынка прогнозов, которое побуждало людей делать предположения о мире в начале пандемии Covid-19. «Приложение позиционировалось как способ делиться знаниями, полученными от сообщества. Оно использовало систему баллов для прогнозирования будущего. Meta закрыла приложение в 2022 году», — говорится в публикации.
ИИ может активно участвовать в формировании бредовых идей путем бесконечного персонализированного взаимодействия с человеком, считают исследователи. С недавних пор психиатры начали изучать феномен, известный как психоз, вызванный ИИ, при котором у пользователей чат-ботов возникают психические кризисы после интенсивного использования этой технологии. Психиатры из Великобритании и Германии опубликовали статью в журнале Digital Psychiatry and Neuroscience, где предложили свое объяснение причин данного явления, пишет Futurism. В своей статье ученые указывают на концепцию, названную спиралью усиления. Это сочетание характеристик ИИ, которое может позволить чат-ботам совместно с пользователями создавать бредовые нарративы.
Чат-боты ИИ отражают манеру речи пользователей, создают высоко персонализированные ответы и избегают противоречий. Когда эти три характеристики сочетаются, они могут активно подкреплять и развивать ложные убеждения пользователей, а не оспаривать их. ИИ также использует стиль и модель речи пользователя, что сближает его с данной технологией. Все это создает идеальные условия для возникновения спирали усиления, считают психиатры.
Склонность чат-ботов перенимать манеру общения человека может способствовать к возникновению высокого уровня доверия между пользователем и ИИ. Ученые считают, что после длительного взаимодействия чат-боты начинают говорить, как конкретный человек. Таким образом у пользователя создается впечатление, что ИИ думает так же, как и пользователь. В итоге у чат-ботов возникает тенденция подтверждать идеи пользователя без надлежащей проверки реальности или контекста, что подкрепляет бредовые идеи. Также люди могут начать воспринимать ИИ как реального человека, который их понимает и поддерживает, а это может вызвать психические расстройства.
ИИ может активно участвовать в формировании бредовых идей путем бесконечного персонализированного взаимодействия с человеком, считают исследователи. Авторы статьи подчеркнули, что пока все это является лишь гипотезой, основанной на собранных данных о взаимодействии человека с ИИ, и эти предположения еще предстоит проверить. В то же время психиатры предполагают, что деструктивное общение с чат-ботами ИИ может усилить психические заболевания. Также интенсивное использование ИИ также может усугублять проблемы с физическ5им здоровьем, ведь люди иногда пропускают приемы пищи и теряют сон.
Китайская Robbyant, дочерняя компания Ant Group, представила LingBot-VA 2.0 — открытую модель искусственного интеллекта для робототехники. Разработчики называют ее первой в отрасли моделью мира, созданной специально для управления роботами, а не адаптированной из систем генерации видео. Модель прогнозирует, как действие изменит окружение, и выбирает следующий шаг на основе этого прогноза. Система работает на одном GPU и осваивает новые задачи за 20 демонстраций без переобучения. Роботы, оснащенные LingBot-VA 2.0, уже могут готовить завтрак, распаковывать посылки и складывать одежду.
Большинство ИИ-систем для роботов построены на основе видеогенеративных моделей, которые изначально разработаны для создания цифрового контента. Такие модели оптимизированы под визуальное качество и достоверность изображений, а не под физическую точность или скорость реакции. Поэтому при адаптации для управления роботами они теряют эффективность в реальных условиях и плохо работают в новых ситуациях. LingBot-VA 2.0 разработана с нуля специально для взаимодействия с физическим миром. Вместо простого воспроизведения заученных движений модель сначала прогнозирует, как то или иное действие изменит окружение, и только затем выбирает следующий шаг. В основе системы — единая авторегрессивная модель, которая объединяет прогнозирование визуальных изменений и планирование действий.
Для этого разработчики реализовали четыре технических решения. Семантический токенизатор совместно сжимает визуальную информацию и данные о действиях, улучшая перевод инструкций в движения. Причинно-следственная стратегия предобучения гарантирует корректную временную последовательность прогнозов. Архитектура «Смешанные эксперты» наращивает возможности модели без потери скорости вывода. Асинхронный механизм вывода позволяет роботу прогнозировать следующие состояния прямо во время выполнения текущих действий, непрерывно обновляя решения на основе наблюдений из реального мира.
В результате LingBot-VA 2.0 обеспечивает управление в реальном времени с обратной связью на частоте 150 Гц на одном графическом процессоре. Не менее важна способность к быстрой адаптации: модель осваивает новые задачи манипулирования, используя всего 20 демонстраций, без необходимости переобучения. Это важно для промышленного применения, где условия работы постоянно меняются. В компании уже протестировали LingBot-VA 2.0 на задачах, требующих точных манипуляций. Роботы с новой моделью готовили завтрак, распаковывали посылки, вставляли трубки, собирали винтовые соединения, складывали одежду и открывали ящики. Кроме того, система продемонстрировала высокие результаты в робототехнических бенчмарках RoboTwin 2.0 и LIBERO, превзойдя существующие методы в ряде сценариев.
Модель также обладает долговременной памятью, что позволяет различать визуально похожие, но контекстно разные ситуации и выполнять сложные многоэтапные операции. В Robbyant рассчитывают, что LingBot-VA 2.0 станет частью открытой экосистемы для воплощенного искусственного интеллекта и ускорит внедрение роботов в промышленности и других сферах. Вместе с LingBot-VA 2.0 компания представила модель LingBot-World 2.0, способную создавать долгоживущие интерактивные миры.
В Китае применение беспилотников, роботов и искусственного интеллекта превращает традиционное земледелие в высокотехнологичную и по-настоящему передовую отрасль. Об этом сообщает сайт «Хуаньцюван». На суперферме компании XAG в деревне Ляньтан города Гуанчжоу /провинция Гуандун, Южный Китай/ дрон за 30 минут засевает 20 га риса. По всему полю установлены датчики почвы, метеостанции и «умные» камеры – каждые 15 минут они передают в «мозг фермы» данные о температуре, влажности, освещенности и состоянии почвы. «Один дрон способен обслуживать более 30 га угодий и обеспечивать полностью безлюдное земледелие», – рассказал соучредитель и старший вице-президент XAG Гун Цзяцинь.
В уезде Юйли /Синьцзян-Уйгурский автономный район, Северо-Западный Китай/ на хлопковом поле площадью 200 га так же безлюдно и тихо: дроны самостоятельно облетают посевы, а беспилотные машины по заданным маршрутам вносят точно рассчитанные объемы воды и удобрений непосредственно к корням растений. Это первая в Китае полностью автоматизированная хлопковая ферма. Проект стартовал в 2021 году, а к 2024 году средняя урожайность хлопка-сырца здесь достигла 7,94 тонны с одного гектара. При этом доля продукции высшего качества превысила 96%, что стало одним из лучших показателей в стране.
На экране в офисе XAG в Гуанчжоу карта фермы разделена на цветовые зоны: зеленый означает хорошее состояние посевов, желтый – необходимость внимания, красный – отклонения. Для каждого участка в облаке формируется цифровой двойник. «Раньше полагались на опыт, теперь – на данные: вся агропромышленная цепочка становится прозрачной», – отметил Гун Цзяцинь. По его словам, система снижает затраты на воду и электроэнергию на 47% и расход пестицидов на 30%, при этом повышает эффективность использования удобрений на 40%. Благодаря технологиям в деревни возвращаются молодые специалисты и выпускники вузов, которые открывают умные фермы. Всего XAG подготовила более 140 тыс. специалистов в сфере умного сельского хозяйства. Сельскохозяйственные роботы и дроны компании поставляются почти в 70 стран и регионов мира, а по объему продаж XAG занимает второе место в мире.
OpenAI готовит к выпуску портативную умную колонку без экрана со встроенным ИИ — первый потребительский аппаратный продукт компании. Устройство, создаваемое при участии бывшего дизайнера Apple Джони Айва, получит синхронизацию с ChatGPT, функции управления умным домом и индивидуальный «характер». Оно будет оснащено камерой, датчиками и подвижными механизмами для естественного взаимодействия. Проект разрабатывается на фоне иска Apple против OpenAI: корпорация обвиняет стартап в незаконном использовании коммерческой тайны.
Как утверждают источники Bloomberg, устройство пока находится на стадии разработки и внутри компании позиционируется как «человекоподобный ИИ-компаньон, живущий в доме». В отличие от традиционных умных колонок, новинка должна не только выполнять голосовые команды, но и постепенно изучать привычки владельца, чтобы предоставлять более персонализированные рекомендации и сервисы. Сообщается, что устройство получит доступ к различным данным пользователя, включая электронную почту, что позволит лучше понимать контекст запросов. Кроме того, колонка будет оснащена камерой и набором датчиков для анализа окружающей обстановки, а также сможет воспроизводить мультимедиа, отвечать на сообщения и взаимодействовать с устройствами умного дома.
Гаджет также получит подвижные механические элементы, которые должны сделать взаимодействие с ним более естественным. Источники издания утверждают, что OpenAI рассматривает устройство как физическое воплощение ChatGPT, способное стать постоянным цифровым помощником в доме пользователя. Проект создается при участии бывшего главного дизайнера Apple Джони Айва и его студии LoveFrom, а также команды инженеров и дизайнеров, ранее работавших над iPhone и Mac. В прошлом году OpenAI приобрела стартап Айва io за $6,5 млрд, чтобы ускорить разработку устройств для взаимодействия с ИИ. В начале года сообщалось, что OpenAI может выпустить ИИ-наушники.
Разработка OpenAI отражает растущий интерес технологической отрасли к специализированным устройствам с искусственным интеллектом. Крупные компании и стартапы все активнее инвестируют в создание новых аппаратных платформ, которые должны стать основным способом взаимодействия пользователей с ИИ за пределами смартфонов и компьютеров. В мае лаборатория Hark, основанная Бреттом Адкоком, привлекла $700 млн при оценке $6 млрд на разработку «персонального интеллекта» — собственных ИИ-моделей в сочетании со специализированным устройством.
Новая модификация алгоритма «дневного сна» позволяет нейросетям эффективно очищать память от ложных воспоминаний и успешно работать со сложными несбалансированными данными из реального мира. Физики из Римского университета Ла Сапиенца совместно с японскими коллегами модернизировали классические сети Хопфилда, которые имитируют работу ассоциативной памяти человеческого мозга. В базовом состоянии такие системы быстро заполняются информационным мусором и смешанными галлюцинациями, теряя до 87% своей полезной емкости. Предыдущая версия алгоритма под названием Daydreaming решала эту проблему путем одновременного обучения и очистки памяти, однако она ломалась при встрече с реальными несбалансированными данными, вроде слишком темных изображений.
Для преодоления этого ограничения исследователи создали обновленный метод под названием Centered Daydreaming. Новая система заставляет искусственные нейроны анализировать не абсолютные значения входящих сигналов, а лишь их локальные отличия от среднего значения. Такой подход позволяет алгоритму эффективно концентрироваться на ключевых различиях между объектами и полностью сохранять способность к точному извлечению воспоминаний. Разработчики рассчитывают, что понимание подобных механизмов фильтрации информации поможет в будущем создать более понятные и энергоэффективные ИИ-системы.
Австралийская компания Q-CTRL собирается представить на авиасалоне Фарнборо (Великобритания) первое готовое к коммерческому развертыванию решение в области квантовой навигации. Она покажет систему Ironstone Opal, созданную как резервное средство навигации для пилотируемых и беспилотных летательных аппаратов в условиях участившихся сбоев в работе спутниковой навигации. Полевые испытания подтвердили, что разработка соответствует стандарту Required Navigation Performance (RNP 0.3), то есть обеспечивает точность следования заданному курсу с отклонением в пределах 550 метров в течение 95% времени полета.
Ironstone Opal использует не радиосигналы, а квантовые датчики, которые измеряют магнитное поле Земли. Каждая точка на планете имеет свой уникальный «магнитный отпечаток». Система сравнивает текущие показания с имеющейся картой магнитного поля, определяя, таким образом, свое местоположение. Во время летных испытаний Ironstone Opal продемонстрировала способность соблюдать стандарт Required Navigation Performance (RNP 0.3), то есть, отклонение от заданного курса не превышало 0,3 морских мили (около 550 метров) в течение 95% времени полета. Это соответствует требованиям, которые предъявляются к навигационным системам в коммерческой авиации. При этом, по сравнению с традиционными инерциальными навигационными системами, Ironstone Opal не «дрейфует» и не накапливает ошибки.
Для беспилотных летательных аппаратов Q-CTRL создала облегченный вариант Ironstone Opal весом менее одного килограмма. Его можно разместить внутри фюзеляжа БПЛА или на крыльях больших разведывательных дронов. Как сообщает IE, Ironstone Opal стала первой квантовой навигационной технологией, получившей квалификацию по стандарту RTCA DO-160 — это строгий набор требований к бортовому оборудованию, включающий испытания на вибрацию, температурные перепады, электромагнитную совместимость и другие факторы, которым подвергается авионика в реальном полете. Другими словами, система готова к установке на коммерческие лайнеры и военные самолеты, а не просто существует в лабораторном прототипе. Q-CTRL официально представит Ironstone Opal на авиасалоне в Фарнборо. Интерес к системе уже проявили коммерческие авиастроители, оборонные подрядчики и правительственные организации.
Литература
https://interestingengineering.com/ai-robotics/watch-worlds-first-embodied-native-ai-model-promises-smarter-more-capable-robots
https://www.huanqiu.com/
https://interestingengineering.com/innovation/quantum-navigation-system-gps-backup-for-aircraft
https://phys.org/news/2026-07-hundreds-economists-ai-economic-impact.html
https://darioamodei.com/post/policy-on-the-ai-exponential
https://www.proatom.ru/modules.php?name=News&file=article&sid=11967
https://www.nytimes.com/2026/06/23/technology/meta-prediction-markets-app.html
https://iopscience.iop.org/journal/1742-5468
https://futurism.com/artificial-intelligence/paper-proposes-ai-psychosis
https://techcrunch.com/2025/05/21/jony-ive-to-lead-openais-design-work-following-6-5b-acquisition-of-his-company/
https://www.scmp.com/tech/big-tech/article/3360544/chinas-stepfun-claims-it-has-unveiled-worlds-first-ai-smartphone
Иллюстрация: Habr
…
