Авторы: Олег Фиговский и Валерий Гумаров
Как развитие ИИ отразится на развитии человечества как социума? Каким образом ИИ влияет на изменение человека и общества в целом? Можно ли использовать потенциал ИИ для решения сугубо социальных проблем?
Прежде чем отвечать на эти вопросы, следует отметить, что социальные последствия внедрения ИИ состоят в изменении форм коммуникации и возникновении новых социальных форм, где намечается компьютеризация всех сфер общества, вплоть до создания суперинтеллекта. В сфере коммуникации сращивание человека с машиной предполагает новые социальные формы с участием мощного искусственного интеллекта. Нейросистемы на основе ИИ открывают возможности соединения мозга с компьютером, создания виртуальной реальности и искусственного интеллекта нового поколения. Глобальная виртуализация физической и социальной реальности – главное социальное последствие в развитии ИИ для социологии.
Недалек тот день, когда квантовые компьютеры с нейро-интерфейсами обеспечат функционирование квантового интернета, обмен информацией с которым будет возможен через мозг. Любая система коммуникации в настоящее время носит локальный характер, но объединение машин и человеческого мозга даст перспективу нового уровня коммуникации, где информация сможет циркулировать в цепи человек-машина-социум, затрагивая все грани общественной жизни.
Коснется каждого. Поэтому важен анализ социальных последствий развития ИИ, чья познавательная мощь не только обладает положительным потенциалом, но и угрожает существованию человечества в рамках техногенной цивилизации. Сейчас в связи с развитием ИИ и формированием новой цивилизации традиционные представления о социальном и природном мире уже не вполне адекватны действительности. Именно поэтому социальные последствия развития ИИ требуют глубокого, основательного исследования.
Не претендуя на всепроникающую глубину анализа и сверхгениальные откровения, авторы в этой главе стараются осветить некоторые аспекты прихода ИИ в социологию.
Искусственный интеллект и социология
Картину взаимоотношений искусственного интеллекта и человеческого социума можно рассмотреть на примере статьи академика Европейской Академии Наук, президента Израильской ассоциации изобретателей Олега Львовича Фиговского и доктора технических наук, профессор Пермского государственного национального исследовательского университета Леонида Нахимовича Ясницкого «Некоторые достижения искусственного интеллекта и варианты его влияния на социум».
В статье описываются возможные успешные перспективы внедрения технологий искусственного интеллекта в жизнь человеческого социума, социальные и экономические прогнозы эффективности искусственного интеллекта в социуме. Основное внимание уделяется оценке влияния искусственного интеллекта на трудовую занятость членов общества. В публикации представлены прогнозы Всемирного банка о влиянии искусственного интеллекта на социум в будущем, приводятся наиболее яркие достижения крупных компаний в сфере искусственного интеллекта за последние годы. Наряду с достижения крупных компаний приводятся успешно реализованные проекты в области искусственного интеллекта, связанные с нейросетевыми технологиями, разработанные в Пермском государственном национальном исследовательском университете.
Социальные и экономические прогнозы
искусственного интеллекта
При вступлении человечества в индустриальную эпоху уже возникало множество опасений из-за того, что машины оставят человека без работы, но этого, как показала история, не произошло.
Похожая ситуация сейчас и с искусственным интеллектом. Аналогичным образом, как в свое время получилось с машинами, использование ИИ создаст миллионы рабочих мест, которые намного превзойдут наши представления. Например, ИИ станет экспертом в области языкового перевода, и вместе с этим вырастет спрос на переводчиков. Почему? Если стоимость обычного перевода упадет почти до нуля, упадет и стоимость ведения бизнеса с теми, кто говорит на других языках. Таким образом, предприниматели будут расширять бизнес за границей, создавая больше работы для людей-переводчиков. ИИ может делать простую работу, но для тонкой работы нужны люди.
Более того, появление и распространение ИИ обещает более быстрый рост числа рабочих мест во многих профессиях, которые, казалось бы, мог заменить ИИ: бухгалтеров, судмедэкспертов, геологов, технических переводчиков, веб-разработчиков, медсестёр и других представителей клиентов. Эти области будут нанимать новых людей не вопреки ИИ, а, благодаря ему.
Так что на сегодня, по мнению аналитиков Всемирного банка, подготовивших доклад о мировом развитии «Изменение характера труда», страхи перед ИИ беспочвенны, а бояться роботов – плохая стратегия.
«Машины отберут у нас работу». Люди страшатся этого не одну сотню лет, говорится в докладе Всемирного банка. По крайней мере, с тех пор, как в начале XVIII века было переведено на промышленные рельсы ткачество. Это позволило поднять производительность, но, в то же время, породило опасения, что тысячи работников окажутся на улице. Инновации и технический прогресс нарушили прежний порядок вещей, но тех, чье благосостояние от этого выросло, оказалось больше, чем проигравших. Однако сегодня, когда инновации внедряются все быстрее, а технологии влияют на все стороны нашей жизни, вновь нарастает ощущение неопределенности.
Мы знаем, что роботы берут на себя выполнение тысяч рутинных операций и могут вытеснить множество низкоквалифицированных рабочих мест в развитых и развивающихся странах. Одновременно с этим передовые технологии открывают новые возможности, создавая условия для появления новых рабочих мест и преобразования существующих, наращивая производительность и повышая эффективность предоставления общественных услуг. Думая о масштабах проблем, которые предстоит решить, чтобы подготовиться к будущему миру труда, важно понимать, что многим из нынешних учеников начальных школ предстоит, когда они вырастут, работать по специальностям, которых сегодня даже не существует.
Именно поэтому в докладе Всемирного банка подчёркивается основополагающая роль человеческого капитала в решении этой проблемы – проблемы, которая по самой сути своей не допускает простых решений. Многие специальности уже сегодня требуют, а еще больше специальностей потребуют в ближайшем будущем комплекса особых навыков – владения технологиями, умения решать проблемы, критического мышления, равно как и навыков межличностного общения, таких, как упорство, готовность к сотрудничеству и умение сопереживать.
Уходят в прошлое времена, когда десятилетиями можно было работать по одной и той же специальности или в одной и той же компании. В условиях «экономики свободного заработка» работникам на протяжении их трудовой жизни придётся заниматься самыми разными «подработками», а это значит, что в течение всей жизни им придется учиться.
Темпы внедрения инноваций будут и далее нарастать, и развивающимся странам для обеспечения своей конкурентоспособности в экономике будущего необходимо будет действовать быстро. Чтобы использовать преимущества новых технологий и смягчать наиболее острые из порождаемых ими проблем, им придется «с ощущением совершенной неотложности» осуществлять инвестиции в своих граждан – прежде всего, в образование и здравоохранение, которые являются краеугольным камнем человеческого капитала. Но сегодня огромное число стран таких критически важных капиталовложений не осуществляют.
В докладе Всемирного банка отмечается, что в мировой истории еще не было периода, когда человечество не испытывало бы страха перед тем, куда его может завести способность придумывать нечто новое. В XIX веке Карл Маркс указывал, что «машина действует не только как могущественный конкурент, постоянно готовый сделать наемного рабочего «избыточным». Она становится самым мощным боевым орудием для подавления стачек». Джон Мейнард Кейнс в 1930 году предупреждал о том, что технологии влекут за собой массовую безработицу.
По данным последнего обследования «Евробарометра», три четверти граждан Европейского Союза, который по образу жизни является мировой сверхдержавой, уверены, что для их рабочих мест новые технологии являются благом. Две трети утверждают, что новые технологии благотворно влияют на общество и ещё больше улучшают качество жизни.
Несмотря на этот оптимизм, тревоги по поводу будущего сохраняются. Жителей развитых стран беспокоит масштабное воздействие новых технологий на занятость. Они считают, что рост неравенства, усугубляющийся формированием «экономики свободного заработка» (в рамках которой организации заключают краткосрочные трудовые договоры с самостоятельно занятыми работниками), способствует ухудшению условий труда.
Роботы пока не отнимают работу у людей. В развитых странах количество рабочих мест в промышленности действительно сокращается, зато в странах Восточной Азии растет, так что общие цифры остаются прежними. Рабочие места перераспределяются, а не исчезают, сообщает MIT Technology Review.
Наиболее яркие достижения в сфере
искусственного интеллекта
Немного успокоив читателей по части конфликта интересов человека и ИИ на поляне работодателей, можно перейти к демонстрации достижений человека в деле создания ИИ.
Начать, пожалуй, стоит с последних, наиболее ярких, достижений разработчиков и создателей искусственного интеллекта.
Медицинская помощь.
В апреле 2018 года Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США разрешило продажу первого ИИ, который диагностирует проблемы со здоровьем в клиниках первичной медицинской помощи без специального наблюдения. Программа, которая проверяет изображения глаз на наличие признаков потери зрения, связанной с диабетом, может быть крайне полезна для людей в отдалённых районах или районах с ограниченными ресурсами, где не хватает офтальмологов. Другие программы искусственного интеллекта учатся распознавать самые разные проблемы со здоровьем – от возрастной потери зрения до нарушений в работе сердца.
Предсказание землетрясений.
Искусственный интеллект, который предсказывает, где потенциально могут произойти подземные толчки, может помочь людям в районах повышенного риска эффективнее подготовиться к опасным сейсмическим событиям. Программа, которая изучала характеристики более 130000 землетрясений и повторных толчков, научилась предсказывать места повторных толчков гораздо точнее традиционных методов.
Инструмент для дезинформации.
Конечно, умный ИИ не всегда хорошая новость. Один ИИ, появившийся недавно, генерирует реалистичные фальшивые видеоматериалы, заставляя объект одного видео отражать движения и эмоции другого человека в другом видео. В чужих руках этот ИИ мог бы стать мощным инструментом распространения дезинформации.
Быстрая навигация. Разработка искусственного интеллекта для имитации активности в определенных областях мозга может помочь ученым лучше понять, как работает наш разум. ИИ c виртуальными версиями нейронов нашел наиболее краткий путь в виртуальном лабиринте быстрее, чем ИИ без виртуальных нейронов. Быстрая навигация ИИ, оснащенного виртуальными нейронами, предполагает, что в мозге млекопитающих эти клетки делают нечто большее, чем активация в ответ на пересечение животным воображаемой координатной сетки в пространстве.
Прогнозирование эффективности лекарств.
Новый искусственный интеллект позволяет конкурирующим фармацевтическим компаниям обмениваться информацией, не раскрывая секретов. Эта безопасная система может побудить фармацевтические компании объединять свои ресурсы, создавая большие библиотеки обучающих данных для создания более интеллектуального ИИ. Программисты использовали систему для обучения ИИ, который предсказывает, с какими белками определенные лекарства будут взаимодействовать в организме человека. Искусственный интеллект также может использовать эту систему для анализа конфиденциальных медицинских записей в больницах, для разработки планов лечения пациентов и составления прогнозов.
Анализ разнородных сигналов.
Люди естественным образом умеют игнорировать второстепенную болтовню, чтобы сосредоточиться на том, что говорит один человек. Компьютерам сложно это делать. Но теперь искусственный интеллект анализирует как звуковые, так и визуальные сигналы, например, движения губ, чтобы определить, что говорят конкретные люди в шумных видеороликах. Такой проницательный ИИ может писать более точные подписи к видео и приводить в действие мощных виртуальных помощников, которые лучше понимают голосовые команды в шумной среде.
Программные роботы, или, как их называют, цифровые работники – один из главных технологических трендов.
Аудиторская компания Deloitte прогнозирует: в ближайшие два года количество проектов в области роботизации увеличится на 70%. Такой спрос объясняется тем, что RPA (Robotic Process Automation) можно внедрить за несколько месяцев, окупаются они за полгода и не требуют глубокой интеграции. Роботы экономят миллионы часов рабочего времени: наполняют клиентскую базу, обрабатывают несложные финансовые транзакции или отвечают на простые запросы в техническую поддержку. Например, «Альфа-банк» доверил роботам обработку платежей, разбор внутренней почты, изменение данных клиента и правки кредитных договоров по заявлениям. Компания планирует экономить на этих процессах по 85 млн. рублей в год. При этом RPA становятся в разы производительнее, если дополнить их технологиями интеллектуальной обработки информации. С помощью таких решений роботы уже определяют тип документа или анализируют смысл текста, извлекают из него важные факты и отправляют их в различ-ные информационные системы. Такие навыки делают роботов полноценными цифровыми помощниками бизнеса.
Microsoft организовала комитет по этике ИИ.
Вслед за ней подобные подразделения создали и другие корпорации: Facebook, Google и SAP.
Игрокам есть чего бояться. ИИ не только кардинально меняет нашу жизнь, но и привносит в неё новые вызовы. Вместе с автоматизацией появляется риск, что часть людей потеряет рабочие места. ИИ дает огромное конкурентное преимущество крупному бизнесу, а это, в свою очередь, может усилить экономическое неравенство. ИИ зависит от качества и количества данных, которые используются для обучения. Их недостаток приводит к ошибкам или даже предвзятости в работе технологий. Известны примеры, когда роботы-рекрутеры принимали на работу только мужчин, отказывали в кредите людям определённой национальности или даже видели в них потенциальных преступников. В постановке медицинских диагнозов ИИ сегодня тоже недостаточно точен: по некоторым оценкам, машина не ошибается только в 60% случаев. Люди не могут во всем доверять ИИ, и для спорных ситуаций корпорациям и государствам нужно выработать общие принципы взаимодействия с технологиями: не нарушать права человека, повышать прозрачность работы ИИ, соблюдать стандарты безопасности, защищать персональные данные и не вредить.
Аналитики Gartner опубликовали исследование: к концу 2018 года прибыль компаний от ИИ достигла $1,2 трлн, что на 70% больше, чем в 2017 году. То, что увеличивается количество сценариев применения технологий ИИ, заметно и по российскому рынку. За последние годы ABBYY реализовала ряд крупных проектов с применением интеллектуальных технологий. Наиболее активны были заказчики в банках, нефтегазе и энергетике, появилось больше проектов в промышленности. Банк ВТБ роботизировал открытие счета для юридических лиц, а НПО «Энергомаш», крупнейший производитель ракетных двигателей, использует ИИ для интеллектуального поиска по нескольким миллионам внутренних документов компании.
ИИ научился распознавать объекты на фоне среды.
Новая нейросеть отделяет распознанные объекты от окружающей их виртуальной среды, чтобы затем «представить» их в другой обстановке. Условный кактус в пустыне она распознает и в комнатном горшке. Система понимает, как объект выглядит под другим углом и освещением. Это ещё одна попытка преодолеть проблему ИИ – катастрофическую забывчивость. Традиционные нейросети не способны последовательно учиться новому и не забывать при этом старое. Подобные технологии будут особенно полезны в работе с изображениями: например, позволят лучше распознавать лица людей с разными прическами или цветом глаз.
Google запустила поиск по открытым датасетам. В выдаче Dataset Search указывается информация о ресурсе, на котором опубликован набор данных, авторы, лицензия, дата обновления, описание и доступные для скачивания форматы. Тематика наборов не ограничена. Конечно, это не первая подобная инициатива: порталы с открытыми данными есть у многих городов, государственных и научных организаций. Но возможность искать такие наборы и найти нужный может упростить жизнь разработчикам технологий. Данные, особенно по специфической отраслевой теме, стоят дорого, их сложно раздобыть, к тому же они быстро устаревают. Возможность использовать открытые датасеты позволит удешевить и ускорить разработку технологий, особенно если речь идёт о стартапе.
Команда ботов OpenAI впервые проиграла людям в чемпионате по Dota 2, что удивительно, ведь в последнее время алгоритмы все чаще побеждают человека в различных играх. Сражение, произошедшее в 2018 году показало, что машины по-настоящему сильны в индивидуальном зачёте, а вот работа в команде, коммуникация, распределение обязанностей и работа в изменчивых условиях – не самые сильные стороны ИИ. С одной стороны, это яркий пример того, какие профессиональные навыки будут востребованы у людей в ближайшем будущем. С другой стороны, индивидуализм характерен для человека, а это значит, что технологии больше становятся похожими на нас самих.
Человекоподобные роботы Boston Dynamics научились бегать и перепрыгивать через препятствия. Теперь они обрабатывают видео в реальном времени, а специальная программа помогает балансировать конечностям и торсу машины. За последние годы робот научился ходить по снегу, стоять на одной ноге и делать сальто. ИИ помогает роботам лучше ориентироваться в пространстве и работать в необычных, иногда даже экстремальных ситуациях. В ближайшие несколько лет подобных роботов будут активно использовать в условиях, где человеку опасно находиться: при производстве автомобилей, в металлургии и химической промышленности, а ещё для спасения людей при чрезвычайных ситуациях.
ИИ научился прогнозировать болезнь Альцгеймера на ранних стадиях: распознавать изменения в участках нервной ткани, вызванные обменом веществ в определённых отделах мозга. В отличие от томографии, ИИ способен определить симптомы заболевания на шесть лет раньше. С его помощью у врачей появится возможность замедлять или вообще останавливать деменцию.
Похоже, искусственный интеллект еще много чем снабдит человека.
Сегодня во многих областях деятельности человека широко применяется новый метод математического моделирования, основанный на нейронных сетях. При этом частично вытесняется классический метод математического моделирования, основанный на решении краевых задач математической физики.
Говоря о важности классического (старого) метода математического моделирования в нашей жизни, отметим, что в настоящее время он являлся и является одним из самых эффективных методов получения научных знаний. Методом математического моделирования рассчитываются, проектируются, оптимизируются новые инженерные и строитель-ные конструкции, делается прогноз погоды, предсказываются стихийные бедствия, выполняются экономические прогнозы, на основе которых строится экономическая политика отдельных фирм и целых государств.
До появления нейронных сетей и нейрокомпьютеров математические модели традиционно строились с использованием фундаментальных законов природы, таких как законы сохранения массы, энергии, количества движения и другие. Эти законы записывались в виде алгебраических, либо дифференциальных и интегральных уравнений, к которым добавлялись уравнения, отражающие закономерности конкретных предметных областей. Для получения результата приходилось разрабатывать и применять алгоритмы совместного решения всех этих уравнений, составляющих математическую модель исследуемой предметной области.
Нейро-информационные технологии открыли иной подход к самой методике построения компьютерных математических моделей. Появилась возможность, не задумываясь над законами физики, химии, биологии, медицины, общественного развития и т.д., исходя из одного только эмпирического опыта, представленного обучающими примерами, строить компьютерные математические модели, которые сами извлекают эти законы и позволяют их эффективно использовать для решения широкого круга практических задач. Появился новый инструмент извлечения знаний из данных, позволяющий заново открывать фундаментальные законы природы, выявлять ранее неизвестные зависимости и использовать их для решения конкретных практических задач. Нейронные сети стали одним из наиболее эффективных инструментов интеллектуального анализа данных.
Уже радикально изменились учебные программы вузов. Исчезли из учебных программ, либо сократилось в объеме изучение многих специальных разделов математики, необходимых для подготовки специалистов по методу классического математического моделирования. Вместо них: «Нейронные сети», Методы искусственного интеллекта», «Интеллектуальные информационные системы», «Интеллектуальный анализ данных» и т.д.
По нашему мнению в ближайшие десять лет:
1. Реально создание интеллектуальных медико-диаг-ностических систем, превосходящих по точности постановки диагнозов естественных врачей. Реально выявление с помощью интеллектуальных систем новых неизвестных ранее медицинских знаний и использование этих знаний для улучшения качества медицинской практики.
Одна из таких интеллектуальных систем – «Система диагностики и прогнозирования заболеваний сердечно-сосудистой системы» размещена на сайте www.kardionet.ru. С помощью нее выявлены новые неизвестные ранее знания, которые используются для совершенствования существующей практики лечения и профилактики заболеваний сердца.
2. Реально создание интеллектуальных систем диагностики сложных технических устройств, превосходящих по своим возможностям и точности известные инженерные методики. Их внедрение в инженерную практику позволит повысить надежность технических устройств и, таким образом, способствовать решению проблемы снижения техногенных аварий и катастроф – актуальной проблемы XXI века.
Опыт разработки нейросетевых систем диагностики авиационных двигателей показал, что интеллектуальные системы позволяют выявлять такие дефекты, которые обычными инженерными методами выявлены быть не могут.
3. Реально создание интеллектуальных систем, способных получать точные аналитические решения краевых задач математической физики, что позволит преодолеть современный кризис прикладной математики. Реально внедрение таких интеллектуальных систем в инженерную практику, что также будет способствовать снижению числа техногенных аварий и катастроф.
С сайта www.PermAi.ru можно обратиться к демонстрационному прототипу интеллектуальной системы «Искусственный математик», способной получать точные аналитические решения краевых задач теории упругости, теплопроводности, термоупругости и др.
4. Реально создание интеллектуальных систем, прогнозирующих экономическое состояние предприятий, позволяющих разрабатывать рекомендации по оптимизации их деятельности.
В работе «Нейросетевая система оценки вероятности банкротства банков» описан опыт создания нейросетевой системы прогнозирования вероятности банкротства российских банков. Помимо прогнозов система позволяет получать полезные рекомендации по предотвращению банкротства конкретных банков.
5. Реально создание интеллектуальных систем, предназначенных для прогнозирования развития политических событий и влияния на эти события.
В статье «Интеллектуальные информационные технологии и системы» описан случай успешного прогнозирования победы Дмитрия Медведева на президентских выборах 2008 года, выполненного за полтора года до этих выборов. Там же и в статье «О возможностях применения методов искусственного интеллекта в политологии» приведены подтвердившиеся впоследствии результаты прогнозирования рейтингов известных политических деятелей, а также рекомендации по улучшению этих рейтингов.
6. Реально создание и применение интеллектуальных систем в области криминалистики.
В работе «Технологии построения детектора лжи на основе аппарата искусственных нейронных сетей» описан опыт создания нейросетевого детектора лжи, значительно превосходящего известные штатные аналоги по точности заключений.
В работе «Использование методов искусственного интеллекта в изучении личности серийных убийц» изложен опыт создания интеллектуальной системы, предназначенной для изучения личности и выявления серийных убийц. Программа, оценивающая склонность человека к насилию.
7. Реально создание интеллектуальных систем, предназначенных для прогнозирования результатов спортивных состязаний и для оптимизации программы подготовки спортсменов с целью получения ими наивысших спортивных результатов.
В практике нейронные сети уже применялись для прогнозирования результатов олимпийских игр 2014 года, чемпионата мира по легкой атлетике 2015 года, чемпионата Европы по футболу 2016 года, а также при разработке рекомендаций для известных спортсменов: фигуриста Евгения Плющенко и спортсменов-бегунов.
8. Реально создание и широкое применение интеллектуальных систем в психологии.
Заметим, что опыт применения нейросетевых технологий для создания интеллектуальных систем, выявляющих способности и предрасположенности человека, оказался весьма успешным. Так, в работе «Возможности методов искусственного интеллекта для выявления и использования новых знаний на примере задачи управления персоналом» описана интеллектуальная система, выявляющая способность человека к руководящей деятельности, в учебнике «Интеллектуальные системы» – к научной деятельности, в статье «Нейросетевые технологии как инструмент для прогнозирования успешности предпринимательской деятельности» – к бизнесу. В работе «Применение нейросетевых технологий в изучении акмеологического потенциала студентов вуза» описана интеллектуальная система, способная прогнозировать степень успешности будущей карьеры студентов вуза, что позволяет оптимальным способом подбирать траектории их обучения. В публикации «Возможности моделирования предрасположенности к наркозависимости методами искусственного интеллекта» приведен опыт создания системы, определяющей предрасположенность подростков к наркотической зависимости, а также позволяющей получать индивидуальные рекомендации по снижению такой зависимости. Имеются программы, оценивающие предрасположенность человека к суициду, алкоголизму, анорексии. Помимо количественной оценки способностей, склонностей и предрасположенностей людей с помощью этих программ можно получать полезные рекомендации по их развитию, или наоборот – нивелированию.
Следует отметить, что, несмотря на радужные перспективы развития искусственного интеллекта, обусловленные результатами современных исследований, его внедрение в жизнь социума предполагает решение довольно непростых организационных задач. По мнению авторов, решение этих задач должно, прежде всего, опираться на первоначальное внедрение ИИ в те сферы промышленности, где труд без использования методов ИИ влечет большой риск здоровью человека и где невозможно решение производственных задач без ИИ. Если для густонаселенных государств внедрение в жизнь социума ИИ не имеет возражений, то для стран с малой плотностью населения и огромными расстояниями между населенными пунктами повсеместное использование ИИ представляется проблематичным, заключают авторы статьи «Некоторые достижения искусственного интеллекта и варианты его влияния на социум».
Как видим из этой публикации, уже сейчас созданы алгоритмы, которые могут взять на себя ряд функций по управлению социальными процессами в обществе. Другой момент, что дальше передачи ИИ некоторых работ по оказании социальных услуг дело пока не идет. Но это пока. А что может произойти в будущем?
Ответ на этот вопрос можно найти в докладе на Давос-ском форуме израильского историка и публициста Юваля Ноя Харари. Он, в частности, сказал.
«О будущем рода человеческого». Точно не помню, кто высказал интересную мысль: если вам будут рассказывать о 2050 годе, и это будет выглядеть как научная фантастика, вероятно, это неправда. Но если описание 2050 года не будет звучать как научная фантастика, то это точно неправда.
Возможно, мы одно из последних поколений Homo sapiens. Через век или два Землю будут населять организмы, которые так же сильно отличаются от нас, как мы – от неандертальцев или шимпанзе. Ведь в следующих поколениях мы научимся модифицировать наше тело и разум, и это станет главным продуктом экономики XXI века.
Как именно будут выглядеть будущие хозяева планеты? Это будут решать те, кто владеет информацией. В руках тех, кто будет ее контролировать, будет контроль за жизнью на планете. Информация – самый важный актив в мире. Не земля, как в древности, не промышленное оборудование, как в последние пару веков.
Что же произойдет, если слишком большое количество информации будет сконцентрировано в руках маленькой кучки избранных? Человечество разделится. Но не на классы, а на различные виды.
Информация так важна, потому что мы достигли точки, когда можем «взламывать» не только компьютеры, но и человеческий организм. Для этого нужны две вещи: большая вычислительная мощность и огромный объем данных, в частности биометрических. До сегодняшнего дня ни у кого не было этих ингредиентов для «взлома» человечества. Даже КГБ или испанская инквизиция, имеющие возможность наблюдать за людьми круглосуточно, не могли этого.
Сейчас ситуация меняется благодаря двум идущим одновременно революциям: развитие компьютерной науки (расцвет машинного обучения, искусственный интеллект) и развитие биологии, в частности нейробиологии. Это дает нам необходимое понимание, как работает человеческий мозг. Можно суммировать полтора века биологических исследований тремя словами: организмы есть алгоритмы. И мы сейчас учимся тому, как расшифровать эти алгоритмы.
Возможно, самое важное изобретение для обеих революций – биометрический сенсор, который переводит биохимические процессы в нашем теле и мозге в электронные сигналы, которые может анализировать компьютер. Расшифровав эти алгоритмы, можно создать существа, которые будут лучше людей. Но как эти существа впоследствии будут применять эти технологии, честно говоря, не имею понятия.
Сейчас этот процесс ведется на трех фронтах.
Первый – биоинженерия, ученые выращивают новые органы, обновляют старые, вмешиваются в организм на генетическом уровне и так далее. Но это и самый консервативный фронт, так как он использует традиционные «кирпичи», из которых сложен организм, каким мы его знаем последние несколько миллиардов лет.
Второй подход более радикальный – комбинация органического и неорганического (бионическая рука, компьютерный интерфейс в мозге, вторая иммунная система, созданная из миллионов нанороботов, и так далее). Но даже в этом случае ваш мозг остается органическим, несмотря на то, что подключен к различного рода устройствам, интернету.
Третий – и наиболее радикальный – создание полностью неорганических форм жизни. Можно ли это сделать – пока открытый вопрос. Остается нераскрытой тайна сознания – мы до сих пор понятия не имеем, что это такое и как оно появляется у человека. Общий консенсус – сознание находится в мозге, и если «взломать» его и понять, как работают эти миллиарды нейронов, создающие опыт и эмоции, то не будет барьеров, чтобы воссоздать их на другом «материале». Возможно, с неорганическими формами жизни у нас так ничего и не получится, но все больше серьезных ученых убеждаются в том, что рано или поздно это произойдет.
Люди вообще не знают себя по-настоящему. Поэтому алгоритмы – реальный шанс узнать себя лучше. Приведу пример из личной жизни: в 21 год я осознал свою гомосексуальность, до этого я ее отрицал. Я не исключение – многие люди живут, отрицая этот факт, они просто не знают о себе нечто очень важное. Представьте себе ситуацию, когда через 10–20 лет алгоритм сможет говорить тинейджеру о его ориентации. Алгоритм отслеживает движения ваших глаз, давление, активность мозга и сообщает вам, кто вы. Даже если скрывать свою ориентацию от друзей и коллег, эти данные могут получить Amazon, Google, Facebook. Алгоритмы, следящие за вами, сообщат, к примеру, Coca-Cola, что если компания захочет продать вам свой напиток, не стоит показывать рекламу с обнаженными девушками. Вы этого даже не заметите, но корпорации прекрасно знают, что эта информация стоит миллиарды.
Как регулировать владение информацией? В отличие от земли и промышленного оборудования информация везде и вместе с тем нигде, ее можно копировать, она распространяется с невероятной скоростью и так далее. Кому же принадлежит информация обо мне? В настоящее время большей частью данных владеют корпорации, и людей это беспокоит. Но если уполномочить правительства национализировать информацию, это приведет к цифровой диктатуре.
«О цифровой диктатуре». Когда у нас будут алгоритмы, способные понимать меня лучше, чем я сам, они смогут предсказывать мои желания, манипулировать моими эмоциями и даже принимать за меня решения. Если мы не проявим осторожность, придет эпоха цифровой диктатуры. В XX веке демократия пришла на смену диктатуре, так как она была лучше в обработке данных и принятии решений. Демократия распределяет информацию и наделяет институции и людей правом принимать решения. Диктатура же сосредотачивает всю информацию и принятие решений в одних руках. Первая модель работала более эффективно, поэтому, к примеру, американская экономика превзошла советскую.
Однако в XXI веке биотехнологическая революция может качнуть маятник в обратную сторону: централизованное распределение информации может стать более эффективным. Если демократия не приспособится к новым условиям, новые люди будут жить при цифровой диктатуре. Возьмем, к примеру, Северную Корею: люди там будут носить, скажем, специальные биометрические браслеты. Когда человек войдет в комнату и увидит портрет очередного великого вождя, браслет считает его эмоции, давление и передаст данные в соответствующие органы – так будет выглядеть цифровая диктатура.
Контроль информации позволит мировым элитам сделать нечто еще более радикальное, чем цифровая диктатура. «Взламывая» организмы, элиты получат возможность перестроить будущее жизни. И это будет величайшая революция в истории не просто человечества, а всего живого на Земле. В течение 4 млрд лет правила существования жизни на планете не менялись, все живое подчинялось законам естественного отбора и органической биохимии. Но сейчас наука заменяет эволюцию с помощью естественного отбора эволюцией с помощью разумного замысла. Замысла не божьего, а человеческого. Если не урегулировать этот вопрос, крошечная группа людей, элита, получит к ней доступ и будет определять будущее жизни на Земле.
Многие политики как музыканты: они играют на человеческих эмоциях и биохимической системе. Политик произносит речь, и вся страна охвачена страхом. Политик публикует твит – и взрыв гнева. Не думаю, что стоит давать этим «музыкантам» самые совершенные инструменты и уж тем более доверять жизнь во Вселенной. Помимо всего прочего, у них даже нет своего видения будущего. Вместо этого они кормят публику ностальгическими фантазиями о прошлом. Как историк могу рассказать вам о прошлом. Прежде всего, там было не так уж классно – побывать там вам бы не захотелось. К тому же прошлое не вернется. Поэтому ностальгические фантазии – не решение.
Кому же должна принадлежать информация? Честно – не знаю. Дискуссия об этом только началась. Нельзя ждать немедленного ответа на этот важный вопрос. К обсуждению должны подключиться ученые, философы, юристы и даже поэты. Особенно поэты! Ведь от ответа на него зависит будущее не только человечества, но и самой жизни на планете.
Вообще-то носителем, пользователем и регулятором информации не обязательно должен быть человек, и если обобщенно подойти к информации в интерпретации Юваля Харари, то ее можно соотнести с так называемым «сильным искусственным интеллектом». К каким социальным последствиям это может привести – читайте труды израильского историка. Не обязательно он должен быть прав, но ознакомиться с его мыслями небезынтересно.
Иллюстрация: mindfulnesstherapy.ru
