Elon Musk weighed in on artificial general intelligence — should companies care?
Илон Маск решил включиться в дискуссию в Твиттере на тему универсального, или сильного искусственного интеллекта, то есть способности машины понимать смысл стоящей перед ней проблемы. По его мнению, через семь лет сильный ИИ уже непременно появится. Как и люди на Марсе.
В последнее время Илон Маск стал формулировать свои прогнозы и обещания более обтекаемо: «Я удивлюсь, если мы не высадимся на Марсе в ближайшие пять лет» или «Я буду в шоке, если FSD [система автономного управления автомобилем] не станет безопаснее человека в этом году».
Если что пойдет не так — никакой ответственности. Но если прошлые предсказания касались непосредственной сферы деятельности компаний Маска — SpaceX и Tesla, — то на этот раз он высказал свое мнение о предмете, в котором едва ли хорошо разбирается.
«2029 год кажется переломным, — написал Маск. — Я буду удивлен, если к тому времени у нас не будет сильного ИИ. Надеюсь, люди на Марсе тоже уже будут».
Несмотря на то, что Маск разбрасывается такими высказываниями направо и налево, полностью игнорировать слова миллиардера и успешного предпринимателя нельзя/
Так, Гэри Маркус, психолог и исследователь машинного интеллекта, а также большой критик сильного ИИ, написал Маску открытое письмо, предложив заключить пари: если в 2029 году такой ИИ действительно появится, Маркус выплатит Маску $100 000. Если нет, то раскошелиться придется миллиардеру. Пока глава Tesla не ответил на это предложение. Возможно, для Маска этот спор не более чем шутка и самопиар, но Маркус относится к проблеме серьезно.
«Заявления Маска относительно сильного ИИ только подстегивают современные технологии, когда нам на самом деле нужно сделать шаг назад, чтобы понять, где мы находимся и реалистично взглянуть на вещи», — сказал он, указывая на то, что не решены еще самые сложные проблемы: как наделить машины здравым смыслом и способностью понимать окружающий мир.
По его словам, вокруг ИИ слишком много хайпа и бестолковых инвестиций. Такие алгоритмы, как DALL-E 2 или GPT-3 — лишь игрушки, но они создают волну дезинформации и не помогают преодолеть действительно важные проблемы ИИ-технологий. Многим ошибочно кажется, что ИИ — это какое-то магическое решение всех проблем.
В ответ на твит Маска Маркус перечислил пять вещей, которые сильный ИИ должен уметь, но на которые не будет способен к 2029:
ИИ не сможет посмотреть фильм и верно пересказать его события.
ИИ не сможет прочитать повесть и правильно ответить на вопросы о сюжете.
ИИ не сможет работать поваром на произвольной кухне.
ИИ не сможет без багов написать программный код свыше 10 000 строчек длиной на основе ТЗ, данного на естественном языке или пользователем без специальной подготовки (слепить код из существующих библиотек не считается).
ИИ не сможет установить правильность произвольных расчетов в математической литературе, написанной естественным языком, и преобразовать их в символы, пригодные для проверки.
Не так давно Маск выступал против сильного ИИ, напоминая об опасности восстания машин, однако в этом году его мнение изменилось. В январе он заявил, что Tesla займется, среди прочего, разработкой ИИ, способного мыслить и осознавать себя как личность. И поможет в этом человекоподобный робот Optimus.
Иллюстрация: Оптимус Прайм | Transformers Prime вики | Fandom
transformersprime.fandom.com
Трансформер Оптимус Прайм/Optimus Prime 24см.ТРАНСФОРМЕРЫ / Робот-Трансформер Оптимус — купить в интернет-магазине OZON с быстрой доставкой
ozon.ru
https://venturebeat.com/2022/05/31/elon-musk-weighed-in-on-artificial-general-intelligence-should-companies-care/
