Фото: delo.ua
Уже сейчас искусственный интеллект (ИИ) способен на многое — он играет в шахматы, управляет автомобилями и диагностирует заболевания. Всем известно о программе Google DeepMind, которая легко обыгрывает человека в го, об экспериментах компании Tesla с беспилотными автомобилями, о суперкомпьютере IBM под названием Watson.
Эти системы относятся к классу ограниченного искусственного интеллекта, который призван решать специальные задачи. Они довольно быстро совершенствуются и используются всё шире. Хотя их внедрение сталкивается с проблемами — например, беспилотные автомобили появятся на дорогах не так скоро, как мы думали еще недавно.
На подходе — системы ИИ общего типа, которые будут способны учиться, решать задачи, модифицировать свое поведение и саморазвиваться. Они смогут выполнять даже те задачи, которые выходят за рамки задуманного их проектировщиками.
Самое главное, что темп их развития может постоянно ускоряться — и в какой-то момент они могут стать умнее человека, породив супер-ИИ.
Пока что подобные системы ИИ не существуют в полном функциональном виде. Однако их компоненты постоянно разрабатываются и, по прогнозам, они начнут появляться уже в начале 2030-х гг.
Мало кто сомневается в том, что они будут созданы. Задачи, которые будут перед ними поставлены, также очевидны — лечение рака и дегенеративных заболеваний, борьба с изменениями климата, повышение эффективности сельского хозяйства, начало новой научно-технической революции.
Искусственный интеллект научился выявлять рак кожи
Искусственный интеллект — угроза или помощник для человечества?
Эксперт отвечает Илону Маску: искусственный интеллект не угроза
Вопрос в том, сможет ли человечество контролировать эти машины. Главная опасность состоит в том, считает профессор MIT Макс Тегмарк, что такие системы смогут без вмешательства человека определять наиболее эффективные пути решения задач и даже создавать свои собственные цели, не учитывая при этом этических принципов, на которых построена человеческая цивилизация.
Примеры такого развития событий:
Система ИИ общего типа, перед которой поставлена задача предотвращения эпидемии ВИЧ, может решить убить всех носителей вируса;
Военный дрон, оснащенный такой системой ИИ, может прийти к выводу, что для надежной нейтрализации выбранной цели необходимо уничтожить всю деревню, где эта цель расположена;
Система ИИ, которой поручено найти способ решения проблемы изменения климата на Земле, может прийти к выводу, что единственным выходом является полное уничтожение человечества.
Многие катастрофические сценарии развития систем супер-ИИ приводят к исчезновению человека как вида. Кроме того, социологи опасаются и другого рода кризисов — например, вытеснение человека из сферы активного физического труда, дестабилизация государственных структур, введение мер по всеобщему наблюдению и контролю.
Кем пожертвует беспилотный автомобиль в случае аварии? Моральные муки робота
Уже сейчас перед разработчиками новых систем ИИ стоит неотложная задача создания новых методов контроля, которые смогут обеспечить безопасность таких систем в долгосрочном плане.
Иллюстрация: memesmix.net
https://grandi.su/load/1-1-0-1142?spush=YW16MTk0OEB5YW5kZXgucnU=
•••
