Стремление создать искусственный интеллект: путь к гибели цивилизации или двери в новую жизнь?

Астрофизик Стивен Хокинг, нобелевский лауреат Фрэнк Вильчек, исследователь машинного интеллекта Люк Мюльхаузер, предприниматель и основатель компаний Tesla и SpaceX Илон Маск, сооснователь Apple Стив Возняк, некоторые сотрудники Google и Microsoft написали письмо касательно своей обеспокоенности растущим влиянием машин на жизнь людей. Документ был направлен в общественную организацию Future of Life Institute. По мнению специалистов, из-за огромного потенциала ИИ исследователи не могут заранее спрогнозировать негативные последствия его создания. Искусственный интеллект ученые считают средством массового уничтожения, более опасным, чем ядерного оружия.

Примитивные формы искусственного интеллекта, которые уже разработаны учеными, не несут опасности и доказали свою полезность человеку. Однако эволюция homo sapiens происходит слишком медленно. Полноценный искусственный интеллект, способный превзойти своих создателей, запустит процесс самосовершенствования, за которым людям не угнаться. Это станет началом  технологической сингулярности – чрезвычайно быстрого технологического развития. Изучением экзистенциальных рисков занимается небольшое число независимых исследователей. Если изначально ставится вопрос, кто управляет ИИ, то в долгосрочной перспективе главной проблемой станет сама возможность человеческого управления машинным разумом.

Применение искусственного интеллекта в сфере вооружения переведет тактику ведения войны на новый уровень. Роботизация армии станет причиной перерастания политических конфликтов в военные. От демонстрации военной мощи враждующие государства удерживают морально-этические нормы: человеческие потери, тысячи раненых и разрушенных семей. Отправлять на смерть роботов гораздо проще. США уже инвестировали 18 млрд долларов в разработку систем оружия с ИИ.

Исследователи компании McKinsey Global Institute пророчат радикальное изменение ситуации на рынке труда. Роботизация позволит сэкономить 50 трлн долларов, что означает упразднение миллионов рабочих мест. Вначале машины обоснуются в сфере обслуживания и будут выполнять рутинные задачи, но их возможности по мере развития будут возрастать, и вскоре роботы станут конкурентами работникам умственного труда. Водителей заменят беспилотные автомобили, кассиров – терминалы самообслуживания, охранников – системы распознавания лиц. Со временем человек будет вытеснен из многих сфер деятельности по причине низкой эффективности. Люди рискуют превратиться в «домашних животных».

Перед созданием ИИ исследователи должны ответить на ряд вопросов: должен ли робот стать субъектом права и кто будет отвечать за робота, случайно убившего человека? Необходимо будет определиться, какого пола роботы, могут ли они голосовать, но главное – как поступить машине, если при просчетах любое из ее действий приведет к гибели людей? Через 30-40 лет роботов наделят эмоциями и человеческими качествами, их антропоморфность может стать причиной раскола общества. Люди не захотят делиться своими правами с машинами и признавать их равными.

Беспилотные автомобили могут ездить по городу и не врезаться в другие машины. Человекоподобные роботы прыгают, бегают и играют в мяч, а суперкомпьютер Deep Blue давно обыграл Гарри Каспарова в шахматы. Но это еще не все: машины рисуют картины, а повесть, написанная роботом, вышла в финал японского литературного конкурса Хоси Синъити.

Недавнее открытие повергло ученых в замешательство: машины умеют лгать. Это подтвердил эксперимент, в котором участвовали роботы. Машины, разделенные на группы, должны были собирать ценный ресурс среди камней. Когда робот находил ресурс, у него загоралась лампочка. После каждого эксперимента геномы (защитные коды) роботов, справившихся с задачей, скрещивали, имитируя эволюцию. К 500-му поколению 60% машин перестали мигать лампочкой во время обнаружения ресурса, оставляя его себе. Позже в ответ на это 1/3 роботов начала выслеживать «лжецов».

«Дыры» в системе безопасности военных роботов могут стать причиной их нецелевого использования. Отдельные хакеры или террористические группировки могут подчинить машины и использовать робототехнику в своих целях.

По мнению ученых, точка невозврата для человечества – зарождение творческого мышления и автономная возможность машины думать. Трансформация контролируемого ИИ в высший разум произойдет в один миг. К этому времени человек самостоятельно обеспечит программам доступ к финансовым рынкам, экономике и сфере производства.

Разработки в сфере ИИ, с одной стороны, и в сфере гаджетизации - с другой, приведут к объединению человека и искусственного интеллекта. Подобной мысли придерживается Рэй Курцвейл – директор Google, точность прогнозов которого достигает 86%. Курцвейл не разделяет сценария захвата человечества машинами, полагая, что ИИ – возможность человека стать лучше.

Достижения в области наномолекулярных технологий позволят заменять поврежденные участки мозга наноматериалами. Человеческая память увеличится в тысячу раз. Люди смогут силой мысли выходить в интернет и совершать телефонные звонки.

Ученые уже успешно вживляют компьютеры в мозг людям с Паркинсонизмом. Американские исследователи пошли еще дальше – они вставили в человеческий мозг чип, способный передавать информацию с мозга сразу на жесткий диск.

Так считает Клара Лу – сотрудница компании ViSenze, занимающейся разработкой «умного» интернет-поисковика.

Свое мнение исследовательница подкрепляет несколькими аргументами:

1. Супермашина должна превосходить человеческий разум во всех областях. Сегодняшние ИИ способны решать лишь узкоспециализированные задачи.
2. Создание сверхразума, подражающего человеку, подразумевает глубокое познание особенностей человеческого мышления и сознания. Знаний в этих сферах у ученых недостаточно.
3. Мозг человека слишком сложен для технологического воспроизведения. Он состоит из 100 млрд нейронов. Если вытянуть их в цепочку, удастся 7 раз слетать на Луну, или 68 раз облететь вокруг Земли.

Революционные достижения медицины позволили продлить человеческую жизнь на 40%. Сегодняшние смартфоны в десятки раз мощнее компьютеров 70-х годов и в тысячу раз дешевле. Хранение информации «на облаке», системы распознавания речи, беспилотные летательные аппараты, 3D принтеры, умные часы и сенсорные датчики – искусственный интеллект уже среди людей. Но наибольшее распространение ИИ получил в игровой индустрии: он разрабатывает тысячи игровых сценариев и прописывает движения врагов игрока.

Программное обеспечение Siri от Apple успешно имитирует поведение человека и поддерживает беседу. В Японии существует отель, где весь персонал состоит из роботов, а в Австралии доставку пиццы осуществляет робот-разносчик.

Ученые из Калифорнийского университета создали чип, являющийся мини-лабораторией по диагностике раковых опухолей. При исследовании биоматериала больше не нужно использовать пробирки и специальную аппаратуру. Образец крови обследуется на миниатюрном чипе, который быстрее и с более высокой точностью сообщает результат анализа. Сотрудники Университета Вандербильта заявили о создании устройства, которое расширяет границы исследований в области мозга. Технология позволит определять на ранней стадии болезнь Альцгеймера и бороться с шизофренией.

При помощи системы НipNav медики создали трехмерную модель внутренних органов пациента и научились руководить процессом вставки протеза в тазобедренный сустав. Высокотехнологичные протезы позволят людям-инвалидам стать мобильными. Пример - программист Зак Ваутер, который после операции на ноге отправился покорять небоскреб.

Компьютеру, обладающему самосознанием, для порабощения человечества необходимо будет подчинить себе производственные предприятия, разработать модели роботов, найти ресурсы и орудия труда для их создания.

Аппарат Nasa Grover занимается изучением льда в Гренландии. Источником питания робота служит солнечная батарея, расположенная на поверхности агрегата.

Количество фотографий, присланных марсоходом Opportunity с поверхности Марса, невозможно сосчитать. На протяжении 12 лет робот присылает на Землю данные с Красной планеты. Opportunity расширил представления ученых о структуре атмосферы Марса, провел исследования камней и почвы. Прорывом стала находка камня Esperance 6, который несколько миллиардов лет назад находился в потоке пресной воды.

Медицинские программы постановки диагноза на основе симптоматики и аналитических данных по своей эффективности приравниваются к консультации опытного врача. Внедрение роботов в микрохирургию и хирургию позволит проводить операции с большей точностью.

Машины заменят людей на вредных производствах. Человеку больше не придется находиться в местности, зараженной радиацией, или вести добычу ископаемых в труднодоступных местах. Человечество сможет отправлять робототехнику в отдаленные уголки космоса, доказывать теоремы и проводить теоретические научные исследования, обрабатывать статистические данные.

Технологии продлят жизнь человека до 120-200 лет. Исследования в биомедицине вскоре позволят понять причину старения и замедлить процессы деструкции, происходящие в организме.

Разработка российских ученых определяет, каков биологический возраст человека и насколько вероятно наступление его преждевременной смерти. В МФТИ и биотехнологическом стартапе (резидент Сколково) создана программа, которая без анализов выясняет, каким рискам подвергается организм участника. Для этого берутся показатели фитнес-трекера, записывающего данные, получаемые в процессе движения. Уже создана бета-версия мобильного приложения для смартфонов, которой может воспользоваться каждый, кто следит за своим здоровьем.