30-11-2015 21:08

Готово ли человечество к революции технологий?

Сегодня наука шагнула так далеко, что позволяет не только изучать, а и менять природу человека.

Свершающаяся на наших глазах технологическая революция сможет положить конец болезням, невероятно расширить спектр человеческих возможностей и заметно продлить продолжительность жизни. Но в то же время в мире появляются люди, обладающих огромной властью, становится все больше государств, не принимающих общие ценности и принципы. Где гарантии того, что сверхновые технологии не станут смертоносным оружием в их руках?

Создание машины уровня человека станет либо самым лучшим, либо самым худшим моментом в истории человечества. Поэтому человек должен создавать не просто нейтральную умную машину, а благонамеренный интеллект. Так Стивен Хокинг в очередной о рисках, кроющихся в работе по созданию искусственного интеллекта (ИИ). 

Об этой же проблеме также пишет автор книги «Будущее: рассекречено» Мэтью Барроуз, который десять лет работал над отчетом «Глобальные тенденции» — футурологическим материалом для Белого дома и Министерства обороны США.

Это исследование о самых важных трендах, определяющих, каким будет мир через 15 лет.

Вот как выглядит эта проблема его глазами.

Впервые ощущение, что грядет что-то совершенно новое, посетило меня, когда я отправился на конференцию послушать презентацию врача из клиники Джона Хопкинса, пишет Барроуз. Речь шла об имплантах и протезировании солдат с ампутациями и парализованными конечностями.

Имплантированный в мозг микрочип используется для управления роботизированной рукой. Имплант принимает сигналы мозга пациента, расшифровывает их и через кабельное соединение двигает роботизированной рукой. В будущем ученые надеются, что это соединение станет беспроводным.

К слову, в сентябре роботизированная рука-протез, которая управляется мысленно и позволяет осязать предметы, передавая сигналы в моз, была презентована на конференции Defense Advanced Research Project Agency (DARPA) группой ученых под названием Revolutionizing Prosthetics.

Прогресс в сфере восстановления потерянного зрения нынче тоже шагнул далеко вперед.

Ученые работают над созданием мозгового импланта, соединенного с прибором, похожим на солнечные очки. Очки передают информацию через компьютерный чип напрямую в мозг, чтобы у человека появилось ощущение, будто он действительно что-то видит.

На экспериментальной стадии это уже работает.

Экзоскелеты – еще одно изобретение, расширяющее физические возможности. При помощи такой системы солдаты могут переносить грузы весом до 100 кг. По сообщениям в прессе, компания Lockheed Martin испытывает модель, которая сможет обеспечить 72 часа бесперебойной работы. И когда технология производства аккумуляторов шагнет вперед, ограниченное количество электроэнергии перестанет быть сдерживающим фактором.

Успешные разработки в области протезирования, возможно, будут напрямую интегрированы в человеческое тело. А мозговые компьютерные интерфейсы не только увеличат силу и скорость человека, а также позволят выполнять ранее недоступные функции. Например, будущие импланты в сетчатку глаза дадут возможность видеть ночью, а неврологические усовершенствования могли бы снабдить человека лучшей памятью или скоростью мысли.

Системы дополненной реальности – например, те, что повышают интеллект или улучшают способность видеть в темноте, – могут существенно расширить умственные или физические возможности и скорость.

Стоит ли говорить, как в таких возможностях заинтересованы военные!

Для расширения человеческих возможностей продвинутая робототехника будет так же важна. Одна из самых трудных задач – сделать робота ближе к человеку.

Но разработчики в Кремниевой долине постоянно расширяют возможности механизмов, и грань между промышленными и непромышленными роботами стирается.
Бакстер – первый пример такого устройства. Он создан бостонской компанией Rethink Robotics – стартапом, основанным Родни Бруксом. Бакстер был представлен общественности в сентябре 2012 года. Вместо того чтобы приводить в движение руку, как обычно бывает у промышленных роботов, мотор приводит в движение пружину, а та – руку. Рука может чувствовать, когда она натыкается на что-то, и останавливаться.

Необходимо существенное развитие технологий, но многие составляющие революционных футуристических систем будут готовы уже в ближайшие пару десятилетий.

Роботы в сфере здравоохранения станут особенно важны. Уже сейчас они выполняют некоторые специальные задачи в больницах. Например, система da Vinci. Она состоит из пульта хирурга и платформы с четырьмя интерактивными роботизированными руками, контролируемыми с пульта. Система измеряет, фильтрует и переводит движения руки хирурга в более точные микродвижения инструментов, работающих внутри тела через маленькие надрезы. Роботы da Vinci работают в нескольких тысячах клиник по всему миру, в 2012 г. ими было проведено 200 тыс. операций.

Переход к безоператорной системе, несомненно, ускорится. Возможно, в будущем войны будут вестись автономными солдатами-роботами, беспилотными наземными транспортными средствами и летательными аппаратами с очень небольшим участием человека.

Такой сценарий вызывает достаточные опасения, чтобы ООН и Human Rights Watch призывали к запрету роботов-убийц.

Как технологии меняют армию

Расширение возможностей человека – не единственная сфера, где мы бросаем вызов своей природе. Нам предстоят научные и технологические прорывы в сфере увеличения продолжительности жизни человека.

Биотехнологическая революция – великое событие, которое уже происходит и будет иметь масштабные последствия для всех нас.

Стоимость секвенирования генома (его расшифровки) – существенно снизилась. Первое секвенирование генома человека в 2003 г. стоило больше 1 млрд долларов, затем цена упала до 100 млн, а теперь она составляет около 1000 долларов за полную персональную последовательность. Ожидается дальнейшее снижение цены до 200 долларов.

В McKinsey Global Institute убеждены, что не за горами времена настольных устройств для секвенирования генов. Не исключено, что в будущем это станет частью стандартной диагностической процедуры врача.

А прогресс в регенеративной медицине, безусловно, не отстанет от успехов в области диагностики и лечебных протоколов. Например, замены таких органов, как почки и печень, могут стать стандартными процедурами в ближайшие несколько десятилетий. Аддитивная технология, или 3D-печать, уже сейчас делает внушительные шаги в области биопрототипирования артерий, тканей и простых органов из собственных тканей пациента. А в следующие 10 лет или около того станет возможно создавать и более сложные человеческие органы.

Учитывая ошеломляющий прогресс и скорость, с которой в биотехнологиях и медицине происходят прорыв за прорывом, эти новые технологии продолжат отодвигать границу продолжительности жизни, меняя демографический профиль многих стран в сторону более пожилого, но предположительно и более здорового населения.

Но в этой сфере важно зафиксировать четкие принципы работы, гарантирующие защиту личной информации. Сегодня мы все опасаемся, что кто-то может получить доступ к нашим счетам и поставить под угрозу наши сбережения. А теперь представьте, что на карту поставлена ваша медицинская информация.

Кибербезопасность будет все чаще вызывать опасения по мере того, как все больше информации о ДНК отдельных людей будет загружаться в компьютеры и вноситься в базы данных.

И мы не знаем, к чему все это приведет - в области новых технологий, призванных изменить саму природу человека, есть пара существенных оговорок, о которых нам стоит побеспокоиться прежде, чем будет слишком поздно.

Во-первых, необходимо не допустить того, чтобы внедрение этих технологий положило начало новому измерению неравенства. Скоро родители смогут выбирать, какими именно качествами должно обладать их потомство.

«Очень может быть, что в развитых странах лет через 20–40 большинство детей будет зачинаться в пробирке, и родители смогут выбирать из нескольких эмбрионов. Так родители сами или кто-то еще смогут выбирать из ограниченного числа эмбрионов с комбинацией генов, которую они больше всего хотят видеть в своих детях. Так и будет», – уверен Хэнк Грили, профессор юридического факультета Стэнфорда и директор университетского Центра права и биологических наук.

Проблема в том, что, по крайней мере поначалу, не все родители смогут позволить себе эту процедуру.

Преимущество получат богатые родители?

Кроме того, последствия возможности манипулировать ДНК откроют дверь для создания особенно коварных и живучих вирусов. Кроме того, прогресс в области синтетической биологии вполне может стать основой смертоносного оружия, доступного биологам-дилетантам или биохакерам.

Прогресс, открывающий новые возможности в медицине, сельском хозяйстве и энергетике, одновременно повышает риск «биотеррора», который может привести к распространению смертельно опасных вирусов или разработке биологического оружия на основе технологий двойного действия. Все это приобретает актуальность по мере того, как технологии становятся все более доступными в мировом масштабе. В результате сложнее отслеживать, регулировать или ослаблять биотеррор, а может, и фатальные биологические ошибки.

Мы также рискуем перейти грань и потерять контроль над большими данными.

Большие данные и алгоритмы, позволяющие выделить ценную информацию, все важнее для функционирования наших экономик. Устройств, подключенных к интернету, будет становиться все больше. По некоторым оценкам, сейчас их число составляет более 15 млрд.
Возможен резкий скачок эффективности.

Сегодня розничные сети собирают информацию о своих покупателях – их привычках, кредитах, истории поиска в интернете, сообщениях в социальных сетях, демографической информации. Вскоре городские власти могут комбинировать информацию с датчиков и размещенных в разных местах камер, чтобы лучше понимать поведение жителей, их потребность в транспорте, а также требования к городской инфраструктуре в целом. На этом список сфер использования больших данных и интернета не заканчивается.

Но чем дальше, тем больше решений будут принимать и сами компьютеры. И именно здесь нам необходимо ввести меры безопасности на случай сбоя.

В начале 2014 года один из мощнейших суперкомпьютеров в мире – японский K. – создал наиболее точную симуляцию человеческого мозга из когда-либо существовавших. Ему нужно 40 минут на то, чтобы воспроизвести одну секунду человеческой мозговой деятельности. Ученые предполагают, что симуляция работы мозга в полном объеме будет возможна тогда, когда появятся еще более мощные компьютеры. Скорее всего, это произойдет уже  в следующие 10 лет.

Первые исследователи искусственного интеллекта разработали алгоритмы, которые шаг за шагом имитировали ход мысли людей, когда они складывают головоломки или делают логические выводы. Исследования в области ИИ продвинулись вперед в том, что касается имитации мозговой деятельности.

Прогресс в сфере алгоритмов привлек гораздо меньше внимания общественности, чем рост производительности микропроцессоров. При этом скорости процессоров с 1988 по 2003 ускорились в 1000 раз, в то время как работа алгоритмов за этот период улучшилась в 43 тысячи раз.

Например, в октябре Массачусетском технологическом институте был создан искусственный интеллект со сверхинтуицией.

Однако вместе большие данные и алгоритмы могут привести к массированной атаке на личную информацию. Более того, есть огромный потенциал для злоупотребления алгоритмами прогнозирования.

«Уже сегодня страховые компании и комиссии по условно-досрочному освобождению используют прогнозные алгоритмы, чтобы вычислять риски; в США все больше мест, где работа полиции осуществляется на основе прогнозирования, после обработки данных выбираются улицы, группы или отдельные люди, которые становятся объектами более пристального внимания», – рассказал доктор Бэннинг Гаррет.

Результаты анализа алгоритмов основываются на корреляциях, а не причинной зависимости. Однако ложные корреляции могут привести к ошибочной оценке: например, преследование правоохранительными органами невинных граждан на основе предсказанной склонности к совершению преступлений.

Гаррет предупреждает: в реальной жизни существуют исключительные ситуации, и они возникают тогда, когда алгоритмы сталкиваются с непредвиденным сочетанием событий или факторов. А значит, кибербезопасность становится все более важной темой по мере того, как все больше «вещей» подключаются к интернету. С подключением новых устройств появляются новые уязвимые места.

При наличии миллиардов устройств, запрограммированных выполнять разнообразные функции автономно и асинхронно, любой узел может стать вектором атаки на всю систему.


 
Технический директор Google и известный технологический футуролог Рэй Курцвейл, который публикует свои прогнозы с 1990-х годов, в начале этого года выступил с очередной порцией предсказаний. По его оценке, персональные компьютеры достигнут вычислительной мощности сравнимой с человеческим мозгом уже к 2020 году. Массовый рынок гаджетов-имплантантов будет работать уже к 2025 году. А 2029 году компьютер сможет пройти тест Тьюринга, доказав наличие у него разума в человеческом понимании этого слова.

Английский физик-теоретик и человек-легенда Стивен Хокинг также неоднократно предупреждал о том, что компьютеры представляют серьезную угрозу для человечества:

- Я не говорю, что ИИ обязательно восстанет против человека. Дело скорее в компетентности самих ученых, которые будут работать с искусственным интеллектом. Сверхпроизводительный ИИ будет невероятно полезным изобретением для достижения разных задач. Но его цели должны совпадать с нашими, иначе быть беде. Мы ведь, например, не убиваем муравьев намеренно, не топчем их специально. Но если стоит задача построить водохранилище, то придется затопить определенную площадь земли, а вместе с ней и муравейники, и всех муравьев. Так вот, я считаю, что человек должен позаботиться о том, чтобы не оказаться в роли муравьев.