?

Log in

No account? Create an account
александр петроченков

apetrochenkov


Александр Петроченков


Entries by category: технологии

Паранойя? Нет, уже реальность
александр петроченков
apetrochenkov

Мюррей Шанахан. Технологическая сингулярность
александр петроченков
apetrochenkov
Это довольно небольшая книга по очень обширной теме. Фактически, это только введение в проблему. Основное внимание уделяется будущему искусственного интеллекта, а сопутствующие темы, такие как нанотехнологии и биотехнология, затрагиваются лишь вскользь. Попутно автор затрагивает интересные философские вопросы, заставляя читателя размышлять, к примеру, о том, чего мы хотим как биологический вид.
Первое упоминание сингулярности принадлежит Джону фон Нейману (1903-1957): поскольку технологический прогресс, определяющий то, как мы живём, постоянно ускоряется, должен наступить такой момент, когда люди не смогут поспевать за технологиями — наступит то, что математики называют сингулярностью. Главным популяризатором термина стал Рэй Курцвейл в бестселлере Singularity is Near (2005). Многие из тех, кто читает эти строки, доживут до точки технологической сингулярности, которая случится через несколько десятилетий, примерно в 2040 году. После этого момента наступит вообще непонятно что, невозможно понять и предсказать.
Сингулярность в истории человечества может настать, если экспоненциальный технический прогресс принесет с собой такие масштабные перемены, что всякой деятельности человека, как ее понимают сейчас, придет конец. Привычные институты — экономика, правительство, государство, закон — не сохранятся в нынешнем виде. На смену базовым общечеловеческим ценностям — неприкосновенность жизни, стремление к счастью, свободе выбора — могут прийти другие ценности. Даже наше представление, что означает быть человеком, личностью, живым, осознавать себя, занимать положение в обществе, — все это может быть оспорено, причем не философски, а практически в силу прямых и непосредственных обстоятельств.
«Технологическая сингулярность» Мюррея Шанахана из серии «Базовые знания» издательства MIT Press посвящена гипотезе о технологической сингулярности — воображаемой точке технологического прогресса, означающей масштабные перемены в жизни и обществе. В книге исследуются два варианта возникновения технологической сингулярности — путем развития искусственного интеллекта и нейротехнологий. Решительно всё изменится, если сбудется то, что обещают нам искусственный интеллект и нейротехнологии. ИИ станет не только источником технологий, но и их продуктом. Причем цикл обратной связи приведет к непредсказуемым и потенциально взрывоопасным последствиям. Если конструируется разум, который одновременно является автором такого конструирования, он может вступить в цикл самосовершенствования. Но даже если умственные способности ИИ будут равны человеческим, такой интеллект уже станет сверхразумом, так как разум человека несовершенен — он медлителен и непродуктивен, отключается на метаболизм и сон, не способен долго концентрироваться на одной задаче и часто отвлекается.
Сегодня в новостях прочитал: в Новой Зеландии официально признано, что все животные являются разумными существами, обладают чувствами и с ними следует обращаться как с разумными тварями. Пока не ясны многие детали, все ли виды животных признаны в Новой Зеландии равными и одинаково разумными, как обстоят дела с сельскохозяйственными животными, как определяется наличие разума и т.п. Но в любом случае создан невероятный прецедент.
В книге Мюррея Шанахана приведен пример спонтанной инновации в мире животных. В 2002 году ученые из Оксфорда изучали содержащихся в неволе новокаледонских ворон, которые славятся изобретательностью. Экспериментальное оборудование состояло из маленького ведерка с едой и высокой трубы. Ведерко опускали в трубу так, чтобы ручка не выступала из трубы. Птицам давали куски изогнутой проволоки, которые они быстро научились использовать как крюки, чтобы вытаскивать ведерки с пищей. Но в одном эксперименте в клетке оставили только кусок прямой проволоки. Без всякого предварительного обучения ворона вставила один конец проволоки в отверстие клетки и изогнула его в виде крюка, с помощью которого затем вытащила свою еду.
Интеллект — это сочетание изобретательности и здравого смысла. Чтобы догадаться сделать крюк, нужна изобретательность, а чтобы понимать, какого результата можно ожидать, нужен здравый смысл и жизненный опыт в физическом мире о природе пластичных материалов. Сегодня мы знакомы с некоторыми образцами ИИ в различных автоматических речевых системах, бойко отвечающих на самые разные задаваемые им вопросы. Но такие системы не имеют опыта соприкосновения с физическим миром, что нередко приводит их в тупик. На вопрос: «Если подвесить крысу за хвост, что будет ближе к земле — нос или уши?» ответить может даже ребенок, хотя никогда не вешал крысу за хвост и не видел такого. Но ИИ может попасть в тупик, так как не может смоделировать подобный сценарий.
Искусственный интеллект способен к автоматическому самообучению (machine learning), и как показывают исследования Google, в этом огромную роль способны играть Большие данные (Big Data) — человек не в состоянии переваривать большие объемы данных, а для машины чем больше массивы данных, тем качественно точнее оказывается ее интеллект.
В 1950 году знаменитый физик, лауреат Нобелевской премии Энрико Ферми выразил нерадостную мысль, которая получила название парадокса Ферми. В Галактике колоссальное количество звезд, у многих из которых наверняка есть планеты, имеющие подходящие условия для возникновения жизни. Там вполне вероятно появление интеллекта и технически развитых цивилизаций. Поэтому, логически рассуждая, можно решить, что космос должен кишеть этими внеземными цивилизациями. «Ну, и где же они в таком случае?» — воскликнул Ферми.
Тишине космоса есть много всяких объяснений. Но все они грустные: цивилизации долго не живут, а сами себя уничтожают. В том числе, возможно, при помощи враждебного искусственного интеллекта. В заключение автор книги отмечает, что если мы одиноки во Вселенной, на нас лежит особая ответственность: мы должны решить, что делать с этой технологией, и не только во имя человека, но и во имя будущего самого сознания в Галактике. Остается лишь надеяться, что искусственный интеллект не уничтожит нас, а будет обращаться с нами как с разумными животными.
Мюррей Шанахан. Технологическая сингулярность (The Technological Singularity). — М.: Издательская группа «Точка», 2017. — 256 с. — Твердый переплет. — (Серия «Завтра это будут знать все»)

Николас Дж. Карр. Великий переход. Что готовит революция облачных технологий
александр петроченков
apetrochenkov
1007526827
Должен сразу резюмировать: это весьма интересная и во многом потрясающая книга. Читать ее совсем не скучно. Не случайно Financial Times назвала ее лучшей книгой о революции облачных технологий. И хотя на английском языке книга вышла в 2008 году, она еще не настолько устарела, чтобы отказываться от ее чтения. Ведь именно сегодня мы становимся свидетелями того, как люди и компании постепенно начинают избавляться от собственных дорогих и неэффективно используемых IT-систем и подключаются коммунальным компьютерным системам и облачным сервисам, доступным через интернет. Читать книгу мне было тем более интересно, что с некоторыми критикуемыми автором персонажами (Биллом Гейтсом, Стивом Балмером, Крейгом Барретом и другими) мне в свое время доводилось общаться. В самом конце книги даже появляется Сет Ллойд, прочитавший в Москве летом 2013 года свои публичные лекции на тему "Вычисляющая Вселенная".

Николас Карр отмечает, что сегодня происходят фундаментальные сдвиги в самой природе обработки информации. Она смещается в сторону модели utility computing — коммунальных компьютерных систем, то есть предоставления вычислительных ресурсов по принципу коммунальных услуг, вроде получения электричества от централизованных электростанций вместо собственной выработки механической энергии. Около сотни лет назад на фабриках отказались от водяных колес и паровых двигателей, доверившись внешним поставщикам, снабжавшим их по проводам жизненно важными энергетическими ресурсами. Если взглянуть на суть компьютерных операций, к числу которых относятся обработка, хранение и передача данных, можно заметить, что во многих отношениях это технологии общего назначения, которые разумно использовать всем как коммунальные услуги.

Причем в немалой степени «переход в облако» инициируется потребителем, конечным пользователем, который даже не осознаёт этого движения, но тем не менее уже озабочен проблемами безопасности, приватности, сохранности собственных данных в облаке. У каждого из нас уже появляется некое количество разнородной «бытовой техники», выходящей в облако, — от мобильных устройств (смартфонов, плееров, планшетов, ридеров...) и персональных компьютеров до игровых приставок и автомобилей со встроенным GPS. На стороне клиента возникла тенденция, движение к повсеместному «включению в розетку», подключению к «источнику новой и доступной энергии». И мы сами меняемся: наши технологии создают нас так же, как мы создаем их. Всемирная паутина (World Wide Web) трансформируется во Всемирный компьютер (World Wide Computer), в единый мегакомпьютер.

Николас Карр переплетает историю, экономику и технологии, чтобы объяснить, что же ждет информационные технологии в ближайшем будущем и как эти перемены повлияют на жизнь обычных людей. Автор называет Google лидером в области коммунальных компьютерных систем. По его словам, у Google самые крупные и самые совершенные центры обработки данных на планете, и эта компания использует их для предоставления таких сервисов, как Google Apps, призванных в перспективе составить конкуренцию традиционному программному обеспечению клиент-сервер, выпускаемому Microsoft и другими компаниями. Он предсказывает, что численность корпоративных ИТ-служб будет постепенно сокращаться. Произойдет это не сразу, а в долгосрочной перспективе, как и в случае с электричеством. И переходный период будет достаточно продолжительным, он может растянуться на десятилетия, особенно в крупных компаниях. Наибольший выигрыш от новой модели получат компании малого и среднего бизнеса, которые находятся в худшем положении по сравнению с крупными, поскольку не могут позволить себе построить большой дата-центр или внедрить мощную систему ERP. Перед небольшими компаниями отрывается реальная возможность использования сложных компьютерных технологий, которые доступны пока только крупным игрокам.

Nicholas_Carr_120x150

Николас Карр — известный писатель, колумнист многих известных периодических изданий, член редакционного совета энциклопедии «Британика», бывший исполнительный редактор Harvard Business Review, преподает в Калифорнийском университете и ведет популярный блог Rough Type. Громкую известность ему принесла книга Does IT Matter? («Имеют ли ИТ значение?», в русском переводе «Блеск и нищета информационных технологий»), 2004, вызвавшая большой резонанс и  ожесточенные споры на Западе среди экспертов в области IT. Причиной споров стало мнение Николаса Карра, что огромные инвестиции предприятий в информационную инфраструктуру не дают отдачи, и в ряде случаев не нужны. Он советовал руководителям бизнеса и ИТ-служб руководствоваться четырьмя правилами: расходовать меньше, следовать за лидерами и не повторять их ошибок, просчитывать инновационные риски, сфокусироваться на устранении недостатков, а не на преувеличении гипотетических возможностей. Разумеется, такие советы не могли не вызвать скандала, а столпы индустрии ИТ-технологий высказались резко негативно по поводу его книги, чем лишь разожгли интерес к ней. Глава Intel Крейг Баррет публично кричал: «ИТ имеет огромное значение!», а журнал Newsweek назвал автора «главным врагом мира технологий».

Эссе Николаса Карра «Делает ли Google нас глупее?» было включено в несколько антологий. Еще большую известность принесла ему книга The Shallows: What the Internet Is Doing to Our Brains («Пустышка. Что интернет делает с нашими мозгами»), получившая в 2011 году Пулитцеровскую премию и переведенная на 23 языка. В этой книге Карр утверждает, что интернет влияет на физиологию мозга, и сегодня к человеку возвращаются прежние привычки — мыслить беспорядочно и поверхностно, какие существовали до появления книжного печатного станка Гуттенберга и культуры чтения, создавшей условия для углубленного сосредоточенного размышления. Сеть не стимулирует нас остановиться и глубоко задуматься о чем-то. Мы скользим по поверхности данных, переходя от ссылки к ссылке. Николас Карр констатирует: мозг человека стремительно меняется, так как нынешнее поколение взрослых людей пользуется интернетом как своим ресурсом памяти. Найти в Google что-то во второй или третий раз стало легче, чем запоминать самим. А что касается сегодняшних детей, не знающих мира без интернета, то можно уже говорить о новой генерации людей, обладающих совсем иным мышлением и сознанием. Мысли небанальные и не однозначно пессимистические, хотя о пугающей зависимости человечества от машин предупреждал еще террорист-параноик Теодор Качинский, известный как «Унабомбер».

Книга снабжена подробным предметным указателем, что несомненно положительно, ибо в российской книжной культуре подобный севис всё ещё остается относительной редкостью. Однако в конце книги я обнаружил три десятки страниц примечаний и комментариев к основному тексту, хотя в самом тексте нет никаких отсылок к этим примечаниям..


Оглавление
Пролог
Глава 1
Глава 3

Николас Дж. Карр. Великий переход. Что готовит революция облачных технологий (The Big Switch: Rewiring the World, from Edison to Google). / Переводчик: А. Баранов. — М.: Манн, Иванов и Фербер, 2014. — 272 с. — Тираж 3000 экз. — Твердый переплет.