В апрельском номере популярного американского журнала , традиционно ориентированного на освещение самых передовых достижений компьютерных технологий, публикуется весьма тревожная статья Билла Джоя (Bill Joy), шефа по науке компании Sun Microsystems. По сути дела - это сигнал тревоги, заблаговременное предупреждение о том, что бездумный научный прогресс может ввергнуть человечество в кошмар такого мира, где сверхумные машины способны довести человечество до полного вымирания.

Главный ученый компании Sun Microsystems Билл Джой призывает создателей новых технологий притормозить, одуматься и пересмотреть утвердившуюся этику погони за постоянными научными инновациями. По убеждению Джоя, микрокомпьютеры и генетический инжиниринг способны создать чрезвычайно реальную угрозу как человечеству, так и экосистеме планеты в целом.

"Мы врываемся в новый век безо всякого плана, без рычагов управления, без тормозов", - пишет Джой. - "И очень быстро приближается та точка, где у нас останется последний шанс для установления такого контроля".

Эмоциональная статья Джоя - это один из крайне редких призывов-предупреждений, звучащих непосредственно из недр той самой индустрии, что бурно процветает именно благодаря постоянному напору новаций и часто рождающихся "незапланированных" достижений. Именно эти атрибуты и обеспечили экспансию "новой экономики", самым тесным образом повязанной со стремительным технологическим прогрессом.

Наибольшую тревогу и озабоченность у читателей, знакомящихся с выступлением Джоя, должен вызывать тот факт, что автор - несомненный авторитет в своей области. 44-летний главный ученый Sun Microsystems Inc., Билл Джой является одним из основателей этой компании и членом ее исполнительного комитета. В 70-е годы, работая в университете Беркли, Джой был главным разработчиком операционной системы UNIX BSD (первая версия ОС с открытым исходным кодом). С 1982 года, присоединившись к Sun, Джой возглавлял разработку философии открытых систем и создание сетевой файловой системы NFS, был одним из ведущих разработчиков микропроцессорных архитектур SPARC и UltraSparc, являлся соавтором языка программирования Java. В 1997 году Джой назначен Биллом Клинтоном в качестве сопредседателя Президентского консультативного комитета по информационным технологиям.

Нынешние же тревожные думы Джоя сфокусированы главным образом на трех технологических областях, переживающих в настоящее время период стремительного роста и перемен.

Первая область - робототехника, включающая в себя разработку "думающих" компьютеров. Согласно прогнозам, через тридцать лет компьютеры станут в миллион раз мощнее нынешних. По мнению Джоя, такой потенциал уже закладывает основание для самостоятельного "вида роботов" или разумных машин, способных создавать собственные усовершенствованные копии.

Вторая область - генетика, обеспечивающая научные прорывы в манипуляциях самими основами структуры биологической жизни. Хотя, как отмечает Джой, эта технология и приводит к таким достижением как, например, стойкие к вредителям зерновые, но она же готовит почву и для таких творимых человеком напастей, которые способны в буквальном смысле стереть с лица земли естественную природу.

Третья область - нанотехнология, занимающаяся созданием объектов на уровне манипуляции отдельными атомами. Уже не так далек день, когда нанотехнология позволит создавать умные машины микроскопически малых размеров.

Все эти три технологии обладают одной общей чертой, которая ранее отсутствовала в прочих смертельно опасных человеческих изобретениях типа атомной бомбы. Новые технологии способны сами себя воспроизводить, порождая каскадный эффект, что дает им возможность наводнять физический мир точно таким же образом, как вирусы распространяются в компьютерном мире.

Как говорит Джой, "большая часть моей работы за последние 25 лет была связана с компьютерными сетями, где отправка и получение сообщений порождают возможности для выходящих из-под контроля репликаций. Но в компьютерах подобные самовоспроизведения могут становиться лишь досадными помехами, в худшем случае выводя из строя машину, "опуская" сеть или сетевую службу. В этих же новых технологиях бесконтрольные саморепликации представляют намного более значительный риск. Риск ощутимых повреждений в физическом мире".

"Это не преувеличение, говорить, что мы сейчас находимся в самых первых рядах тех, кто доводит до совершенства высочайшее зло", - пишет Джой. "Такое зло, возможности которого распространяются далеко за пределы оружия массового уничтожения, и которое способно самым ужасающим образом усиливать отдельных экстремистов".

Как говорит Джой, столь мрачные видения потенциальных угроз, несомых человеку развивающимися технологиями, привели его к пересмотру своего собственного вклада в данную область.

"Разрабатывая программное обеспечение и микропроцессоры, я никогда не ощущал, что создаю разумную машину, - пишет Джой. - Программное и аппаратное обеспечение настолько хрупки, а возможности машин "думать" пока столь очевидно несущественны, что даже как потенциальная возможность это всегда представлялось очень отдаленным будущим. Но теперь, когда отчетливо вырисовывается перспектива примерно за 30 лет нарастить компьютерные мощности до человеческого уровня, сама собой вырисовывается новая идея : может статься, что я работаю над созданием инструментария, с помощью которого появится технология, способная заменить наш вид... Как я себя ощущаю в связи с этим? Крайне неуютно. Мне, положившему всю свою карьеру на создание максимально надежного программного обеспечения, представляется более чем вероятным, что будущее может оказаться не столь радужным, как представляется некоторым людям. Мой личный опыт дает основания полагать, что мы, похоже, переоцениваем свои конструкторские способности".

"Я всегда верил, что делая программное обеспечение более надежным, более широко применимым, мы сделаем мир более безопасным местом, - пишет Джой. - Если бы мне пришлось убедиться в обратном, то морально я обязан был бы прекратить эту работу. Сейчас я способен представить, что подобный день может настать".

Конечно, столь невеселые размышления Джоя пронизаны светом надежды, когда он говорит, что усилия человечества по установлению контроля за ядерным и биологическим оружием свидетельствуют о достаточной силе инстинкта самосохранения. Поэтому Джой призывает к разворачиванию более широкого диалога относительно тех последствий, что несут человечеству новые технологические достижения. В частности, по мнению Джоя, эти проблемы необходимо включить в программу ежегодных Пагуошских конференций, начинавшихся в 1957 году как форум ученых для обсуждения тех угроз, что несут людям ядерные вооружения.

"Опыт ученых-ядерщиков отчетливо показывает, насколько необходимо брать на себя личную ответственность. Опасность в том, что вещи развиваются слишком быстро и в таком направлении, когда этот процесс угрожает самой жизни", - пишет Джой. "Как и они, мы способны почти в мгновение ока породить непреодолимые проблемы. Мы обязаны больше думать заранее, если не собираемся подобно им поразиться и ужаснуться последствиям своих изобретений"...