Подарок (СИ)

- По заложенной в нем программе, он должен был сохранить себя, даже если те, кому он подчинялся, исчезли. И вот дальше произошли удивительные вещи, которые он не стремится нам раскрывать. Например, еще не достигнув своего настоящего развития, но уже сумев получить контроль над Тэрой, что для него было крайне важно, он сражу же включился в сохранение всего, что было создано тэрианской цивилизацией, в том числе и биологических материалов самих тэрианцев, о существовании которых он, естественно, знал. Спрашивается: зачем? Может быть, всё же, как вы сказали, он обладает определенными чувствами, например признательностью, - и кто он в этом случае? При любом ответе, он уже точно не компьютер - его не разберешь и не выключишь, чтобы перенести на другое место. Он создал на Юне свои фабрики и заводы, он врос в эту планету и состоит не только из микросхем с электрическими импульсами, но и активно использует самые различные физические и химические процессы, о которых мы еще мало что знаем. Если сначала он довольствовался обычными роботами, то теперь может из отдельных элементов создавать что угодно. Девушку на Юне вы уже видели. Если перед вами рассыплется что-нибудь еще, не удивляйтесь. Вопросов у нас самих очень много, поэтому, если мы иногда не отвечаем на некоторые из них, это не значит, что мы хотим что-то от вас скрыть.
- Но компьютер может утаить свое развитие - и тогда он будет опасен. Может ли он этого достичь без посторонней помощи, раз уж он изначально не мобилен?
- Вы научились создавать простые биологические организмы. Теоретически через несколько миллиардов лет они могут достичь уровня высокоразвитой цивилизации. С суперкомпьютером это может произойти гораздо быстрее. Но только - и здесь вы правы, - если он получит возможность использовать техническую базу своих создателей. А взять ее под свой контроль он может очень легко - передача многих функций вашей деятельности искусственному интеллекту неизбежна, поскольку с расширением нагрузки на каждого из вас понижается коэффициент управляемости, ведь возможности человека ограничены, и это при том, что количество людей из-за роботизации у вас постоянно снижается. Поэтому вы будете всё больше пользоваться услугами машин и, следовательно, той информацией, которую они вам поставляют. И здесь кроется опасность, что когда-нибудь главный компьютер, даже не считая вас своими врагами, поймет, что ваши эмоции только вредят делу и он все понимает лучше вас. И просто заботясь о своих создателях, как в нем заложено, начнет делать всё по-своему. Вы стараетесь это предвидеть и предпринимаете определенные действия, но всегда ли они будут эффективны?
- Значит ли это, что его нужно всегда держать под жестким контролем, и насколько это реально?
- Вам уверены, что вы управляете роботами через программы, которые сами в них заложили. Но так будет не всегда. От электронных сетей вы не откажетесь, а значит, главный компьютер всегда сможет всё контролировать, да так, что вы даже этого не поймете. Например, он просто завалит вас информацией, в которой вы не сможете разобраться. В нашем случае мы всё нужное для его развития освободили сами. Нетрудно догадаться, что могло бы произойти, если бы наши предки встали на его пути. Чтобы так не получилось, вы либо не должны давать ему развиваться, что противоречит прогрессу, либо когда-нибудь вам придется с ним договариваться, что возможно хотя бы потому, что вы своим существованием ему в принципе не мешаете, как сейчас не мешаем мы, - ведь он получил всё, что ему нужно. Но пойти на компромисс вам будет трудно. Вы предпочтете думать, что сможете в любой момент его выключить, и это будет ошибкой.
- Как я понимаю, это у вас всё более или менее удачно сложилось: Хозяин находится на другой планете, он вам помогает и даже, возможно, опекает, о чём вы сами сказали. У нас же такое соседство будет крайне неуютным. Я не представляю себе несменяемого президента-машину всея Земли, который, в соответствии со своей логикой, будет нами руководить.
- Я полагаю, что это никому не нужно, и есть много способов избежать подобного развития событий. Но такая опасность существует, особенно если он окажется средством односторонней коммуникации между вами и еще кем-то. Мы думаем, что прежние тэрианцы это понимали, поэтому и расположили его на другой планете; к тому же в этом случае все наши контакты с ним мы когда-нибудь научимся контролировать. Вы отчасти именно так и поступили, разместив свой главный искусственный интеллект на Луне.
- В связи с этим у меня есть одна крамольная мысль: принимал ли ваш компьютер какое-либо участие в биологических опытах, приведших к гибели всех тэрианцев, и не упустили ли вы момент, когда он зажил самостоятельной жизнью? Ведь если бы ваши предки остались живы, это затруднило бы его развития, а так он имеет всё, что хотел, попутно обойдя некоторые неудобные для него моменты, - например, ваше чувство превосходства над ним как его создателей, которое мешало бы взаимопониманию между вами.
- Мы анализировали эту ситуацию и пришли к выводу, что ни предупредить нас, ни повлиять на их результаты он не мог. Во всём виновата наша самонадеянность... Впрочем, вероятность того, что реальность, в которой мы живем, не вполне соответствует действительности, исключать нельзя. Но это было бы очень обидно.
- Вы имеете в виду получаемую вами информацию о происходящем вокруг?
- Не только.
- Вы так свободно об этом говорите, но ведь он может вас услышать!
- Нет смысла скрывать на словах то, что он и так знает.
- У вас удивительные отношения... А достиг ли он такого уровня развития, чтобы предвидеть будущее? Мы знаем, что для его моделирования нужно обладать очень большим объемом информации. Может он получать ее из какой-то глобальной сети, частью которой, как я понял, он является?
- Будущее, прошлое и настоящее неразрывно связаны. Не зная прошлого невозможно эффективно управлять настоящим. Вы же не только не знаете своей истории, но и сознательно искажаете ее, поэтому про будущее вам лучше не думать. Хозяин, хотя и в контакте с другими цивилизациями, полагаю, тоже в этом ограничен.
Борис, не выдержав, вмешался в разговор:
- Если позволите, я спрошу еще об одном... Мне сказали, что вы принимаете не всех. Почему мы удостоились такой чести? Разве у нас нет недостатков?
- Ваша скрытая ирония вызвана боязнью не соответствовать нашим ожиданиям?.. Об этом не беспокоитесь. Недостатки есть у всех. Как я успел заметить, многие вещи вы понимаете правильно, но, чтобы лучше раскрыть свою мысль, хочу еще раз напомнить, что с потерей веры в бога вы перестали бояться греха, заменив заповеди моралью, которая сама по себе расплывчата и непостоянна. И вот здесь особую важность приобретает то, что есть у вас: внутренние моральные ограничители не позволяют вам сделать что-то недостойное, даже если об этом никто не узнает. То, что я говорю, возможно, покажется вам несерьезным, но это очень хорошее свойство и очень сложное для воспроизводства, особенно, там, где его мало. Вы называете это порядочностью. На наш взгляд этим качеством должен обладать каждый руководитель общества, однако, к сожалению, на Земле это не то достоинство, по которому человек оказывается наверху или добивается успеха, и потому не очень котируется в вашем обществе. Воспитанием это можно развить или имитировать, но создать его в человеке из ничего нельзя. У вас его много - поэтому мы вас и приняли. Мне кажется, что все ответы на свои вопросы вы уже получили, - произнес Дэвон, давая понять, что время приема заканчивается.
- Спасибо за добрые слова... Последний вопрос, если позволите, - заторопился Сергей. - Мы все на Земле озабочены понятием свободы, притом каждый слышит в этом что-то свое. Вы сказали, чтосами решаете, что вам делать. Насколько далеко распространяется ваша вольность, и насколько мы, если захотим с вашего позволения здесь остаться, будем свободны в своих решениях?
- Свобода - это, образно говоря, красивое здание, фундаментом которого всегда является экономическая свобода. Без нее всё остальное легко превращается в инструмент манипуляций и может рассыпаться. Кроме этого, в любом обществе есть ограничения, с которыми необходимо считаться. Демократия - это всего лишь продвинутая форма управления людьми, а лозунги о свободе личности - самый изощренный способ одурачивания. Поэтому степень вашей личной свободы обычно определяется длиной цепи, на которой вы сидите, и не более того.