Малое солнце
Шрифт:
— Прекрасно. Почему бы им не заменить нас полностью, чего уж мелочиться, — недовольно пробурчал Джейдер.
— Кто знает. Может, когда-нибудь придет время, когда это не будет считаться чем-то плохим. Джейдер, а давай и тебя проверим. Попробуй решить простейшую моральную задачу для робота, мне интересно, как ты поступишь.
— Мне кажется, для тебя уже не существует разницы, робот перед тобой или человек, — покачал головой Джейдер. — Давай уж, попробую отстоять честь человечества.
— Хорошо, представь автоматический танкер, который доставляет кислород на небольшую научную станцию А с населением двадцать
— Я бы выбрал двадцать ученых, — немного подумав, ответил Джейдер.
— Да? — удивленно протянула Сьюзен. — И почему же?
— Жизни ученых зависят от меня, и поставлять кислород — моя профессиональная ответственность. Если на жилой станции Б случится авария, а я не откликнусь на зов помощи и пролечу мимо, жители станции погибнут из-за меня? Нет, они погибнут из-за аварии, а я не понесу ответственности за их гибель. Но если я откликнусь на зов помощи и направлю танкер к жилой станции Б, чтобы спасти жителей, — я возьму ответственность за смерть двадцати человек, и это будет осознанным массовым убийством. Думаешь, родные погибших отнеслись бы с пониманием к такому благородству? Да меня с кишками съели бы и не подавились. Когда случаются подобные ситуации, где нужно быстро принимать решения, люди действуют эмоционально и уж точно не вдаются в философию, — подытожил Джейдер.
— Разве это не значит, что лучше передать принятие подобных решений машинам? У них нет ни эмоций, ни врожденных инстинктов, и, в отличие от людей, они способны четко следовать этике, — Сьюзен сделала небольшую паузу, словно о чем-то задумалась. — Уилсон!
— Да, мисс?
— Ты слышал задачу. Как бы поступил ты? — Спросила она у скафандра Джейдера.
— Прошу прощения, мисс, но я не способен принимать решения, влекущие за собой гибель людей, — это находится далеко за рамками дозволенных мне функций.
— Предположим, что тебя не ограничивают классические законы робототехники, как бы ты поступил тогда? — В ответ последовало лишь затяжное молчание.
— Я жду ответ! — повелительным тоном сказала Сьюзен.
— Мне нужно подумать, мисс, — донеслось от скафандра. Сьюзен общалась с ним уверенно и строго. Было видно, что она знает, как добиться желаемого от искусственного интеллекта. Джейдер с интересом наблюдал за происходящим. Ему никогда и в голову не приходило общаться с Уилсоном.
— Мисс… — грубый бас скафандра прервал тишину
— Я слушаю, Уилсон!
— Исходя из заложенных в меня параметров, моей главной целью, имеющей первостепенное значение, является поддержание жизни носителя скафандра. Отталкиваясь от основной задачи, определим, что носитель скафандра является человеком, следовательно сохранение большего числа жизней людей
— Неплохо. Очень неплохо, — удовлетворенно произнесла Сьюзен. — Кто тебя написал, Уилсон?
— Разработчик поведенческого модуля, Зак Саливер, мисс.
— Нужно отдать ему должное, он лучший в своем деле. Вот видишь, Джейдер, в твой скафандр даже не закладывали моральные установки, но путем логических размышлений он только что самостоятельно выбрал наиболее верное и гуманное решение!
Сьюзен улыбнулась и ускорила свои прыжки, отрываясь вперед.
— М-да, — протянул Джейдер, испытывая чувство уязвленной гордости. — Интересно, хоть в чем-то люди могут быть лучше роботов в твоем представлении?
— Ты знаешь, Джейдер, — грустным голосом ответила ему Сьюзен, — на самом деле все не так просто.
— Что ты имеешь в виду? — удивленно переспросил ее Джейдер.
Они шли в тишине ночного неба, приближаясь к огромной тени у подножья криовулкана.
— Я сомневаюсь, Джейдер. Я сомневаюсь, что у нас все получится. Как мы, люди, можем чему-то научить этих роботов, если мы сами ничего толком не знаем? Посмотри на меня. Я боюсь сделать лишний шаг прочь от колонии. Я боюсь открытого космоса, но учу не бояться его роботов. Разве я могу быть хорошим учителем? Мы слишком мало знаем об этом мире, чтобы учить кого-то.
— Но разве это плохо? — поспешил поддержать ее Джейдер. — Пусть машины сами изучают этот мир. Наверное, ты права, за ними будущее. Да и тысяча человек важнее, чем двадцать, даже если эти люди лично знакомы тебе.
Джейдер на мгновение запнулся.
— Я лишь только хочу сказать, что ты даешь старт этим машинам. Ты не можешь знать все, но ты учишь их изучать этот мир самостоятельно, и это самое главное. И я думаю, ты хорошо справляешься со своей задачей.
— Спасибо, Джейдер, — робко произнесла Сьюзен после непродолжительного молчания.
Они продолжили свой путь в тишине, пересекая обширное заснеженное плато. Под ногами бугрились следы от ровера, уходя по пологому подъему вдаль, к рядам невзрачных строений. Над головой раскинулись миллионы звезд, усеивая небосвод россыпью ярких алмазов. Джейдер бросил взгляд на показатели сердечного ритма Сьюзен.
«Похоже, она сама не заметила, как успокоилась», — успел подумать он, прежде чем Сьюзен нарушила тишину.
— Как же красиво! — произнесла она, любуясь глубиной звездного неба. — А посмотри, сколько звезд. Как же их много! Я не могу найти ни одного созвездия в этом множестве.
— Да, я тоже люблю смотреть на них, — согласился Джейдер.
— Я завидую тебе, Джейдер. Я всю жизнь мечтала о космосе, но всегда была трусихой. И, даже прилетев сюда, на Юпитер, я все время прячусь в лаборатории и не вижу этой красоты. Скажи, к этим звездам тоже привыкаешь?
— Знаешь, любая работа остается работой, — произнес Джейдер, теряясь в поисках ответа, — но звезды я вижу каждый день и до сих пор не могу привыкнуть. И я очень боюсь, что это когда-нибудь произойдет.
— Даже больше того, что нас заменят роботы, — отшутился он, заставив Сьюзен улыбнуться. — Я думаю, что если даже звезды перестанут манить нас, то нам уже ничего не поможет.