Малое солнце
Шрифт:
— Ты же знаешь, машины фон Неймана задуманы существовать и развиваться в глубоком космосе. Наличие людей поблизости как-то не очень вписывается в картину.
Голос Сьюзен немного оживился. Было видно, что про робототехнику она может разговаривать всегда и везде.
— Да-да, в колонии нет человека, который об этом не слышал, но едва ли кто знает причину, кроме вас, специалистов, конечно.
— Как бы тебе объяснить… — замешкалась Сьюзен. — Мы запускаем обучающиеся ИИ в песочницах, как этот полигон. Ставим их в разные условия и наблюдаем, что с ними происходит, какие навыки они нарабатывают и как меняется их характер. При этом есть
От услышанного Джейдер едва сдержал смех.
— Ну а что? — смутилась Сьюзен. — Результаты эксперимента при этом будут безнадежно испорчены, и мы даже не узнаем об этом!
— Если машины начнут ругаться матом и шлепать проходящих мимо девиц, то это точно Талард, — подтвердил Джейдер, подняв большой палец вверх.
— Ну… — пожала плечами Сьюзен. — Такие роботы нам как раз не нужны. Вы и сами отлично справляетесь с этой работой.
— Тут я с тобой согласен, — произнес Джейдер, украдкой посмотрев на гистограмму ее пульса. — Без обид, я знаю, что ты фанатка своего дела, но я вообще думаю, что весь этот проект, вся эта вавилонская башня — попросту не нужна. Справлялись ведь как-то сами со всеми этими трудностями, без всяких роботов.
Сьюзен на мгновение остановилась.
— Ты же сейчас несерьезно, Джейдер? Время не стоит на месте. Ты только представь полностью самовоспроизводящиеся машины под контролем сверхразумного коллективного интеллекта. Неужели ты не представляешь, какие возможности это откроет для всего человечества?
— Боюсь, ничем хорошим для человечества это не закончится, — покачал головой Джейдер. — Посмотри на Землю. Уверен, что, когда светлые головы продвигали революцию искусственного интеллекта, они думали, что это решит все проблемы на планете. А в итоге богатые стали еще богаче, а миллиарды людей потеряли работу. Помяни мое слово, как только вы его завершите, парни вроде меня станут не нужны.
— Но ведь тогда все было по-другому! — возразила Сьюзен. — Космос — это не Земля, это другое. Джейдер, ну не мне же тебе говорить о том, как опасен космос? Здесь все хочет убить нас. Маленькая дырочка в скафандре — это смерть, — она невольно поежилась.
— Мы вынуждены прятаться в пещерах, как мышки! А радиация? А негативное воздействие слабой гравитации? Как бы мы не ухищрялись, как бы мы не модифицировали свои тела, мы вряд ли когда-либо приспособимся к таким условиям, — произнесла она, разведя руками. — Но совсем другое дело — машины. Они лишены наших недостатков. Джейдер, если на Земле машины вступали в конкуренцию с людьми, то здесь они будут верными помощниками и сделают космос безопаснее и пригоднее для нас.
— Я же говорю, — ответил Джейдер, замедляя прыжки, — как и все ученые, ты все время рассуждаешь о благе для какого-то абстрактного человечества. Ты мыслишь слишком глобально. Остановись на минутку и посмотри вокруг.
Он провел рукой, жестом повторив предложение оценить окружающий пейзаж. Они стояли посреди ледяного плато, простирающегося до самого подножья криовулкана.
— Кажется, что мы здесь единственные живые существа. Одни на всей планете, не так ли?
— От этого вида на душе становится одиноко, но, не отрицаю, это впечатляет, — тихо ответила Сьюзен.
Джейдера устроил ответ, и он продолжил:
— Если у вас получится и вы завершите этот проект фон Неймана, весь
Сьюзен повернулась и посмотрела на Джейдера. Он увидел ее взгляд сквозь блики светофильтра, отражающего тусклый свет далекого Солнца.
— Дурак ты, Джейдер. Дурак и эгоист в придачу, — произнесла она и, повернувшись спиной, продолжила путь. Она шла так, будто знала, куда идти, и больше не нуждалась в его сопровождении.
«Ну, по крайней мере от прежнего волнения не осталось и следа», — подумал про себя Джейдер, потирая забрало шлема.
— Постой, подожди меня. Или тебе больше не нужен сопровождающий?
Сьюзен шла впереди и совершенно не торопилась с ответом.
— Ставить свое счастье выше счастья для всех… — наконец произнесла она, с плохо скрываемой обидой в голосе. — Это так эгоистично.
— Ну, такова наша природа, — пожал плечами Джейдер. — Все мы, люди, эгоисты, начиная с рождения. Вся жизнь построена на этом принципе.
— Хорошо, что роботы лишены всех этих людских пороков, — неожиданно перебила его Сьюзен. — В этом плане они намного лучше нас.
— Кто, роботы?! Ну конечно, — усмехнулся Джейдер. — Они лишены всего человеческого, как и любая бездушная болванка.
— Думаешь? — рассмеялась Сьюзен. — Да любой робот даст тебе фору в решении любых моральных проблем! Еще непонятно, кто из вас окажется более человечным.
— Зачем роботам решать моральные проблемы? — смутился Джейдер.
«Вот уж докатились. Теперь роботы для нее более человечны, чем я», — подумал он про себя.
— Эти роботы и живого человека за всю свою жизнь не увидят. Будут себе работать где-нибудь в шахтах за поясом Койпера. Не самое подходящее место для проявления человеческих качеств.
Сьюзен улыбнулась. Как и от любой женщины, от нее сложно было скрыть истинные эмоции даже за забралом скафандра.
— А ты бы выпустил на свободу мощный искусственный интеллект, будучи неуверенным, что он имеет твердое представления о морали и добре?
— Я бы его вообще не выпустил, — отрезал Джейдер. — В крайнем случае приделал бы к нему красную кнопку, способную отключить его напрочь.
— Ну, никто не хочет выпускать джина из бутылки без уверенности, что этот джинн добрый, — согласилась Сьюзен. — Ведь загнать его обратно будет очень трудно. Да, есть фундаментальные законы робототехники, по которым машины обязаны не причинять вреда человеку и слушать его приказы. Но этого недостаточно. Любой достаточно продвинутый искусственный интеллект способен обойти их. Поэтому мы обучаем его и проверяем его убеждения на прочность. Могу похвастаться, что сейчас машины решают такие моральные дилеммы, которые не под силу многим людям.