Нейросеть

Краснов Павел .

– Даже. Давай к делу, по твоей довольной физиономии вижу, что ты нашёл что-то интересное. Не пойму, что в этом деле может быть необычного, что ты вдруг решил подключиться? Очевидный случай начальственного отупения, да, я согласна, что нестандартный.

– Если подумать, то более чем просто нестандартный.

– Я де сказала, что согласна, уж очень быстро наш старлей отупел и зазнался, но других вариантов не вижу. Эскен тоже так считает. С Земли Трофимова прислали с уровнем интеллекта выше среднего, способности работы с Нейросетью - очень высокие, работа постоянно связана с принятием решений.

То есть парень способный и неглупый, но сильно отупел. У меня было ощущение, что я общаюсь с зарвавшимся полудурком.

– Я тоже поначалу согласился с Корсарычем. Но что такое начальственное отупение? Это когда человек со скрытыми сильными высокопримативным чертами получает социально-значимую должность, но далее наверх не особо стремится. Его мозг получает сигналы, что хозяин - высокоранговая обезьяна, бороться за жизнь и ресурсы ему не надо, надо лишь сохранять место в иерархии, поэтому он входит в режим экономии энергии и поддерживает ощущение высокой собственной значимости, которое вызывает выброс эндорфинов. В результате клиент в основном имитирует свою работу, а мозг постоянно находится "под дозой".

– Да, ты всё говоришь верно. Это "начальственное отупение", оно же "бюрократическая деменция" и другого разумного объяснения у меня нет, если не брать фантастические версии типа "глупый шпион," - было заметно, как Надежда незаметно зевнула с закрытым ртом. Тема ей была неинтересна.

– Посмотри, старший лейтенант, первый год сделал кучу ошибок, потом ни одной ошибки за последние три года! Майор Азизов высокого мнения о нём - исполнителен, находит оптимальные решения, сам вызывается решать новые задачи и быстро с ними справляется. Это совершенно не похоже на зажравшегося бюрократа, ты не находишь?

– У меня нет разумного объяснения этому противоречию, но других вменяемых вариантов не вижу. Ты что-то нашёл?

Человек в кресле улыбнулся, - я не мог успокоиться, пока не нашёл решение.

– Заинтриговал, ну говори уже.

– Вот тебе пример. Ребёнок пока плохо ходит, часто падает, но привык и падать научился. Тут приехала бабушка и бегает за чадом по дому, ловя его каждый раз, когда он теряяет равновесие. Наступает момент, когда бабушка решает, что хватит бегать за дитём и тут он неожиданно падает и сильно ушибается, потому что падать разучился, он теперь надеется на бабушку, которая всегда рядом.

– Я знала такие случаи, но к чему это? Старшего лейтенанта тут никто не выпасал на поводке.

– Второй пример, такое бывает на Земле: неглупая женщина, неплохой специалист, родила детей и полностью зациклилась на семье, вообще забыв о работе и потеряв интерес к внешнему миру. Вопрос: как быстро может отупеть такая женщина.

– Года за три, я знала несколько таких случаев. Я не понимаю, к чему ты клонишь?

Собеседник вздохнул: - Да, примерно за три года... Если вкратце, наш старший лейтенант - талантливый ретранслятор Нейросети. Он перестал думать сам, научившись выбирать самый удачный вариант из тех, что предлагает Сеть. Я могу сказать, когда это произошло - три года назад, когда он понял, что не надо ломать голову, достаточно выбирать удачный вариант, предложенный Нейросетью. Ты спросишь: "А как он выбирает такой вариант из предложенных". Так вот, ещё давно, когда только Глобальная Сеть называлась Интернетом и только появились первые поисковые машины, образовался целый слой людей,

которые поняли, что классическую эрудицию можно с успехом заменить быстрым поиском в специальных поисковых машинах. Со стороны они выглядели блестящими эрудитами и образованными людьми. Такой искатель просто человеческий интерфейс к поисковику. Наш клиент - всего лишь интерфейс к Нейросети. Он первый, с которым мы столкнулись, потому что пока не получалось создать надёжные алгоритмы поиска оптимального решения. С Трофимовым обязательно надо поработать, чтобы понять, как он научился вылавливать наилучшие варианты. Не зря у него большие способности к работе с Сетью. Он просто интуитивно научился очень быстро подсматривать ответ в шпаргалке, выдавая его за своё решение.

– Здорово ты разложил, как только догадался? Всегда знала, что ты очень умный, - Надежда вздохнула.

– Да, заслуженно чувствую себя высокоранговым бабуином. Могу достать банан, который не могут добыть другие.

– Понятно, старший лейтенант просто отупел, превратившись в ретранслятор сетевых алгоритмов принятия решений. Но почему он принял такое идиотское решение, похоже просто не приходя в сознание? Было видно, что сам испугался тому, что случилось.

– Среди прочих предложенных Сетью вариантов был тот, который Трофимов счёл оптимальным. Оптимальное решение имеет какой-то набор признаков, по которым наш "ретранслятор" и научился ориентироваться. Здесь эти признаки были введены в заведомо неправильное и высокорисковое для самого оператора решение. Я уверен, что Трофимова "подставили".

– Кто?! Нейросеть действительно взломана?

– Нет. Если бы это действительно удалось, то причинили бы намного больше вреда, а не спалились бы так глупо с нашим старлеем. Кроме того, есть эвристические модули внутренней безопасности.

– Кстати, о модулях: лет десять лет назад ты на Совете Экономики рвал комбинезон на груди, убеждая как необходимы для будущей безопасности Сети эти самые эвристические модули. Они сами должны распознавать и бороться с ещё неизвестными угрозами. Но последние несколько лет, когда тебя спрашивали про их пользу, от тебя было слышно только, что они ещё недостаточно самообучились. Интересно бы знать, есть ли какой-нибудь позитивный результат.

– Результат ты видела пару часов назад.

– Толя, не все успевают за твоими мыслями. Я не понимаю.

– Эвристические модули распознали, что один и тот же человек не использует сетевые подсказки для принятия своего решения, а просто научился выбирать оптимальный вариант. Тогда ему в качестве лучшего варианта и предложили заведомо провальный и он клюнул, даже не включив мозг. Сделано было очень грамотно - от ответа не зависела жизнь людей, вероятность вскрытия неправильных действий была высокой, он устал в конце ночной смены и всё прочее.

– Ты хочешь сказать, что старшего лейтенанта подставила сама Нейросеть?

– Это будет очевидно, когда будет проведён анализ по тем данным, раскрыть которые я прошу в запросе.

– Я разговариваю с тобой и одновременно смотрю на ту информацию, которая доступна мне с моим допуском. Всё как ты говоришь - действительно три года назад он начал полностью полагаться на Сеть в своих решениях. Но почему эти самые модули подействовали именно так, а не подали сообщение, сигнал тревоги или вроде того?