Дмитрий Петров

Робократ

– Приветствую, мистер Хейз! Прошу вас оставить смартфон и камеру. Съёмка запрещена, но обо всём, что вы увидите, можно написать. Фотоматериалы даст наша пресс-служба, это не проблема.

Хейз подчинился и прошёл через рамку. Охранник не усмотрел ничего запретного и нажал зелёную кнопку. Весь путь по длинным широким коридорам доктор Филипс не умолкал.

– Должен сказать вам, мистер Хейз, мы с женой очень любим ваш канал, ваши расследования. Смотрели всю серию про президента Байдена. Это очень честно и смело, открытая критика, не каждый отважится. Я искренне восхищаюсь вами, мистер Хейз!

– Спасибо, я рад.

– Но, когда мы придём, надеюсь, настанет ваш черёд восхищаться!

Они остановились на высоком балконе. Перед ними простирался огромный зал размером со стадион. Пространства для работы, отдыха, переговорные залы, кафешки. Словно офис из кремниевой долины закопали под землю. «Даже Старбакс есть, какое счастье», – отметил про себя Хейз.

– Ответьте мне, мистер Хейз. Какими мечтами живёт человечество?

– Эм… Мир во всём мире?

– Прекрасная мечта! А как насчёт: скоро всю работу будут выполнять роботы?

– Ну, это уже стало явью.

– Совершенно верно! А думалось ли вам, что и функцию управления может взять на себя робот или искусственный интеллект?

– Есть несколько фильмов с таким сюжетом. Там всё очень плохо заканчивается.

– Ха-ха-ха, вы шутите, мистер Хейз! Прошу вас, давайте спустимся.

Лифт выпустил их на нижнем уровне, и они влились в суматоху подземного офиса.

– Всё, что вы здесь видите – суть большая игра наподобие монополии. Как в жизни: сделки, прибыль, налоги, убытки, политика… Даже игрушечная тюрьма. А ради чего? Ради обучения нашей продукции.

Тут доктор Филипс остановился, повернулся к Хейзу, чтоб не пропустить реакцию, и торжественным голосом сказал:

– Итак, срываем покровы! Разрешите представить вам: Робократ, сокращённо ар-си, искусственный чиновник, управленец, политик.

Хейз огляделся и ничего не увидел. Именно такого эффекта Филипс и дожидался.

– Вы растерялись, мистер Хейз? Какая прелесть! Вот же они, их очень просто отличить. В белых халатах наши сотрудники, а в деловых костюмах – ар-си. Я обожаю их стиль. Так солидно. А вот в отделе поп-культуры совершеннейший бардак, перья с блёстками, фу.

Хейз не выглядел сражённым наповал, и Филипс всё больше заводился.

– Наша продукция призвана освободить человека для отдыха, творчества и спокойствия – всего того, чего человеческая раса заслужила за тысячелетия своей беспокойной жизни…

Хейз решил уточнить:

– Робот, способный принимать управленческие решения? И политические? Взвешенные безошибочные ходы – это ваша продукция?

Филипс закивал и замотал головой одновременно.

– Вынужден вас поправить, мистер Хейз, алгоритмы допускают возможность ошибок, это часть обучающей системы. Например, один наш ар-си перепутал Грузию с Джорджией, что привело к разрушению логистических потоков, разорению фирмы и увольнению десяти тысяч работников.

Вот сейчас Хейз удивился.

– Если он не может отличить Грузию от Джорджии, как ему доверили принимать решения? Что с ним было дальше? Его переплавили?

– Отнюдь. Пошёл на повышение. Теперь руководит в сфере ядерной энергетики.

– Как это может быть? Он же показал полнейшую профнепригодность!

– И получил бесценный опыт! Сейчас он наш лидер по шкале приобретённых компетенций. К тому же он потрясающе выкрутился. Ошибка запустила модуль защиты чести мундира, и ар-си сумел отстоять свою невиновность. Наш суд, а у нас тут есть суд, не смог ничего доказать. По закону он оказался чист.

– Этот парень облажался, завалил работу, но ловко выкрутился и теперь считается здесь лидером?

– Мистер Хейз, но ведь ар-си не виноват! Его IQ программно ограничен. 90 пунктов – это чуть меньше среднестатистического по Соединённым штатам.

– Вы плодите тупых роботов? – не удержался Хейз. Филипс почти обиделся.

– Они не тупые, они системные! Именно такие пропорции IQ характерны для аналогичных человеческих систем. Давайте лучше я расскажу вам об алгоритмах.

Стартовый модуль ИБД – это то, что заставляет ар-си хоть что-то делать. Далее вспомогательные функции: Модуль личной харизмы, Генератор обещаний, Птичий язык и модуль защиты чести мундира. Ой!

Филипс отбежал в сторону и вернулся, волоча за локоть улыбчивого ар-си:

– Это наша гордость Том. Лаборант пытался спровоцировать его на уход в отставку. Был смоделирован сексуальный скандал. Грязное бельё, факты, чернуха страшная! И наш ар-си так тонко почувствовал публику, нашёл ниточки и так всех разжалобил, что электорат вступился за него!

Хейз ощутил во взгляде ар-си отвратительную слащавость, мерзкую, как у человека.

– Пока я вижу только потрясающие успехи в выкручиваниях. А у вас нет робота, который решает проблемы голода, беженцев или изменения климата?

– Такие сложные задачи непосильны одному ар-си, как и одному человеку, – начал Филипс, подняв палец. – Поэтому мы и создаём систему. Это было давно подмечено: сто муравьёв тащат гусеницу. Если мы присмотримся, окажется, что каждый муравей тащит тушку в свою сторону. Но общая сумма векторов их направлений складывается в один, и именно туда в итоге они эту добычу и унесут! Вы знали об этом?

– Я видел муравьёв, но никогда не замечал, что они действуют разрозненно. Даже наоборот…

– И именно поэтому мы пригласили сегодня именно вас! Вы готовы поставить под сомнение любой факт, это прекрасно! – Филипс снова обрадовался непонятно чему.

Хейз отвлёкся на экран, что свисал с потолка.

– «Присвоение достижений», что это?

– А-а-а! Сейчас расскажу! – отвечал Филипс, не глядя на монитор. – У ар-си есть датчик отслеживания рейтинга. Однажды мы заметили, как один ар-си заработал высокий рейтинг, и стали разбираться. Оказалось, он присвоил себе достижения предшественника и результат работы коллектива. Наделал фотографий, отчитался в нашей соцсети, собрал лайки. Эту штуку искусственный интеллект выдумал сам, чем мы очень гордимся.

– Это отвратительно даже по человеческим меркам, но… как вы сказали? Этого не было в программе? То есть, они сами учатся?

– Они матереют. Обрастают связями, вычисляют своих. Это как карьерный рост.

– Вычисляют своих? Это такая роботизированная круговая порука?

– А разве ар-си виноват в том, что наши алгоритмы заставляют его прежде всего сохранять иерархию?

Хейз на минуту задумался и спросил:

– Скажите, если это робот, у него должна быть кнопка отключения?

– Сенсор деактивации установлен в труднодоступном месте, глубоко между ягодицами.  Комбинация несложная, но просто так не подберёшь, надо знать подход и действовать мягко… Всё в точности как у людей… – тут Филипс не смог больше держать серьёзный тон и прыснул, – Да я же шучу, мистер Хейз, у нас тут такая шутка!

Хейз не улыбнулся.

– Получается, ваши роботы вечны?

– Если не использовать гипер-режим, то почти да. Проработает до самой пенсии, пока микросхемы не помрут.

– А что такое гипер-режим?

– Предвыборный. Мобилизируются все алгоритмы и функции, генератор обещаний и модуль харизмы работают на износ. У одного экземпляра в разгар кампании стал непроизвольно открываться рот. Это была девочка, мы все за неё очень болели. Хорошо, что она проиграла другому нашему кандидату. Это было похоже на маразм. После выборов ресурс выработан. Ар-си больше ни на что не способен, кроме удержания власти, но на то мы и создаём систему, чтоб она продолжала работать несмотря ни на что.

– Система-система-система! Эта ваша система, о которой вы мне рассказываете, хотя бы ставит перед собой высокие цели? Борьбу с коррупцией, например?

– Конечно! К гордости нашего коллектива мы можем сказать, что наша продукция совершенно не даёт взяток! В отличие от людей.

– Потрясающе! Не даёт и не берёт?..

– Ну, только если люди дают…

– Что за немыслимый бред?! Почему же программно не поставить им задачу не брать взяток?

– Да вы поймите! Их функция заключается не в выполнении задач, а в сохранении системы!

– А почему не сделать систему с единым центром, который будет настроен на нетерпимость к коррупции, преступности, лжи?

– Уязвимость, мистер Хейз. Не дай бог, что-то случится с этим общим центром, это грозит крахом всей системе.

– Но зачем городить огород, если вы не пытаетесь решить глобальных проблем? Войны! Система может остановить войны?

– Воюют не роботы, воюют люди. Будем надеяться, что искусственному интеллекту удастся преодолеть людские пороки, но сначала нужно вытеснить из системы человека. Всему своё время, он только начинает.

Хейза осенила страшная догадка.

– Ваша продукция уже правит миром?

Вместо ответа Филипс засветился пунцовой гордостью.

– Доктор Филипс, вы, должно быть, сумасшедший, что пригласили меня сюда. Вы создали армию бюрократов-аппаратчиков. Ничего не знают, не умеют, потакают коррупции и войнам. Это страшный сон человечества. Вы хотите, чтоб я об этом написал?

Филипс впервые сделался серьёзным.

– Ну, во-первых, вам никто не поверит. Подземные чиновники-киборги? Пфф! А, во-вторых, сейчас объясню…

Филипс подвёл Хейза к табло:

– Видите показатель «интеграция»? Это система подстройки под электорат. Одним словом – «понравиться». Мы в качестве эксперимента направляли одного ар-си наверх, к охране и вахтёрам. Просто без задания. И он их покорил, они даже подумали, что он начальник. Вошёл в доверие. Сработали алгоритмы калибровки электората, и он на ходу всему научился.

– И что? – не понял Хейз.

– Мистер Хейз, вы, непримиримый критик системы и, к тому же, лидер общественного мнения. Заслужить доверие такого человека, как вы – вот какая цель стоит перед новым поколением робократов. Вот почему вы здесь.

В эту минуту к ним приблизился ар-си. В пиджаке, но без галстука, на ногах кеды без носков, умные глаза без слащавости. Филипс по-отечески посмотрел на него.

– Познакомьтесь. Мистер Хейз, это мистер Ямм.

Хейз не протянул руки в ответ роботу.

– Вы думаете, после того, что я тут увидел, я соглашусь помогать вам? – спросил он Филипса.

– Нет, мистер Хейз, мы знаем, что вы не согласитесь.

– Я ведь могу просто послать его куда подальше!

– Этого мы и ждём. Ведите себя естественно, алгоритм сам всему научится.

Хейз в ужасе посмотрел на Филипса. Тот подмигнул и удалился.

– Хотите кофе? Я знаю уютное местечко, – сказал робократ.

_______________________

Подпишитесь на автора на ЛитРес

Content

Дмитрий Петров
Робократ