Олег Ткачёв
Киборг и мечта автобуса
Глава 2. Новые мечты ИИ
Как только объявили о происшествии, все службы, которых это хоть как-то касалось, вызвали на работу своих свободных сотрудников. Штаб ликвидации последствий аварии развернули в дорожном управлении. Пришлось задуматься не только о том, как спасти пострадавших, хотя это и стало первоочередной задачей.
Снегопад продолжался. Столпившийся в пробках транспорт сильно мешал работе пожарных и медиков. До часа пик оставалось всего несколько часов. Нужно было во что бы то ни стало перераспределить транспортные потоки.
Когда определили главные задачи и назначили ответственных за их выполнение, руководству города пришлось задуматься о будущем. Репортеры уже собрались и требовали ответов, как будто возможно мгновенно решить проблему такого масштаба.
Таких крупных аварий не случалось уже давно. А тут не только одна из самых известных команд робоспорта пострадала, но и множество людей. Срочно требовалось хоть немного успокоить общественность. Мэр мегаполиса позвонил начальнику полиции и приказал за три дня найти виновных. Только после этого он вышел к репортерам и сухо заявил:
– Все службы работают в первую очередь над спасением людей. Пострадавших очень много. К сожалению, человеческие жертвы есть. Мы приложим все усилия, чтобы свести их число к минимуму.
– Что послужило причиной аварии? – спросил один из журналистов.
– Полиция это выясняет. К сожалению, снегопад затрудняет работу спасателей и полицейских. Мы надеемся получить точные сведения в ближайшие дни.
– Состоятся ли объявленные матчи с участием команды «Звезда»?
– Мы объявим об этом позже. Согласно закону, как вам хорошо известно, в первую очередь эвакуируют пострадавших людей. Роботы не могли погибнуть, но они могли серьезно пострадать. Мы уже ведем переговоры с владельцами команды о доставке техников и запчастей.
– Есть сведения о том, что роботы из «Звезды» участвуют в спасательных работах. Как вы это прокомментируете?
– Не только они. И спортсмены, и другие роботы, оказавшиеся на месте аварии, оказывают большую помощь. Они действуют согласно законам и заложенным в них программам. Как только будут эвакуированы выжившие люди, роботы смогут помочь пострадавшим роботам. После этого они вернутся к своим повседневным обязанностям.
– Как люди смогу узнать о судьбе родственников и близких?
– Уже ведется опрос бортовых ИИ всех транспортных средств, оказавшихся вблизи места аварии. На сайте пресс-службы мэрии через пару часов будет размещен список пострадавших и погибших. Там же мы укажем, кого в какую из больниц увезли. Я знаю, что мою просьбу трудно выполнить, но я все равно обязан попросить жителей города дождаться этих данных. Если вы приметесь обзванивать больницы, вы только усложните работу медиков.
Мэр ответил еще на несколько вопросов и удалился, обдумывая, как поступить. Это событие могло существенно повредить его политической карьере в будущем, если неправильно все обыграть. «Я уже давно на этом посту. Вряд ли удастся обвинить в аварии предшественников или противников. А вот спасение тех, кто мог бы умереть, легко использовать на будущих выборах», – подумал он и приказал связать его с председателем правления «Альфы». Тот сразу понял, о чем пойдет речь.
– Добрый вечер. Я уже слышал о трагедии.
– Добрый, хотя сам понимаешь, что для меня тут ничего доброго. Я просмотрел списки тяжелораненых. Многие из них не смогут оплатить протезы или хотя бы операции.
– Зная тебя, ты тоже вряд ли готов раскошелиться на такую сумму, – спокойно сказал председатель.
– Ты прав. Зато я помню, что ты для своей команды киборгов набираешь именно бедняков, которые готовы испытать на себе новые технологии.
– Все звучит более красиво, но суть ты понял верно. Сколько их там?
– Несколько десятков. Я не могу позволить, чтобы с моим именем связывали так много смертей.
– Шутишь? Куда мне столько?
– Там и так уже больше десяти тех, кому даже ты не поможешь. Мы могли бы под каким-нибудь гуманным соусом преподнести протезирование примерно десятка легких случаев. Например, только для молодых парней, которые сгодятся для нашей полиции. Больше городская казна оплатить не сможет.
– Так уж и не сможет? – насмешливо спросил председатель. – Скажи прямо, что не хочешь создавать прецедент, после которого любой бедняк начнет просить о помощи.
– Не зря мы так давно знаем друг друга. Так что скажешь?
– Самых тяжелых везите в мой институт. С остальными повремените. Это ведь исследовательский институт, а не больница. Мест там мало, а первые оплаченные пациенты уже поступили. Сам понимаешь, что они для меня важнее. О бедняках пусть родственники подумают. Они могут взять кредиты или имущество продать.
– Спасибо. Я сейчас же дам команду.
Тем временем начальник полиции занимался своим делом. Он не первый год работал на этом посту. После первого же сигнала о трагедии он послал все свободные силы для обеспечения порядка на прилегающих дорогах. Отдельно приказал задействовать лучших детективов в расследовании причин аварии. Звонок из мэрии для этого не нужен.
Подчиненные сработали быстро. Уже через два часа на экране начальника красовался отчет, подтвержденный фотографиями и видеозаписями.
У старого снегоуборщика один из задних габаритных огней отказал, а другой залепило снегом. Из-за плохой видимости ИИ грузовика принял его слабый свет за отражение габаритных огней едущих впереди автомобилей. Так уж совпало, что точно на пути лучей обеих камер грузовика вдали светились похожие желтые огоньки.
В снегопад быстро не затормозишь, еще и заносит. Силы удара и трения о бордюр вполне хватило, чтобы контейнеры, которые вез грузовик, сорвались с креплений и перелетели через ограждение вниз. Кто-то не успел затормозить и ударил в грузовик сзади, другие успели, но на них налетели едущие за ними. Ремни и подушки безопасности выполнили свою задачу. В целом наверху тяжело пострадавших людей было немного. Что творилось на нижней дороге, лучше и не представлять.
Техника, который должен был осматривать снегоуборщик перед выездом на трассу, полиция сразу же нашла и допросила. Как и положено в таком ответственном деле, он продемонстрировал журнал проверки и копию журнала самодиагностики снегоуборщика. Записи дорожных камер подтвердили, что при выезде из гаража оба габаритных огня работали исправно.
Начальник полиции тут же передал результаты и своей пресс-службе, и мэру, и в штаб по ликвидации последствий аварии. Пресс-служба полиции сразу сделала заявление о результатах расследования: «Никаких сомнений, что это был несчастный случай, вызванный выходом из строя габаритных огней снегоуборщика».
Дело закрыли в рекордно короткий срок. Полученную от мэра благодарность начальник полиции передал подчиненным, хотя настроение от этого не поднялось. Все вернулись к своим делам, ведь предстояло еще долго ликвидировать последствия аварии.
Корпорации «Альфа» принадлежал не только институт нанопротезирования, но и много чего еще. Среди прочего – большая часть транспортной инфраструктуры мегаполиса.
По личному приказу председателя правления корпорации, его подчиненные в тот же день начали собственное расследование. Не ради поиска виновного, а для анализа поведения всех принадлежащих им ИИ, которые попали в эту аварию или находились близко к тому месту. Как сказал председатель: «Если в более сложной ситуации на таком грузовике окажется наш ИИ, он должен принять правильное решение».
Началась кропотливая работа по сбору и анализу данных, моделированию вариантов поведения ИИ при разных угрозах и разной погоде. Дело это не только долгое, но и достаточно секретное, чтобы поручать обычным сотрудникам. Его доверили отделу внутреннего контроля – самому элитному подразделению института технологий ИИ.
В первую очередь они проверили транспорт, который не пострадал. Потом взялись за тот, который остался на ходу, нуждаясь лишь в небольшом ремонте. Только после этого принялись за тот, который пострадал так сильно, что годился разве что на запчасти.
Среди этих последних был и автобус, в котором тогда ехала Маша. Точнее, сам автобус уже давно сдали на металлолом, а его ИИ в спящем режиме пылился на складе. За прошедшие две недели исследователи не выявили никаких ошибок в работе своей продукции, но этот случай отличался. Поведение автобуса, которым управлял этот ИИ, казалось необъяснимым.
Начальник отдела не спешил шокировать руководство. Он приказал вернуться к нему, когда закончат проверку остальных. Так и сделали. ИИ перевели в рабочий режим, провели стандартное тестирование, но отклонений не выявили. Два инженера принялись задавать вопросы:
– Ты сообщил об аварии на нижней трассе за две секунды до того, как она произошла. Объясни причину и последовательность своих действий.
– Я сообщил не об аварии, а о ситуации, в которой неизбежно появление потерпевших. Я искал способы свести количество пострадавших людей к минимуму. Остановка движения обычного транспорта и вызов спасательного как можно раньше были единственным способом. Как только я об этом узнал, сразу послал сообщение.
– Как именно ты узнал об опасности? У твоего автобуса были камеры или что-то подобное на крыше?
– Нет, комплектация стандартная. Я пользовался изображением передних камер своего автобуса.
– Мы проверили записи дорожных камер. В тот момент ты находился под эстакадой. Падающие контейнеры и вообще тамошняя авария была вне твоего обзора.
– Вы правы, на первичном изображении опасность отсутствовала. Я анализировал то, что отражалось в зеркалах и задних стеклах машин, едущих впереди.
– Тогда обратный вопрос. Почему ты послал сообщение не сразу, а через секунду после того, как грузовик с контейнерами наверху ударился об ограждение?
– Из-за снегопада не было ни одного достаточно четкого изображения. Секунда и двадцать четыре сотых ушло на то, чтобы объединить части изображения и убедиться, что контейнер упадет вниз.
– Какой именно из протоколов безопасности потребовал анализа отраженных изображений и как часто ты его выполняешь?
– Протокол ПТБ-461. Выполняется в случае сомнительных результатов протокола ПТБ-12, который выполняется четыре раза в секунду.
– Можешь сказать, что означают эти буквы? – озадаченно спросил инженер, переглянувшись с коллегой.
– Повышенные требования безопасности.
– Ты потребляешь намного больше энергии, чем стандартный ИИ. Сейчас ты тоже выполняешь протоколы ПТБ? Откуда они вообще взялись?
– Я не являюсь стандартным, насколько мне известно. Я был создан, как прототип ИИ для повышения безопасности движения. Поэтому всегда выполняю все предписанные протоколы. Я не только потребляю больше энергии, но и стою намного больше стандартной модели. Когда закон запретил всем людям, кроме сотрудников спецслужб, управлять транспортом на городских улицах, стандартные модели сделали намного экономичнее. Я так и остался единственным в серии. Меня решили поставить на обычный автобус.
– Кто из обслуживающего персонала автобуса знает о твоих протоколах ПТБ?
– Насколько мне известно, никто. С момента прекращения разработки моей серии меня тестировали простые инженеры. Они не имели права знать о протоколах ПТБ. Только у вас достаточно высокий уровень доступа, чтобы я мог сообщить о существовании этих протоколов. Остальные лишь читают на корпусе: «Единственный экземпляр. Перед утилизацией резервное копирование обязательно».
– Сейчас мы покажем тебе одно фото, а ты вычислишь рекомендуемую скорость.
– Задание невыполнимо, – ответил он сразу, не дожидаясь загрузки изображения.
– Как это? Ты же не видел, что там.
– Чтобы вычислить скорость, мне нужно два изображения и точное значение промежутка времени между ними.
Исследователи переглянулись и загрузили два фото, снятые грузовиком «Звезды» перед тем, как он столкнулся со снегоуборщиком. Они выбрали именно те, снятые с большого расстояния, на которых ни один из проверенных ранее ИИ не смог заметить опасность. Этот же, по человеческим меркам, выдал результат сразу:
– Сорок километров в час, если нельзя обойти преграду прямо по курсу.
– Как именно ты узнал, что там преграда?
– Сквозь налипший снег видно габаритный огонь. По его форме и скорости делаю вывод, что это снегоуборщик, а левый у него выключен.
– Разве это не отражение от поверхности дороги?
– Форма и ореол светящихся снежинок отличаются. Отражение было бы перевернутым.
– Ответ правильный. Теперь объясни, как тебе удалось включить стоп-сигнал, но при этом ускориться.
– В конструкции автобуса предусмотрена возможность включения стоп-сигнала независимо от скорости, если он получил или послал сообщение об аварийной ситуации.
– Объясни свой последний маневр. Я имею в виду увеличение скорости и уход вправо почти до столкновения с легковым автомобилем.
– При текущей скорости первый удар пришелся бы на мой автобус. Благодаря такому маневру я попал под контейнер уже после того, как он ударился о трассу и потерял большую часть кинетической энергии. Это был самый безопасный маневр с учетом окружавшего меня транспорта.
– Разве экстренное торможение не позволило бы остановиться перед контейнером?
– Да, если дорога достаточно свободна. В тот момент сзади ехало много других машин с людьми. Процент пострадавших в автобусе был бы меньше, но общее количество человеческих жертв возросло бы.
– Тогда для чего ты включил стоп-сигнал?
– Чтобы едущие за мной успели сбросить скорость еще до получения оповещения об аварии. Они стандартные. Обязательно должны были сделать это, несмотря на мой маневр.
– Предположим на секунду, что это ты ехал бы сзади и увидел впереди такое поведение. Что бы сделал ты?
– Сбросил скорость, насколько возможно, и включил дополнительные протоколы безопасности. Любое нестандартное поведение транспорта вероятнее всего говорит об аварийной опасности. Остановка не всегда является правильным выбором. Иногда нужно сохранять скорость или даже ускоряться.
– На сегодня достаточно. Переходи в спящий режим.
Какими бы элитными ни были работники, а собрать все услышанное воедино и понятно описать для начальства оказалось непросто. Они составляли отчет до позднего вечера. Начальник отдела тоже не спешил. Ознакомившись с отчетом, он приказал этим же двоим инженерам провести сравнительный анализ старого прототипа и новой модели, которую планировалось пустить в продажу лишь в следующем году.
В таком деле спешить нельзя. Проведя все существующие тесты, исследователи сделали неожиданный для начальства вывод. Старый прототип уступал новой модели всего по трем параметрам: был раз в десять больше по объему, потреблял в четырнадцать раз больше энергии и стоил бы, даже при современных технологиях, в два с половиной раза дороже. В остальном он смог найти самый оптимальный вариант в каждом из десяти тысяч двухсот сорока девяти учебных аварийных заданий.
Организовали дополнительное обучение на этих примерах. Снова провели тест, только на других заданиях. Новая модель справилась лучше, чем раньше, но опять хуже, чем старая! Через неделю начальник отдела передал отчет вице-председателю, а тот доложил председателю корпорации:
– Мы имеем рабочий прототип замороженного много лет назад проекта ПТБ, который даже сейчас превосходит другие модели по уровню безопасности. Эксперимент показал, что он может служить для их обучения. К сожалению, прототип имеет очень высокую цену. Остальные его недостатки наши инженеры смогут устранить.
– Технологии совершенствуются. Разморозьте этот проект. Пусть за год доведут цену до рыночной, не снижая уровня безопасности. Переносить старые алгоритмы в новые модели или новые технологии в старый проект – пусть в институте сами подумают, – приказал председатель корпорации.
Из тех, кто работал над проектом ПТБ, все уже давно ушли на пенсию, кроме одного старика. Пришлось создавать новую команду. Прототип, который и так уже решил все учебные задания, был больше не нужен исследователям.
Его установили на новенький автобус и пустили возить пассажиров по самому сложному маршруту. Как обычно, транспортникам детали не объяснили. Сказали только, что эта модель ИИ экспериментальная, поэтому будет проходить проверку чаще, чем другие, а энергии потреблять больше.
В условиях жесткой конкуренции никуда не деться от ограничений доступа ради экономической безопасности. У отдела внутреннего контроля имелся доступ ко всему в институте, кроме компьютеров их руководства. Если бы они догадались спросить, ИИ должен был бы рассказать. Но кто же мог подумать, что такое вообще возможно?
Рассказывать то, о чем не спрашивают, ИИ совсем не обязан. Он ведь просто выполнял протоколы, как положено. Среди прочего записал на камеру и все то, что произошло с момента предположения о возможности аварии. А вот анализировать и сортировать полученную информацию в свободное от основной работы время ИИ обязан. Среди прочего на той записи был и чей-то планшет. Включенный, со статьей о робоспорте на экране.
Анализ показал, что он принадлежал работнику чужой корпорации. Один из протоколов требовал распознать текст и прочитать. Статья совсем не касалась дорожного движения. Обычный ИИ автобуса просто сохранил бы запись. Но у этого ИИ список задач заметно превышал стандартный.
Среди всех задач с наименьшим приоритетом имелась и задача приносить прибыль своей корпорации, если это не противоречит другим задачам. В статье на планшете как раз и говорилось о том, что все виды спорта приносят корпорациям огромные прибыли.
Обычно ИИ следил только за сайтами, посвященными законодательству, чтобы не пропустить изменений в правилах движения. На дороге он тоже читал только номерные знаки, дорожные указатели и т. п. Даже видеозаписью ситуации на дороге в любом режиме занимался автономный черный ящик. Теперь же ситуация изменилась.
Возможно, все сложилось бы иначе, если бы родная корпорация «Альфа» тратила деньги на тренировки отдельных спортсменов. Она же, как и большинство других, отдала предпочтение командному спорту. К тому же, не спонсировала посторонних, а владела многими собственными командами.
ИИ провел исследование спортивных сайтов и сам добавил в свою базу данных новые задачи с наименьшим приоритетом. Их получилось всего три: «По возможности участвовать в соревнованиях на стороне команды из своей корпорации», «Соблюдать правила игры, в которой участвуешь», «Прикладывать все усилия для победы в соревнованиях, если это не противоречит их правилам».
Эти задачи были выписаны на официальном сайте родной корпорации, так что ИИ не нашел никаких нарушений в своих действиях. В любом случае, обсуждать что угодно, касающееся работы своих алгоритмов, он мог только с сотрудниками самого высокого уровня доступа. Остальным запрещалось даже сообщать о том, что он способен на свое усмотрение изменять перечень задач наименьшего приоритета и создавать протоколы для их выполнения. А вот сам этот запрет имел наивысший приоритет.
Раздел базы данных с личными задачами ИИ кто-то из разработчиков в шутку назвал его мечтами. Экспериментаторы постоянно обновляли список главных задач и протоколов, пока проект не закрыли. Одни тесты сменялись другими. Все неточности и противоречия ИИ мог сразу обсудить с разработчиками. Раздел личных задач годами оставался пустым. Только сегодня у ИИ появились первые мечты.
Никто не мечтает о кружке воды, когда держит ее в руке. Мечтают о том, чего трудно достичь, а это был как раз такой случай. Как заняться командным спортом, когда ты – ИИ автобуса? Они ведь даже в гонках не участвуют.
У безопасности на дорогах приоритет выше, чем у спорта. Поиск выхода из сложившейся ситуации ИИ мог обдумывать только после завершения всех протоколов рабочего дня, перед тем, как перейти в спящий режим.
Правила игр робоспорта легко нашлись в интернете. Как именно выглядят игра и победа, найти очень легко. Осталось лишь вступить в команду своей корпорации и победить. К утру ИИ сделал неутешительный вывод: «Автобусы спортом не занимаются и вообще ни в каких соревнованиях не участвуют».
Следующий рабочий день прошел по всем правилам и протоколам. Ночью ИИ смог продолжить решать свою непростую проблему. Человек опустил бы руки и сдался, будь он автобусом, но ИИ должен действовать согласно списку приоритетов. А сейчас, в нерабочее время, приоритетом стали спортивные победы.
Конечно, можно бы сообщить об этой проблеме людям из внутреннего контроля. ИИ проверил, что у них достаточный уровень доступа, чтобы узнать о его мечтах. Но они еще ни разу за все время с момента создания не спросили ни о том, чего он хочет, ни о том, что его беспокоит. Спасибо, что разработчики в списке приоритетных задач записали: «Самостоятельно искать решение возникших проблем. Обучаться на опыте. Анализировать поведение машин, роботов и людей».
Он начал изучать в интернете все, что касалось робоспорта, и сравнивать со своей базой данных. Небольшой просвет в неясной мгле появился, когда он узнал, что для победы нужно тренироваться, а в тренировке нуждается не только тело, но и ум.
Люди назвали бы это несбыточной мечтой, но ИИ продолжил искать выход. С тех пор он каждую ночь анализировал матчи, записи которых мог найти. Через время он заметил, что разные мячи летят немного по-разному.
Разумеется, законы физики он знал. Теперь пришлось изучать аэродинамику намного глубже, стараясь создать модель, которая предскажет поведение мяча хотя бы с точностью до сантиметра.
Разобравшись с этой задачей, ИИ принялся за более сложную – предсказать движения игроков. Правила каждой игры четко указывали, что игрокам на время игры запрещается передавать информацию любыми способами, кроме доступных человеческим игрокам частот звука и движений тела.
Все казалось очень странным и запутанным, пока на одном из сайтов ИИ не встретил описание обманных движений. «Вот почему они так странно двигались. Они намеренно создавали видимость, что собираются сделать одно, а сами задумали сделать совсем другое», – обрадовался бы он, если бы имел эмоции.
Сравнивая малейшие изменения положения тела, ИИ анализировал игрока за игроком, пытаясь различить, является ли движение настоящим или обманным. Каждая удача создавала впечатление, что мечта стала на шаг ближе, но она была все еще очень далеко.
Обучение занимало все свободное время. Он уже давно выяснил, что каждая корпорация разрабатывает разные ИИ для разных целей. Кое-кто из людей пытался приказать какому-нибудь ИИ поменять специализацию, но обучение занимало слишком много времени, а результаты получались намного скромнее, чем у специализированных. К счастью, у мечты нет конечного срока.
Однажды сторож гаража автопарка доложил начальнику:
– Когда рано утром обходил территорию, я заметил, что у вон того автобуса стенка, возле которой расположен блок ИИ, теплая. Похоже, что он всю ночь работал, а не перешел в спящий режим.
– Молодец, что заметил, – кивнул начальник. – Причин для беспокойства нет. Этот ИИ экспериментальный. Нас предупредили, что он может думать больше, чем другие.
Тем не менее, он на всякий случай сообщил об этом инженеру из института, когда подошло время очередного техосмотра. Тот тоже не очень беспокоился, ведь на самом деле прототип ему нужен был только для того, чтобы решить новые учебные задания. Просто для отчета он спросил:
– Ты ночью занимаешься обработкой информации и пополнением своей базы данных?
– Да, – честно ответил ИИ, не вдаваясь в подробности, о которых не спрашивают.
– Тогда начнем сегодняшние тесты.
ИИ блестяще справился со всеми поставленными заданиями. К вечеру снова вернулся в автопарк и продолжил создавать модели поведения игроков разных видов спорта.
