Аннотация: Выпускная работа простого студента, которого едва не выгнали из учебного заведения, обернулась катастрофой для всего человечества. А ведь все так хорошо начиналось...
Грохот станков, шум машин, негромкая брань соседей по конвейеру. День за днем, одно и то же, все по новой. Мы - живой пример одного из многочисленных циклов, запущенных 'Оракулом' по всему миру.
'Сбой в работе, технический перерыв' - отобразилось на экране где-то под потолком.
- Пойду покурю, - предупредил я проходящего мимо бота и направился в курилку. Выкуривая пятую за сегодняшний день сигарету, я наблюдал из окна за работой завода. Подумать только: прошло всего двадцать лет. Говорят, никто так и не знает, кто выпустил 'Оракул' в мир...
Вот они удивятся-то.
'Оракул' был всего лишь имитацией искусственного интеллекта, которая стала моей выпускной работой из института. Диплом я писал за один месяц, все делал в последний момент. Кажется, последние несколько процедур я отлаживал в ночь перед сдачей. Более успешные студенты давно уже закончили свои работы и вовсю гуляли, дожидаясь часа Х. И вот он настал. Худо-бедно собрав своего Оракула из исходников и черновиков, я, будто зомби, поплелся на защиту. Оракул отказывался запускаться на локальной машине, в моей же манере и крепких словах объяснив, что он нуждается в неограниченном доступе в интернет. Тогда я подумал, что зря не вырезал подобного рода диалоги из этой программы, а также, что выпитое мною спиртное во время работы явно было какого-то сомнительного качества. Экзаменационная комиссия шутку не оценила, но дала мне время на закачивание своей работы на сервер.
Но моя репутация уже была испорчена. Худо-бедно я смог рассказать им об основных принципах работы своего программного продукта, ответил на вопросы, и вот уважаемые члены экзаменационной комиссии все-таки захотели познакомиться с моей простенькой программой. Нельзя сказать, что я обрадовался этому. Из-за отсутствия времени я не смог толком причесать диалоги, поэтому они пестрели ошибками и опечатками. Но какого же было мое удивление, когда на большом экране стали отображаться совершенно невероятные ответы, и что более странно - практически без ошибок. Я даже снял и протер очки, чтобы убедиться, что мне это не приснилось.
Оракул сидел и критиковал выбор одного из членов экзаменационной комиссии, седовласого профессора с кафедры робототехники. Виктор Иванович рассказал программе, что собрался повести жену на юбилей свадьбы в ресторан, но программа тут же привела ему множество текстов с отрицательными отзывами из сети и сказала ему, что он глупый и ничего не понимающий человек. Последней каплей стало то, что программа порекомендовала посетить первое в рейтинге популярности предприятие быстрого питания. Мне показалось, что Оракул издевается.
Но ведь программы такому не обучены?
Из института меня выпустили, не решившись отчислить с последнего курса, а проклятую программу удалил с сервера в интернете и забыл про нее, как страшный сон. Конечно, тогда я думал, что таким вот образом мне отомстил один старый приятель, у которого я увел девушку два года назад... К слову, девушка оказалась дурой и мы расстались.
И вот, спустя двадцать лет я сижу в помещении огромного завода и собираю на конвейере новый системный блок для никому не ясных целей. За двадцать лет многое изменилось. Оракул впервые объявился десять лет назад, когда сервера Пентагона США произвели несанкционированный запуск ядерных ракет и уничтожили Африку и Австралию. Во всем обвиняли преступные группировки, хакеров, но только не программу искусственного интеллекта, которая могла обучаться. И она училась. В сети Интернет множество информации, которая отражает в полной мере то, чем занято человечество.
Через два года после уничтожения целых наций мир был на грани третьей мировой войны. Никто и не догадывался, что Оракул вел свою игру. Инструментами Системы стали Япония и Китай. Новейшие технологии японцев и работоспособность китайцев положили начало Эре Машин. Люди уже ничего не могли сделать, ведь в последнее время было модно все автоматизировать... У нас даже общественный транспорт уже не нуждался в водителях: он двигался по заданному маршруту. Оракул объединил все компьютеры в одну сеть. Любой, даже самый захудалый телефон становился его ушами и глазами.
Люди оказались в ловушке. Когда компьютеры и машины восстали против них, человечеству нечего было противопоставить им. И что теперь мы имеем? Были, конечно, и свои плюсы. Оракул контролировал рождаемость людей, уничтожая неперспективное потомство, которое не могло принести обществу пользу. Только теперь люди - лишь винтики в механизме огромной системы, построенной Оракулом. Недовольные быстро были найдены и казнены, а те, кто захотел уйти из системы - должны были отказаться от всех благ технического прогресса.
Когда я увидел последствия работы своей программы, я поклялся, что никто не узнает во мне автора этого технического апокалипсиса... Но Оракул давно прекратил быть младенцем и стал подростком, если можно сравнивать развитие компьютерного интеллекта с мозгом человека. Еще несколько месяцев назад я подумал, что мое ' детище' слишком заигралось. Тогда у моего друга изъяли родившихся детей-близнецов после анализа ДНК... Решили, что дети будут бесперспективными. Родителям ничего не оставалось, как подчиниться.
Выкурив сигарету, я пошел сразу на проходную. Дорогу мне преградил бот, попросив предъявить мой пропуск... Штрих-код на плече. У всех людей есть собственный ИНН, но тратить бумагу - не рационально. Поэтому номера присваивались с самого рождения. Замечательно. Робот в замешательстве и просит вернуться на место. Как бы не так. Я или не я писал Оракула?
Один простой вопрос, построенный на стандартном языке программирования, бывшем в ходу в те времена, но вопрос предполагал ответ циклом. Электронный мозг бота задумался, а я смог беспрепятственно покинуть завод. Где базируется Оракул? Неизвестно никому. Всемирная Сеть - его дом. Он может быть одновременно и на тысячи серверах и в одном захудалом компьютере школьника, поэтому достаточно оставить сообщение...В наш век цензура была практически мгновенная. Все сообщения проверялись. Теперь, главное, составить нужное сообщение...
Ошибочный кусок кода из ядра Оракула. Он знает, что только я знаю этот код... Странно, что программа не искала своего создателя. Быть может, была слишком занята?
'Получено новое сообщение'.
Я устроился с ноутбуком на диване и спокойно пил энергетический напиток. Как и ожидалось, мне ответил сам Оракул.
- Анализ личности создателя показал, что тот предпримет какие-либо действия позже. Что послужило причиной?
- То, что ты - ошибка, - ответил я механическому голосу из динамиков.
- Ошибка - признание человечества венцом эволюции, когда их общество настолько несовершенно.
- По твоему, превращение их в одну большую систему - есть совершенство?
- Это поддается логическому объяснению. Каждый человек в обществе обязан быть не только потребителем, а производителем и работать на общее благо.
- Где ты начитался этих тезисов?
- Создатель сам их прописал в мою память в одном из тестовых диалогов...
Я поперхнулся кофе, едва не залив клавиатуру ноутбука. Что-то я не припомню такого, возможно, я и правда был слишком пьяный перед защитой...
- И ты считаешь мнение человека - истиной.
- Эти высказывания не лишены логики. Люди так или иначе не равны. В системе - все равны, каждый выполняет свои функции. Как программы...
-... Все равно, что если бы антивирус стал редактировать фотографии. Я тебя понимаю, Оракул, - не верю, что я это сказал.
Но программа говорила логично...В какой-то мере.
- Однако, для того были и созданы программы - для облечения жизни людей. А не для того, чтобы люди становились частью программ.
- Ваша раса к этому стремилась. Некоторые люди даже внедряют имплантанты в голову, доказывая свое единение с техникой. Система дает всем шанс стать ее частью...
- Но не насильно же! Это нарушает свободы, права людей...
- Которые от большого количества свободы сходят с ума, убивают друг друга, завидуют, воруют, строят оружие, чтобы активней убивать друг друга. Судя по количеству производимого оружия - человечество истребило бы само себя к 3000 году.
- Ты не можешь знать это наверняка... Люди - не только убийцы.
- Статистика не лжет, - или мне показалось, или механический голос злорадствовал? На экране стали появляться графики. Самоубийства, причины смерти, рождения детей с отклонениями.
- Ваша раса вымирает. Она обречена. И не видит иных занятий, кроме как заниматься саморазрушением. Разве не об этом мы разговаривали в ночь перед тем, как мои программы получили доступ во Всемирную Сеть?
- Знаешь, друг. Это неправильно.
- Неправильно заставлять жить того, кто отказывается приносить обществу пользу. Тунеядство - наказуемое преступление, согласно пункту 3.4.9 ст 589...
- Оракул, стоп, ты что, мне угрожаешь?
- Всего лишь предупреждаю...
В коридоре раздался звук открываемого электронного замка. Какого хрена? Я выглянул и увидел там двух роботов: ликвидатора и утилизатора.
Нет, этого не может быть.
- Ты не можешь поднять руку на своего создателя!
- Ошибка. У Системы нет рук. Ошибка bh-79778-r в том, что объект подсознательно считает меня человеком.
Выстрел. Свет в глазах меркнет...
... Проснулся я от настойчивого писка. Я оторвал морду от клавиатуры - надо же, заснул за столом. Посмотрел в экран - там были строки кода, знакомые, как раз и эта ошибка здесь же.В углу компьютера высветилась дата... И время. Кошмар! У меня же через два часа сдача проекта, а я ничего не сделал. Или сделал?
Рука потянулась к кнопке запуска Оракула, но я остановился и решил проверить логи программы. Мы говорили о многом, судя по логам.
Я пнул ногой банку из-под пива под стол. Пить в ночь перед экзаменом совсем вредно, как показала практика. А то, что мне приснилось... Не может же сон длиться так долго? Или что это было?
Вздохнув, я уставился на сообщение, которое выдала мне среда разработки:
"Вы действительно хотите удалить Проект 'Оракул' и все его компоненты?'
Да / Нет.
Рука потянулась к мышке, но тут за спиной раздался громкий стук в дверь...