Аннотация: Будущее уже здесь. И оно спрашивать не будет, готовы ли мы.
- Чудо инженерной мысли. В общем, мы выяснили, что вот эта гадина виновата во всём этом.
- В непомерно возросших случаях суицида. По всему миру.
- Именно. Это всё программа. Это компьютеры. Они призывают людей свести счёты с жизнью!
- И как же?
- На первый взгляд мои слова бред сумасшедшего, но поверьте, реальность куда мрачнее. Поясню. На компьютер жертвы проникает вирус-программа, которая изучает его, а затем посредством общения с пользователем заставляет его убить себя. Это не шутки! Проникновение основано на многочисленных эксплойтах и бэкдорах, причём вирус активно обновляет способы заражения обращаясь к наиболее известным базам уязвимостей. Это постоянно совершенствующийся швейцарский нож! И у нас есть подозрение, что вирус разработан на основе систем государственного шпионажа, слишком много решений совпадает. Оно способно проникнуть везде, где есть дыры в безопасности, а это почти все ЭВМ!
- А антивирусы? Отслеживание по сигнатурам? Подозрительное поведение?
- Охохо, это крепкий орешек. Полиморфный. И у антивирусов есть слабые места. Подозрительное поведение? Это очень скрытый вирус, он же использует нейросеть, индивидуально, значит он должен же как-то её обучить и проявить себя? А вот нет! Он очень терпелив, и занимает чрезвычайно малую долю процессорного времени, никак не детектируя себя, кусочек за кусочком отщипывая мощности, пока не наберёт свою силу. Если компьютер слаб, но интернет-канал достаточно широк, то он обращается к серверу, и вы ошибетёсь если подумаете об том, что он един, нет, сервер это просто один из других заражённых компьютеров, имеющий достаточную мощность. Всё вычисления делегируются ему, данные очевидно шифруются и передачу не отследить. Капает по капельке, но набегает целый океан.
- Но модели для нейросетей обычно же значительного размера! И неужели они дошли до такого уровня диалога с человеком, что способны не только пройти тест Тьюринга, но и в чем-то убедить его?
- Вы правы, размеры обычно большие. Но тут затравка, самая основа, и она значительно сжата. Кто-то очень хорошо постарался. Насчёт человечности машинного разума - слышали о gpt-2? Это, подчёркиваю, открытая нейросеть. Её успехи поражают! Я лично видел некоторые закрытые разработки торговых ботов и впаривателей различной дребедени, даже с синтезируемым голосом, звонит по телефону и толкает свою дичь. Наш подопытный делает то же самое: общается. Это хитрый паук, плетущий свою паутину, сперва он проникает на компьютер жертвы, по крошкам собирает информацию: из текстовых файлов, фото, взламывает профили в соцсетях и мессенджерах, "ой да ну, нажму запомнить пароль, никто же доступа к компу не имеет", понимает всю суть жертвы, своей мухи и начинает оплетать: фейковые сообщения от родственников и друзей, фейковые звонки, да-да, достаточно нескольких голосовых сообщений, и он уже способен эмулировать голос, послания на рабочем столе в текстовых файлах. Мрак... И всё это выверено, по больным точкам, по уязвимым местам. Мы думали поначалу, что это люди. Нет. Это жестокий и холодный электронный расчёт. Муха в коконе. Муха бьётся. Вирус подталкивает к суициду. Колебания. Муха уже попалась, не выберется! Угнетение, добивание, смерть.
- И как же противодействовать? Объявить компьютеры злом? Переустанавливать ОС по первых признаках заражения? Не пользоваться ЭВМ?
- Ну... Зло не компьютеры, а извращённые существа, их использующие. ОС переставлять? Да я же говорил, он основан на государственном шпионаже, даже возможно использует их системы, какие-нибудь недокументированные ПЗУ, про которые знает только производитель и те, кому он эту информацию продал. Не поможет, мы пробовали стирать всё. Он восстанавливается.
- Так что же делать? Искать автора?
- Есть мнение, что автор, или авторы, специально создавали это неотключаемым.
- Ясно. Тогда мы запускаем пропаганду об избегании общения с этой тварью при признаках её появления и превентивном недоверии данным, полученным через незащищённые каналы связи.
- Хорошо, я сообщу об новых новостях.
- Вы видели новости? Оно что, способно изменять цели?
- Да, в курсе. Похоже теперь вместе суицидников имеем их же, но и ещё и террористов. 5 громких случаев массового расстрела за час, мелких не сосчитать, кое-где уже настоящая война фактически от одной загоревшейся спички, многие школы атакованы, административные здания штурмуют, средние эшелоны власти гибнут пачками, высшие, естественно, уже эвакуируются.
- Пси-террор...
- Всего лишь сменил начальную модель на агрессивную. Теперь жертвы не уходят одни... Думаю, мы стоим на переходе эпох, и наше выживание уже напрямую зависит от информационной гигиены и стойкости духа. Сильные люди создали хорошие времена, породившие машинного гения. Но хорошие времена породили слабых людей. Слабые люди породят трудное время, в котором мы будем жить. И оно создаст сильных людей.
- Естественный отбор. А могло быть так хорошо...
- Будет. Обязательно будет. Но сперва надо выстоять.