Матевосян Карен Аветисович: другие произведения.

Почему изгнали из рая Адама и Еву?

Журнал "Самиздат": [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь]
Peклaмa:
Конкурс 'Мир боевых искусств.Wuxia' Переводы на Amazon
Конкурсы романов на Author.Today

Конкурс фантрассказа Блэк-Джек-20
Peклaмa
 Ваша оценка:


  
  
  
  
   Проблемы человека и робота
  
   Содержание
   Угрозы человечеству
   Меры безопасности
   Почему изгнали из рая Адама и Еву?
   В тексте, для терминов искусственный интеллект, искусственная жизнь и робот разумный, используется аббревиатура, соответственно ИИ, ИЖ и РР.
  
   Угрозы человечеству
  
   Казалось бы творчество человека, огромные достижения науки, инженерное творчество, сулят одни только блага всему человечеству. Блага, действительно, прибавились (не всем, конечно), но и проблем у человечества не поубавилось.
   Неконтролируемая техногенная деятельность человечества уже привела к серьезным нарушениям в биосфере, угрожающим существованию человека. В свою очередь, деятельность человека в области работ по созданию ИИ, ИЖ и в сопутствующих этому направлению областях, способна создать серьезные проблемы в социальной сфере и представляет не меньшую угрозу человечеству.
   Предостережения о грядущих опасностях этого направления творчества человека звучат в наше время уже не только от писателей-фантастов. "Прозрели" ученые и специалисты. Вот только два высказывания. Их часто приводит мировая пресса.
   Одно принадлежит специалисту в области создания технических и программных средств вычислительных машин, Биллу Джою, соучредителю известной корпорации Sun Microsystems Inc: "Теперь, перед перспективой создания вычислительной мощности, близкой к человеческой, примерно через 30 лет, мне приходит в голову мысль, что я, возможно, работаю над созданием инструментов, которые позволят создать технологии, заменяющие нас самих.... Эти технологии XXI столетия, генетика, нанотехнология и роботика, настолько могущественны, что могут привести к совершенно новым типам катастроф и злоупотреблений. Опаснее всего то, что, впервые за всю историю, эти катастрофы и злоупотребления становятся вполне по плечу частным лицам и небольшим группам. Они не будут нуждаться в крупных производственных мощностях или редких материалах". (Из интервью журналу Wired, март 2000 года). В настоящее время, кажется, он отошел от активной деятельности в этой области.
   Другой "прозревший", доктор философии, выпускник Гарварда, Теодор Качински, свое видение будущего изложил в статье "Индустриальное общество и его будущее", (получившей известность как "Манифест Унабомбера"): "По мере того, как общество и стоящие перед ним проблемы будут становиться все более сложными, а машины - все более разумными, люди станут позволять машинам принимать все больше решений за себя... В конце концов, будет достигнута фаза, когда решения, необходимые для поддержания системы, будут настолько сложными, что люди не смогут разумно их принимать. На этой стадии машины фактически обретут контроль... Благодаря развитой технологии элита будет иметь более широкий контроль над массами, а поскольку человеческий труд больше не будет нужен, массы станут лишними, просто бесполезной нагрузкой на систему. Если такая элита беспощадна, она может просто принять решение об истреблении человечества. Если же она гуманна, она может прибегнуть к пропаганде или другим психологическим и биологическим методам для сокращения темпов рождаемости до тех пор, пока основная масса человечества не исчезнет, освободив мир для элиты".
   Но, в противоположность другим, он не только предрекал. Пытаясь "спасти" мир от науки, Качински с 1976 по 1995 год терроризировал США, рассылая по почте бомбы учёным и предпринимателям, которые работали, по его предположению, в области информационных технологий, убив троих и покалечив более двух десятков людей. В настоящее время он отбывает пожизненное заключение в тюрьме в США
   Потенциально, в любых крупных, можно сказать, судьбоносных научно - технических достижениях содержится угроза человечеству, особенно в сочетании с не устоявшейся психикой человека. Открытие неиссякаемого источника термоядерной энергии человек, в первую очередь, превратил в орудие угрозы, разрушения, уничтожения. Он не смог устоять перед соблазном испытать это оружие на людях. Хиросимо и Нагасаки - памятник человеческой жестокости и глупости. Возникла реальная угроза ядерного терроризма. Остро стоит проблема утилизации радиоактивных отходов.
   Не успело человечество оценить блага генетики, как в "цивилизованных" странах начались исследования над созданием оружия, способного поражать людей по этническим признакам: по национальности, цвету кожи, разрезу глаз. Циничнее - не придумаешь.
   Так и не научившись предсказывать землетрясения, в ряде стран ведутся работы по созданию (если уже не создано) сейсмического оружия, способного вызвать искусственное землетрясение на огромной территории.
   Точно так же, создание искусственного интеллекта, искусственной жизни, несомненно, породит ряд новых искушений и проблем для человечества. К тому же, не решив проблемы взаимоотношений внутри своего сообщества, человечество столкнется с необходимостью выстраивать отношения с новым, порожденным им же самим сообществом РР. А это, наверное, сделать будет не просто.
   Какое - то время РР будет зависим от человека, и будет ему подчиняться. Однако всегда существует опасность "выпустить джина из кувшина". Об этой восточной притче, когда освобожденный из заточения в кувшине джин сообщает своему освободителю о том, что он поклялся уничтожить того, кто его выпустит, не раз напоминал Н. Винер. Правда, в конечном итоге, джин и его освободитель приходят к компромиссу. По одной из версий, человек, нашедший кувшин, хитростью загоняет джина обратно, а по другой - джин становится его верным слугой
   Будем надеяться, что и во взаимоотношениях человека и робота разумный компромисс будет найден. К тому же, время, когда начнут возникать конфликты, наступит не скоро. РР предстоит еще многому "научиться": умению оперировать накопленными знаниями, образно мыслить, творить и, наконец, что "важно" для конфликтов, выражать эмоции. Возможно, что и человечество к этому времени поумнеет, станет разумнее.
   А пока самая большая опасность таится в использовании достижений ИИ при разрешении конфликтов, "выяснении отношений" между странами и народами. Слишком уж противоречивым, амбициозным продолжает оставаться человеческое сообщество. Потенциально оно чревато взрывами и потрясениями. Как и на заре человечества, люди, при разрешении своих споров, тянуться за дубинкой.
   При современном уровне человеческих отношений и культуре, научные достижения, в руках какого - либо клана, узурпировавшего власть, будут крайне непредсказуемыми и опасными для всего человеческого сообщества. Клан жрецов Древнего Египта, владея высоким, для своего времени, уровнем знаний, некоторыми эффектными приемами и фокусами, веками удерживал в повиновении подвластные им народы. Современные "фокусы" гораздо эффективнее, а "дубинка" с искусственным интеллектом в руках амбициозного клана будет пострашнее ядерной бомбы.
   Люди быстро забывают трагедии разрушительных войн. Это одно из свойств человеческого разума - самосохранение. Однако кланы и личности, жаждущие власти, не изжиты и продолжают поощрять работы по созданию все более разрушительных видов оружия. И только страх перед возмездием сдерживал и сдерживает многих из них от авантюр.
   Большому политику У. Черчиллю приписывают высказывание о том, что "средства войны предотвращают войну" (не уверен, что фраза дословная). Однако, страх перед агрессией, как и страх перед возмездием всегда порождают только рост вооружений. Одни зарываются в землю, строя бункеры на глубине в десятки метров, а другие, соответственно, создают бомбы, способные проникать на эту глубину. Политики ряда стран (развитых и, конечно, цивилизованных) планируют, уже в недалеком будущем, убивать и завоевывать для себя пространства "жизненных интересов" с помощью роботов с ИИ. Над этим усиленно работают. Арена возможных военных действий перемещается в космос, а для прикрытия от ракетной угрозы с неба придумываются "зонтики". И все понимают, что от растущей мощи у кого-нибудь, неизбежно, разыгрывается "аппетит", но надеются, что беда их минует.
   Самые разрушительные и смертоносные войны в истории человечества произошли в ХХ просвещенном веке. И в третье тысячелетие мир перешел с непрерывно вспыхивающими региональными и национально - этническими войнами, борьбой сверхдержав за передел мира. Продолжается борьба за сферы влияния и дележ не раз поделенного, за всю историю человечества, мира. Сохраняется противостояние Восток - Запад. Набирает силу терроризм. Размножаются преступные кланы.
   Похоже, что прекратить свои распри и контролировать перспективу, человечество не торопится.
   Что делать? Веками человек безуспешно ищет ответ на этот вопрос. Восточная мудрость гласит: "Прежде чем войти, подумай, как выйти". Но человек не всегда действует, подумав.
   Запретить творчество? Человек не в силах это сделать. Творчество - продукт цивилизации, но развивается, эволюционирует оно по не зависящим от человека законам. Это законы развития цивилизации, эволюции жизни, разума, закон сложности. Это отдельная тема.
   Проблемы в наслоениях взаимоотношений между странами и народами это все внешние проявления инстинктов выживания, засевших в человеке со времени, когда еще не принято было думать: "это моя добыча", "это моя территория". А сегодня, когда человек научился соображать, низкий уровень культуры, особенно в странах, считающих себя цивилизованными, не позволяет ему сдержать эти инстинкты. Культура мышления у политиков этих стран остается на уровне каменного века. Изменилась лишь форма выражения притязаний: "это мое завоевание", "это зона моих жизненных интересов".
   Обычно зверь, отвоевав себе территорию, пометив ее границы, не претендует на большее. Даже если он сильный зверь. А кланы, почувствовавшие силу, объявляют зоной своих жизненных интересов территории, находящиеся от них "за три моря".
   Время от времени, тот или иной клан задумывает установить новый мировой порядок, навязывает народам и странам разные "...измы". Чем это кончается - известно. Но суета человеческая не утихает.
   Вывод: следует прививать не "...измы", а культуру. Кому и как это делать -пока не ясно. Остается уповать на время и разум, если, конечно, наша цивилизация удержится в этом мире.
   А за это время, вероятно, появится племя РР, у которого возникнут свои интересы и притязания. С этим племенем человеку придется считаться и строить отношения. Проблемы, вначале, будут у человека. У робота они появятся потом и из-за человека. Но, разрешив свои проблемы с человеком, РР предстоят проблемы уже в своем сообществе.
  
  
   Меры безопасности
  
   В чем суть вероятных конфликтов между человеком и РР? Смогут ли сосуществовать человеческое общество и порожденное им общество РР? Сможет ли человек всегда контролировать и управлять поведением и развитием РР? Вопросов много, но не на все есть ответы.
   Рост в мире "популяции" компьютеров и роботов - автоматов приводит к постепенному вытеснению человека из сферы труда и, в конце - концов, человеко-машинный симбиоз может (скорее всего) завершиться для людей массовой безработицей. Остановить "экспансию" компьютеров человечество уже не может. В истории есть примеры, когда люди, ломая машины, пытались остановить процесс индустриализации. Это движение английских луддитов, поднявших текстильный бунт в Англии, в начале XIX века, разрушавших ткацкие станки. Современные "луддиты" - хакеры разрушают информацию, хранящуюся в компьютерах. Некоторые делают это в корыстных целях, другие заявляют, что выступают они за открытость информации. Движение хакеров пока не оформилось.
   Несомненно, что, если процесс компьютеризации общества и "роботизации" промышленности будет протекать продуманно, постепенно, с тем, чтобы создавались новые отрасли и люди успевали переквалифицироваться, то острота конфликта будет надолго отдалена. Работы на Земле всем хватит. Но, в погоне за большой прибылью, предприниматели не успевают (и не хотят) задумываться о последствиях.
   Однако до того как роботы создадут проблему занятости, человечеству грозит демографический взрыв. По возрастающей растет численность населения земли. И с огромным перекосом между разными народами. Неужели человечество не научиться управлять своей популяцией, уповая лишь на войны и эпидемии? Сумели ведь этому научиться, например, муравьи, ограничивая рост популяции мирным путем!
  
   Сами по себе ИИ, РР прямую угрозу человечеству не несут. У компьютерного разума нет пока поводов для конфликта с человечеством. Особенно, если этот робот - автомат.
   К серьезным последствиям могут привести ошибки в программе или непредсказуемый сбой, либо поломка какой-нибудь части механизма, которые спровоцируют неуправляемый процесс. В этом плане, задача обеспечения надежности и безопасности технических и программных средств ИИ и РР всегда актуальна.
   Если в части обеспечения надежности информационных систем имеется немало решений и наработок, то вопросы безопасности сложнее. Непредсказуемое поведение таких систем может быть не только следствием ошибок, но и результатом умышленного вмешательства извне. Уже сегодня информационные системы подвергаются "взломам", поражениям вирусами, вводу ложной информации, с которыми не так просто бороться.
   Можно ожидать, что поведение РР, созданного как подобие человека и "воспитанного" человеком, со всеми присущими ему недостатками и уровне культуры, мало чем будет отличаться от поведения своего творца. Конфликты будут вспыхивать как внутри сообщества РР, так и между РР и его создателем. В этом случае, сообщество РР уподобится сообществу людей, станет его частью и дальнейшее зависит от того, у кого ума больше.
   Большинство бед человечество переживает из-за того, что многие поступки, вопреки логике, совершаются под воздействием эмоций. Эмоции, по существу, являются катализатором конфликтов. Казалось бы, сдержи эмоции, подумай и во многих критических ситуациях, можно избежать конфликта. Но люди, почему-то, не всегда хотят думать. Этому не стоит удивляться. Эмоции, как и инстинкты, реликтового происхождения и они предшествовали развитию разума, сыграв свою, немаловажную роль в выживании и эволюции человека в доисторические времена.
   Если, принять во внимание, что ИИ и РР развиваются в благоприятной среде и лишить их эмоций, таких как злость, зависть, эгоизм, корысть, жестокость, то многих конфликтов в будущем можно будет избежать. Хотя, не исключено, что, в ходе своей эволюции, РР поймет, что жить без такого набора эмоций сложно и скучно. В этом случае, перспективу отношений РР и человека трудно предсказать.
   Эффективной мерой безопасности могло бы быть ограничение уровня развития РР. Природа поступила мудро, оставив разум только человеку. Дай разум всему животному миру, неизвестно, как бы сложилась жизнь на планете. И в животном мире постоянно возникают столкновения, но они не носят такого глобального, жестокого, разрушающего все на своем пути характера, как у человека.
   Весьма приемлемый, наверное, для человечества вариант, если сообщество РР будет организовано по типу сообщества муравьев или пчел. Такое сообщество можно будет, при необходимости, ориентировать на ту или иную область деятельности. Но РР с предсказуемым поведением - это робот-автомат. Удовлетвориться ли человек ограниченным уровнем развития РР? Вряд ли. Ведь он захочет использовать его вместо себя. Послать, например, РР вместо себя на поселение в космос. Но там с ограниченным интеллектом делать нечего. Кроме того, творческие амбиции не позволят человеку ограничиться достигнутым.
   И, наконец, крайней мерой безопасности является принудительное, при необходимости, прерывание развития РР. Суть метода проста: неуправляемая, вышедшая из-под контроля человека система (в нашем случае РР), отклонившаяся от целей своего назначения и представляющая опасность для окружающих, должна самоликвидироваться.
   Не исключено, что подобный принцип, иначе говоря, запрограммированная гибель, имеет место и в биологических системах. Например, при безудержном возрастании численности, небольшие грызуны, лемминги, предпочитающие, обычно, вести индивидуальный образ жизни, собираются в громадные стаи и несутся неведомо куда. Стаи этих сухопутных зверьков не раз наблюдали в море, далеко от берега, где они тысячами гибли. Подобным же образом ведет себя иногда саранча. Сообщается о случаях, когда громадная стая саранчи неожиданно оставляла поле с сочной зеленю и улетала в пустыню, где миллионами гибла.
   Экспериментируя с мышами, исследователи обратили внимание, что при неограниченном размножении и неизменном хорошем питании, по достижении некоторого критического уровня численности, у них начинает сокращаться рождаемость, проявляются болезни, происходят изменения в надпочечниках, вырабатывающих ферменты, в гипофизе. Подобные изменения в органах наблюдались и у леммингов.
   Причины и критерии этих процессов пока не раскрыты. Возможно, что биологическими ограничивающими механизмами, наряду с резким изменением климата и другими природными катаклизмами, можно объяснить исчезновение некоторых видов животного мира, например динозавров, развитие которых вошло в противоречие с окружающим их миром и со своим предназначением.
   Конечно это только предположение. Но, несомненно, что конструктор самостоятельного, независящего от человека РР, из предосторожности, заложит в свое детище меры, корректирующие поведение и пресекающие нежелательное развитие. Разработка таких методов в компетенции ученых и инженеров.
   Однако, вероятнее всего, что РР, со временем, поймет свое превосходство над человеком. В книге "Я - робот" писателя - фантаста Айзека Азимова, робот сравнивает человека с собой: "Я не хочу сказать ничего обидного, но поглядите на себя! Материал, из которого вы сделаны, мягок и дрябл, непрочен и слаб. Источником энергии для вас служит малопроизводительное окисление органического вещества вроде этого, - он с неодобрением ткнул пальцем в остатки бутерброда. Вы периодически погружаетесь в бессознательное состояние. Малейшее изменение температуры, давления, влажности, интенсивности излучения сказывается на вашей работоспособности. Вы - суррогат! С другой стороны, я - совершенное произведение. Я прямо поглощаю электроэнергию и использую ее почти на сто процентов. Я построен из твердого металла, постоянно в сознании, легко переношу любые внешние условия". Эта оценка недалека от истины.
   Осознав себя как личность и, оценив свое превосходство, робот просто не захочет иметь дело с человеком. В этом случае зачинщиком раздоров выступит сам человек, так как вряд ли он согласится с второстепенной для себя ролью на своей планете.
   Выдержит ли человек конкуренцию с РР? Ведь он постарается заложить в свое детище большие возможности и умение, по сравнению со своими, для выживания там, где он сам не способен выжить.
   Сумеет ли человек предотвратить возможность возникновения противостояния между ним и РР? Можно предположить, что не сможет, если только не примет запретительные меры на некоторые направления разработок, чреватые опасными последствиями, или заложит в развивающееся "племя" РР меры ограничивающие его развитие, или, наконец, уничтожит свое творение, если почувствует, что оно угрожает его существованию.
   Уничтожить свое творение человек не сумеет, рука на такое не поднимется. И вряд ли сможет наложить запрет на работы в этом направлении, которые уже сегодня вызывают большой коммерческий интерес и, кроме того, создают иллюзии у политиков о стратегическом превосходстве над потенциальным противником. Кроме того, редкий ученый, подстрекаемый любознательностью и амбицией, сможет удержать себя от искушения "открыть крышку кувшина".
   Примеров попыток сдерживания опасных для человечества работ много. Решение о запрещении применения биологического оружия принято почти всеми странами, однако, тайные исследования и создание арсенала такого оружия продолжаются, и опасность его применения остается. Исследования и разработки по созданию новых, более разрушительных видов ядерного оружия продолжают вестись, несмотря на договоренность о запрещении испытаний.
   Некоторые работы в области генной инженерии, клонирования вызывают протесты церкви. Опыты по человеческому клонированию запрещены Европейской конвенцией по правам человека и биомедицине. Однако исследования продолжаются по нарастающей. Конечно, немало работ в этих областях направлены на преодоление неизлечимых на сегодня болезней человека. Но где гарантия того, что "экспериментаторы" когда - либо не доберутся и до человека, усиливая или подавляя те или иные его качества. Будут такое вести вопреки запретам, тайно от общества, предполагая, что конкурент (потенциальный противник) также проводит подобные работы.
   Безусловно, что определенные ограничения должны устанавливаться и соблюдаться. Но только добрая воля и доверие народов и политиков друг по отношению к другу позволят организовать эффективный контроль над работами, чреватыми опасностью для человечества. И если, при этом, часть средств, расходуемых на вооружения, направить на развитие средств контроля над разработками, то человек мог бы быть спокоен за свое будущее.
   Истины довольно простые, но их не просто принять политикам, отражающим интересы олигархии своих стран и озабоченных больше всего проблемой продления своей власти.
   Следует упомянуть и еще об одной вероятной опасности в будущем. Учитывая, что процесс саморазмножения РР может иметь управляемый и планируемый характер (смогли ведь этого достичь общественные насекомые), то не исключено, что, в их среде, "созреет" свой клан роботов, самых "умных", который захочет и сумеет узурпировать власть и управлять сообществом в своих интересах. Если это произойдет далеко в стороне от человеческого общества (скажем, на другой планете), то в этом особой опасности нет, они сами будут разбираться.
   Не лишней мерой безопасности было бы принятие на международном уровне декларации прав и ответственности, как для роботов, так и для их творцов, и государств. Время для создания и принятия такой декларации настало.
   Некоторые "законы робототехники" сформулированы у Айзека Азимова в романе "Обнаженное Солнце":
   "Первый Закон робототехники: робот, ни при каких обстоятельствах не смеет делать ничего, что может причинить вред человеческому существу, а также своей пассивностью допустить, чтобы человеческому существу был причинен какой - либо вред.
   Второй Закон робототехники: робот обязан точно и быстро повиноваться приказам, полученным от человеческих существ, за исключением тех случаев, когда эти приказы противоречат Первому Закону.
   Третий Закон: робот обязан защищать себя от любых повреждений, только если эти действия не противоречат Первому и Второму законам".
   Эти законы исполнимы, если будет соблюдаться еще один закон: все исследования и разработки, выполняемые в области искусственного интеллекта и искусственной жизни должны быть открыты для широкой общественности и не должны использоваться в преступных целях. К государству, уличенному в подобных разработках ИИ, должны быть применены политические и экономические санкции со стороны стран, принявших декларацию.
   Вместе с тем, учитывая, что декларируемые законы могут остаться пустым звуком, человеку не мешает заранее подумать о нише в этом мире для РР или для себя.
  
   Почему изгнали из рая Адама и Еву?
  
   Нечто подобное, высказанным выше сомнениям о взаимоотношениях человека и РР описано в Библии. Такое либо действительно когда-то имело место, либо повествователи из далекого прошлого были хорошими провидцами, смогли предвидеть далекое будущее и проблемы человечества.
   Бог, экспериментируя, творя живые существа, последовательно приближался к созданию человека "по образу и подобию своему". Создав Адама и поселив в саду Эдемском, "чтобы возделывать его и хранить его", Бог предупредил его: "от всякого дерева в саду ты будешь есть; а от дерева познания добра и зла, не ешь от него; ибо в день, в который ты вкусишь от него, смертию умрешь".
   Творец предвидел предстоящие возможные конфликты и противостояние, и старался оградить свое создание от бесконтрольного, независимого поведения и развития. Однако человек был сконструирован настолько совершенным, что к тому времени он сам стал разбираться в том, что для него хорошо и что плохо. К тому же, Искуситель сумел уговорить Еву, а та, в свою очередь, Адама: "и знает Бог, что в день, в который вы вкусите их (имея в виду, очевидно, плоды дерева познания добра и зла, примеч. автора), откроются глаза ваши, и вы будете, как боги, знающие добро и зло" (Бытие:3: 6-7).
   И человек бросил вызов Творцу.
   Уничтожить свое детище не каждый решиться. Не смог этого сделать и Бог. И, лучшее, что он смог придумать - назначил другое местопребывание человеку - планету Земля.
   "И сказал Господь Бог: вот Адам стал один из Нас, зная добро и зло; и теперь как бы не простер он руки своей, и не взял также у дерева жизни, и не вкусил, и не стал жить вечно. И выслал его Господь Бог из сада Едемского, чтобы возделывать землю, из которой он взят".
   Подобным же образом, во все времена, поступал и человек. Неугодных себе субъектов (преступников, вероотступников, а также слишком умных), правящий клан ссылал на дальние поселения как, например, в Австралию, в Сибирь.
   Возможно, что весьма похожий сценарий ожидает в будущем человечество. Создав искусственную жизнь и разумного робота (также "по образу и подобию своему"), человек, во избежание конфликтов со своим детищем, должен либо смириться с второстепенной своей ролью, считая, что в этом его предназначение, а сотворенный РР - это "очередное" перевоплощение человека, либо должен с ним расстаться, сохранив у себя робота с контролируемым и управляемым поведением,,достаточным для выполнения необходимых обществу работ. По крайней мере, другой способ компромисса, между человеком и РР не просматривается.
   Радикальным, позаимствованным у Бога решением проблемы конфликта между человеком и РР, будет "ссылка" последнего в дальний космос, как ссылали всех инакомыслящих и неугодных. Иначе говоря, человеку предстоит историческая миссия - "посеять" жизнь.
   Для Природы - это та же экспансия жизни, живой материи. А для человечества, такое решение неплохой шанс "заселить" далекий Космос, в надежде на то, что через миллионы лет где-то будут развиты цивилизации. Миллионы лет - небольшой срок по сравнению с вечностью. А в течение этого времени человеку есть, что делать на Земле и в околоземном пространстве.
  
  

 Ваша оценка:

Популярное на LitNet.com М.Атаманов "Альянс Неудачников-2. На службе Фараона"(ЛитРПГ) А.Кутищев "Мультикласс "Союз оступившихся""(ЛитРПГ) Т.Мух "Падальщик"(Боевая фантастика) М.Юрий "Небесный Трон 5"(Уся (Wuxia)) Грейш "Кибернет"(Антиутопия) И.Иванова "Большие ожидания"(Научная фантастика) Д.Сугралинов "Дисгардиум 6. Демонические игры"(ЛитРПГ) А.Верт "Пекло 3"(Киберпанк) А.Тополян "Механист"(Боевик) В.Кретов "Легенда 4, Вторжение"(ЛитРПГ)
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
Э.Бланк "Институт фавориток" Д.Смекалин "Счастливчик" И.Шевченко "Остров невиновных" С.Бакшеев "Отчаянный шаг"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"