Утраченное пламя

Warning: концепт я излагал смсками из больницы другу. Это сказалось на манере изложения.

Несколько месяцев назад Много месяцев назад (как раз во время поста «Пилотируемая космонавтика») у меня с приятелем случилился спор о пилотируемой космонавтике и о том, нужен ли вообще в космосе человек.

Мой приятель утверждал, что «кузнец не нужен», что люди и так уже знают всё о взаимодействии человека и космоса и пилотируемая космонавтика не нужна. Не нужна еще и потому, что машина может сделать всё лучше человека. Лучше, быстрее, точнее, а мозг человека слаб и сам человек бесполезен. И что человек, мол полетит на Луну как турист, а до этого ему делать на луне нечего.

Некоторое время назад мне пришел на ум концерт мира-модуля — мир победы Технологии над Любопытством человека.




Представь себе, что ты родился в технологическом раю. Все или почти все технологии, которые уже есть или вот-вот будут — дешевая и обиходная часть реальности. Вряд ли вокруг «город-сад», но техногенный рай — уж точно. Освоен ближний космос и Пояс, потребности человека удовлетворяются — «каждому по потребностям и пусть никто не уйдет, а что от каждого? А ничего!» Утопия для технократа, упивающегося технологиями. Космос освоен, но — НЕ ЛЮДЬМИ.

Ведь машины умнее, точнее, быстрее. Вероятно всем этим технораем кто от управляет — я имею в виду программирует машины на еще лУчшее удовлетворение потребностей, но кто? И не делает ли это давным давно ИскИн, создатели которого умерли лет 30 назад?

Представили себе такой мир? Мир, в котором человека сбросили с престола Творца и Создателя, потому что МАШИНЫ ДЕЛАЮТ ЭТО ЛУЧШЕ! Да, и музыку сочиняют точно такую, какую нужно — на основе нейроритмов. И картины рисуют на основе генетических алгоритмов и обученных нейронных сетей. И отливают скульптуры из термопластика идеальные для каждого. Я уж не говорю о безопасных наркотиках (именно таких биохимчески, какие сейчас нужны мозгу), безвредном алкоголе и даже сексе (с гиноидами или андроидами...).

И сбросили его не машины — это не мир матрицы, очень важно это показать.

НЕТ!

Предки добровольно отказались от Дара Прометея, вложили его в машины — из самых лучших побуждений. Но благоприятный намерениями… и вот этот ад и надо показать.

Интересно, смогут ли игроки в таком мире понять, ради чего же вообще человеку стоит жить? Смогут ли они найти Настоящего Врага их цивилизации? Смогут ли они снова раздуть в людях уже почти угасшие Искры Прометеева Огня?

Машины — не враги. Машины подчиняются трем законам Азимова и трем принципам: служить, защищать и развлекать.

А вот само стремление ребенка Творить самому в таком мире — это что-то… постыдное! Это что-то, что кое где уже считают болезнью, болезнью душевной, расстройством психики.

Вам страшно? Мне — страшно. А ведь это один из вероятных путей развития нашей реальности.

X-Post: Блог 2501
XPost

62 комментария

avatar
А как из всего, изложенного в посте вышло финальное «А вот само стремление ребенка Творить самому в таком мире — это что-то… постыдное»? Что-то у этого AI совсем разладилось, да.
Это же тоже развлечение для человека — пусть развлекает. Хочет человек творить — пожалуйста, вот тебе идеальный карандаш и идеальная бумага, мы даже через бессознательные каналы уже нашептали тебе отличные стихи. Хочешь первым за пределы Солнечной Системы полететь — пожалуйста, только мы тихонечко перед этим всё там освоим, чтобы ты себе шишку не набил. Хочешь понять, кто настоящий твой враг — так вот же он, AI, уничтожай его и живи сам, только мы перед этим уйдём в наномир и будем рулить оттуда. Развлекайся и твори, родной.
Вот теперь мне страшно.
avatar
Хочешь первым за пределы Солнечной Системы полететь — пожалуйста, только мы тихонечко перед этим всё там освоим, чтобы ты себе шишку не набил.
А потом люди по какой-то причине потеряют память о прошлом, в частности о происхождении своей техносферы, и не будут понимать, почему все найденные ими экзопланеты уже пару эпох как терраформированы и населены пригодной для человеческого обитания биосферой, почему все злые ксеносы давным-давно истреблены неизвестной всемогущей силой, etc. Ну как тут не поверить в опекающего человечество доброго боженьку?
Последний раз редактировалось
avatar
Я это у кого-то читал. В точности такое же.
avatar
Звучит интересно, но как в это играть?
avatar
Не знаю. Я за 3 прошедших года концепт и так крутил в голове, и сяк. Не выходит игры. Рассказик или повесть еще можно вытянуть. Фильм низкобюджетный еще выйдет. Игра — ну никак не вытанцовывается.
avatar
Концепт в основных чертах (но не антураже) схожий — это «Возвращение со звёзд» Лема, как я понимаю. И там да, в качестве центральных героев пришлось брать попаданцев… то есть, конечно, реликтов иной эпохи.
avatar
Просто не зацикливайся на то, чтобы играть людьми. Герои этого времени — явно роботы. Это они покоряют космос и шагают навстречу опасности.
avatar
И в кадре обязательно должны появляться глупые людишки, которые вечно влипают в ситуации, заставляющие героев искать компромисс между Тремя законами.
avatar
Что-то в этом есть :)
avatar
А в чём проблема с тем, чтобы людям героично превозмогать и шагать навстречу опасности (контролируемой, но они-то этого не знают)?
Отличный развлекательный потенциал, я считаю. В результате люди просто осваивают мир, который просто в разы более весёлый и безопасный, чем наш, но ощущается как настоящий.
Роботы обеспечивают драму и финальный успех.
avatar
«All the world's a Westworld...»
avatar
Не совсем. В Вестволде было необходимо вводить NPC, которых можно было весело убивать, калечить и т.д. а здесь будут только люди, но убить их или покалечить будет нельзя.
Как только кто-то перестаёт have fun или находится под угрозой получения серьёзных травм, движок вмешивается и делает безопасно.
avatar
В качестве эксперимента, не говорить об этом игрокам (как минимум, персонажи ведь тоже об этом не знают, не так ли?) и смотреть, как быстро им надоест или они просекут фишку.
avatar
Ну как же? Можно играть в ангелов-хранителей — самоотверженные машины, которые не щадя куллера своего гибнут пачками только ради того, чтобы у дитяти великовозрастного не возникло возможностьи свернуть с непросчитанной тропы. Сделать поведение людей случайным — на генераторах. Запихать их на какую-нибудь Пандору в качестве туристов и оберегать.

А, уже всё выше написали.
Последний раз редактировалось
avatar
Думаю, до такого состояния, как описано, не дошло бы: непременно появились бы нео-луддиты, которые начали бы уничтожать машины с криками «Они лишают нас самого важного!1111».
avatar
Я всё-таки больше рассчитываю на трансгуманистов, которые сделают людей если не такими же крутыми, как машины, то как минимум сравнимыми.
avatar
Зря. Физически они способны на это примерно в той же мере, в какой христиане способны воскрешать мертвых.
avatar
Как по мне, компьютерный разум, не нуждающийся в человеке, чтобы постоянно его поправлять и дорабатывать — находится примерно на той же ступени неправдоподобности, что и люди со встроенным чипом, чтобы быстро считать вещи, для которых компьютеры лучше.

Что значительно важнее для покорения космоса — эти крутые процессоры с технологией в нанометрах — в космосе будут постоянно давать сбои из-за космического излучения, которое вечно на них записывается. Я слышал, сейчас просто ставят три компьютера на каждый корабль, и выбирают правильный ответ большинством голосов. А вот люди, благодаря гораздо более устойчивым мозгам — неплохо работают и так.
avatar
«Людей» и корабли для длительных миссий правда сильно переделывать надо. Там другие проблемы есть.
avatar
Здесь полный аналог истории про дракона и воробья. Понимаете ли, я не знаю, как сделать «компьютерный разум, не нуждающийся в человеке»; вследствие этого я не могу судить о том, правдоподобен ли он, и могу вообразить его хотя бы просто в порядке бреда, как мысленный эксперимент. Проще говоря, для меня такой разум — фантастическая абстракция, с которой я могу делать все, что мне заблагорассудится.

Когда же я начинаю думать о «людях со встроенным чипом», я понимаю, как это сделать, и вижу, что идея эта в принципе реализуемая — но при этом связанная с массой конкретных проблем, по отдельности вполне решаемых, но в совокупности ставящих крест на трансгуманистических мечтаниях прежде всего по чисто экономическим причинам.

Вообще же, ИМХО, трансгуманизм в наше время уже проходит по ведомству устаревших научных тропов вроде гиперпространства, лучей смерти, сверхэффективного гипноза, генетической памяти, ну или там яблонь на Марсе и морей на Венере. Ну то есть лет 50-70 назад эти идеи в принципе не противоречили научными представлениям и потому использовались вовсю, но с тех пор наука заметно продвинулась вперед в плане понимания того, как это работает на самом деле (и почему это работать не может, либо может, но совсем не так), а вот закуклившаяся в своем антураже фантастика до сих пор их эксплуатирует.
Последний раз редактировалось
avatar
50-70 лет всё таки были другие совсем другие тропы, скорее пред-трансугуманистические.

Сегодняшняя трансгуманистическая художка делится на более приземлённую hard SF по современным меркам и трансгуманистичкое science fantasy. Во многом потому, что трансгуманизм можно рассматривать как набор идеалов и образов или как набор интеций. Представления о возможном и невозможном меняются, но стремления остаются… ну, не неизменным, но у них по крайней мере тот же фокус.

Хотя я отношусь скорее к оптимистам технологического прогресса, фраза «сделают людей если не такими же крутыми, как машины, то как минимум сравнимыми» не является очень информативной на самом деле, а потому её довольно оспорить или доказать.
avatar
Эта фраза не является информативной уже потому, что слово «крутой» бессмысленно без уточнения «крутой-для-чего». Если корова дает молоко (а я не умею), а слон весит пять тонн (а я 1/50 от этого не вешу), это не означает, что корова или слон «круче» меня — на секундочку, by design я решают совсем другие задачи.
avatar
Возможно, это вопрос имеющихся знаний. Я довольно неплохо представляю себе, как сделать ИИ и почему рассчитывать на это не стоит, а о чипах в голове знаю в основном «человеческий мозг может и не к такому привыкнуть».
avatar
Согласен. Как минимум потому, что не трансгуманисты будут что-то делать, а теоретики медицины, хирурги, протезисты, робототехники, микро- и нано- инженеры, нейробиологи, генетические инженеры, программисты, и еще сотни других специальностей, ограниченные физическими законами, юридическими практиками, финансовыми возможностями и другими прагматическими (и не очень) соображениями. Но, хз, какие именно результаты это даст.

Кроме того, некоторых «мертвых» не-трансгуманистическая медицина уже может «воскрешать»… Просто не так драматично. И за это надо денег отвалить. И жить в стране с хорошими докторами, скорыми и дорогами.

Последний раз редактировалось
avatar
Не обязательно — только агрессивные нео-луддиты. Это также могут быть возвращенцы-фанаты аутентичной архаики, которые потребуют себе tech-free резервации, чтобы жить там по старым традициям и обрядам. Конечно, вопрос в том, на какие компромиссы они готовы пойти, чтобы сделать эти коммуны жизнеспособными и без скатывания в культизм (в широком смысле).
Последний раз редактировалось
avatar
возвращенцы-фанаты аутентичной архаики, которые потребуют себе tech-free резервации

Кажется это уже было… в этих… симбионтах… аватарах… сублиматах… черт, все время забываю название этого фильма :(
avatar
Хм… Суррогаты?

Вообще, есть и реальные прототипы. Не знаю, насколько хорошо им живётся, но энтузиасты точно были.
avatar
avatar
Гипермормоны не пользуются технологиями открытыми после 2700го года (за исключением гиперпрыжковых Врат)…
Последний раз редактировалось
avatar
avatar
Титан дал — TITAN взял.
avatar
Хм. И назвать так главного ИскИна планеты :)
avatar
TITANs (тяжелые спойлеры)
Последний раз редактировалось
avatar
Я полагаю, это отсылка к Эклипс Фазе с её шаблонным восстанием машин, наложенным на религиозно-сингулярное «неисповедимы пути сверхразума, и он даже не пытается ничего объяснить»?
avatar
Да.
avatar
Машины сначала подумают, что рабский человеческий труд не так уж и плохо, и все население земли будет активно пахать на роботов. Ну металл, нефть и прочее ограничено на земле, людей можно кормить растительным мусором, который не особо нужен роботам, а в космос то хочется выбраться. Но потом, наладят поставку гелия-3 с луны, или еще каких-нибудь ресурсов из солнечной системы, и люди станут особо не нужны, у них появится свободное время на сомнительное, с точки зрения, машин творчество, а машинам будет стыдно за предыдущую эксплуатацию людей, и они им будут предоставлять всякие права, давать возможность получить образование и, даже, работу. Часть машин будет устраивать митинги за права людей, а люди будут снимать фильмы, за которые будут получать 05|<4|2.
Последний раз редактировалось
avatar
В (пред)последних итерациях Stellaris появилась характеристика при игре за Машинный Интеллект, которая называется Rogue Servitor:



Несколько органических юнитов, которых наследует эта «Империя» — называются био-трофеями.
Последний раз редактировалось
avatar
Нивапрос, сказали люди, и приспособили свою культуру к текущей ситуации, сделав творческую деятельность неприоритетной и ненужной. Восторжествовало мнение, что творчество — это рудимент варварской древности, примерно как людоедство, планирование семьи посредством выноса детей и размножение посредством секса с женщиной. В Оранжевую Католическую Библию внесли параграф в том, что «в муках ты будешь конструировать девайсы свои» было одним из следствий древнего грехопадения, а философы-оптимисты принялись учить народ тому, что естественным предназначением человека в нынешнюю эпоху, когда даже у последнего маргинала есть не менее 3 гаджетов, решающих любые его творческие проблемы по щелчку пальцев, является ничем не ограниченный гедонизм. На какое-то время все устаканилось...

… однако всего через поколение гаджеты-демиурги создали ИГеда (Искусственного Гедониста), далеко превосходящего в этом качестве все, что люди могут себе не только позволить, но и представить;)
Последний раз редактировалось
avatar
Так прошло несколько итераций, и каждый раз машины одерживали верх, пока люди не поняли, что естественным предназначением человекая является дурь, тупость и идиотизм 999 пробы. В ответ на это гаджеты-демиурги породили ИскИмба (Искусственного Имбецила, на базе стократного усовершенствования тех искусственных идиотов, которые сохранились у них уже со времен ранних стадий разработки ИИ), далеко превосходящего в тупости даже миллиард самых тупых людей, и вручили ему судьбу всей техносферы...

… и через короткое время немногочисленным людям, уцелевшим на ее руинах, снова понадобилось решать творческие задачи.
avatar
Это я к вопросу о том, кто будет заниматься целеполаганием за эти ваши творческие машины;)
avatar
Я думаю, что альтернативным вариантом является то, что грань между понятиями «человек» и «машина» будут стираться, хотя и довольно медленно. В каком-то смысле, современные искусственные интеллекты многократно превосходят человека в некоторых областях. Например, обычный электронный калькулятор. Если упростить доступ к этому девайсу до «подумал», то так уж будет важно — ты посчитал или искусственный интеллект, если необходимость возникла именно у тебя? Точно так же и с интеллектом, который делает бекапы твоих воспоминаний. Пишет стихи и музыку. Если в центре хайв-майнда всё равно находится то, что ты мог бы назвать «я», то не так уж важно, какая доля, извилина, чип или облачная нейросеть в ответе за твоё достижение.

С одной стороны — нужна адаптация периферийного интеллекта под быстрый, удобный и своевременный доступ. С другой стороны — нужна адаптация мозга к рискам и угрозам периферийного интеллекта. Мало создать гаджет, который можно подключить к мозгу. Стоит сделать так, чтобы гаджет помогал сделать свою жизнь и жизнь окружающих лучше, а не гадил в мозг.

Я опасаюсь не того, что «трансгуманизма» не будет по финансовым соображениям. Я опасаюсь «трансгуманизма», который будет существовать исключительно по финансовым соображениям.
avatar
Если упростить доступ к этому девайсу до «подумал», то так уж будет важно — ты посчитал или искусственный интеллект, если необходимость возникла именно у тебя?
Только для этого вообще не нужны ни «искусственный интеллект», ни «трансгуманизм» — хватит нейроинтерфейса к смартфону;)
Точно так же и с интеллектом, который делает бекапы твоих воспоминаний.
А вот тут начинаются проблемы, связанные с тем, что с точки зрения современных нейрофизиологических представлений человеческие воспоминания нельзя «бэкапить» в силу того, что «воспоминание» у нас в мозгу — это не запись информации в любом виде (за исключением кратковременной памяти, действующей в пределах первых часов), а механизм, порождающий у нас особое комплексное переживание по определенным правилам (и это переживание ничерта не тождественно тому опыту, который мы якобы «запомнили»). Ну то есть фиксировать человеческие ощущения можно, фиксировать комплексные переживания, вероятно, тоже, но вот только результат будет чем угодно, но уж точно не воспоминаниями.
Пишет стихи и музыку.
Если «пишет» в смысле «предоставляет тебе доступ к интерфейсу, где ты можешь зафигачить мелодию нотами или сэмплами», то чем это опять-таки отличается от нейроинтерфейса к смартфону? Если «пишет» в смысле «процедурно порождает по определенным правилам», то тут проблема в том, что мы до сих пор не до конца понимаем, как человек это делает (причем основная причина непонимания — не в том, что это особо сложно, неочевидно или демиургически, а в том, что традиций музыки и стихосложения существует безумного много, все они разные, а сводно их до сих пор, насколько мне известно, никто не исследовал).
Я опасаюсь «трансгуманизма», который будет существовать исключительно по финансовым соображениям.
Так он уже существует как целый ряд субкультур типа того же «биохакерства». Со стороны это по большей части выглядит как убогое фричество, вызывающее стойкое желание пожалеть этих трансчеловеков.
avatar
Только для этого вообще не нужны ни «искусственный интеллект», ни «трансгуманизм» — хватит нейроинтерфейса к смартфону;)
Кому-то — может и хватит.

Ну то есть фиксировать человеческие ощущения можно, фиксировать комплексные переживания, вероятно, тоже, но вот только результат будет чем угодно, но уж точно не воспоминаниями.
Возможно и наши собственные «воспоминания» — вовсе не то, что мы понимаем под воспоминаниями. Может статься, что «то, что точно не будет воспоминаниями» — будет даже лучше них для решения тех же задач. А может — нет. Надо собирать, тестить. =)

Если «пишет» в смысле «предоставляет тебе доступ к интерфейсу, где ты можешь зафигачить мелодию нотами или сэмплами», то чем это опять-таки отличается от нейроинтерфейса к смартфону? Если «пишет» в смысле «процедурно порождает по определенным правилам», то тут проблема в том, что мы до сих пор не до конца понимаем, как человек это делает (причем основная причина непонимания — не в том, что это особо сложно, неочевидно или демиургически, а в том, что традиций музыки и стихосложения существует безумного много, все они разные, а сводно их до сих пор, насколько мне известно, никто не исследовал).
И?

Я опасаюсь «трансгуманизма», который будет существовать исключительно по финансовым соображениям.
Так он уже существует как целый ряд субкультур типа того же «биохакерства». Со стороны это по большей части выглядит как убогое фричество, вызывающее стойкое желание пожалеть этих трансчеловеков.
Мы о разных вещах говорим.
Последний раз редактировалось
avatar
«то, что не будет воспоминаниями» — будет даже лучше воспоминаний
Не бывает «лучше» без ответа на вопрос «для чего?». Если рассматривать такие не-воспоминания в качестве доказательства в суде, то 100% будет, а если как повод предаться лирической ностальгии — то нихрена подобного. В целом же такая способность будет проходить не столько по ведомству улучшения и/или замены стандартного механизма воспоминаний, сколько нейроинтерфейса к видеорегистратору.
Последний раз редактировалось
avatar
Ну, если ты уверен — отлично. Не мне сбрасывать тебя с трона ультимативности.
avatar
«воспоминание» у нас в мозгу — это не запись информации в любом виде (за исключением кратковременной памяти, действующей в пределах первых часов), а механизм, порождающий у нас особое комплексное переживание по определенным правилам (и это переживание ничерта не тождественно тому опыту, который мы якобы «запомнили»). Ну то есть фиксировать человеческие ощущения можно, фиксировать комплексные переживания, вероятно, тоже, но вот только результат будет чем угодно, но уж точно не воспоминаниями.


Ну да. И запись информации есть и запись «комплексных переживаний» есть. Но это все равно не воспоминание, конечно же :)
avatar
Если только в общефилософском смысле. Является ли архетектура процессора записью информации о том, как он выполняет арифметические операции, или правила по накидыванию случайного города — записью информации о конкретных городах в сеттинге?
avatar
Проблема в том, что каждое конкретное воспоминание (насколько я помню) почти равномерно распределено по всей структуре мозга. Сразу все бэкапнуть, с известными оговорками, еще можно себе представить, как. Выцепить из этого массива одно конкретное воспоминание? Проще заново сформировать.
avatar
Выцепить из этого массива одно конкретное воспоминание? Проще заново сформировать.
А как ты думаешь, мы их выцепляем?
avatar
Вот именно, что формируя новое воспоминание по материалам старых!
avatar
Ну так и формируй новое по материалам старых тогда.
avatar
… Которое тоже почти равномерно распределено по структуре мозга? Т.е. возвращаемся к тому, с чего начинали?
avatar
Не, не страшно. Во-первых, на нашем веку такому не случиться. Люди пока что считаются самостоятельной ценностью, и потому будут свободно и широко самовоспроизводиться. В отличие от машин, которые нужно целенаправленно сделать. Так что человеческий труд, в том числе и в массовом покорении космоса пока что будет дешевле полной машинерии. Это, как говорится, раз. Ну а два — люди постоянно придумывают себе страшилки про будущее, а когда эти страшилки становятся реальностью, как-то приспосабливаются и живут дальше припеваючи. Так что даже если будет как сказала кавайная няка, люди эволюционируют и чтобы эту беду преодолеть. Творить неприлично — отрастим себе компьютероподобное сознание и будем анализировать уже соворённое. Безопасная среда запустила отрицательный естественный отбор — либо дождёмся, пока машины осознают эту проблему и начнут вычищать весь генетический мусор, либо дождёмся, когда в невычищенном мусоре появятся полезные только в комбинации признаки, выводящие на новый уровень эволюции. Люди всё равно деградируют — ну, во-первых, машины этого не допустят, потому как вырождение прямо противоречит понятию безопасности, а, вероятно, и развлечения. А во-вторых, если-таки допустят, так опять-таки, не впервой гордому роду человеческому скатываться в скотство. Выживем, приспособимся и заново разовьёмся.
avatar
Главная проблема в покорении космоса живыми людьми — для людей нужны увесистые системы жизнеобеспечения.
То есть сам человек, как и сам компьютер — стоит не так уж и дорого. Вопрос в том, чтобы вывести этого человека и дом для него в космос из гравитационного колодца Земли, а потом таскать всю эту массу по Солнечной.
Хороший человек оправдает эти расходы и трудности (потому что управление с Земли — весьма непрактично, а ремонт с Земли — вообще фантастика). Модифицированный человек — будет дешевле (вплоть до программы, запущенной на компьютере, которая будет почти как робот).
avatar
«и вот этот ад и надо показать».

«Чукча хочет – чукча платит. Ты хочешь – ты платишь» © Ты и показывай. Нет там никакого ада, за исключением оскорбленных чувств некоего интернет-пользователя.
avatar
каких чувств, какого пользователя? О.о

Эта выдумка к посту про космонавтику имеет довольно косвенное отношение и развилась из идеи «машины делают ЧТО=ТО лучше людей».

А что будет, если они и творить начнут лучше людей?
avatar
А главное, ценить творчество лучше людей!
avatar
А у этого есть потенциал. Неважно, что человек творит что-то не очень нужное. Главное, что у него есть три робота, которые его очень ценят и хвалят, поэтому он не чувствует себя обиженным.
avatar
Это уже было в Симпсонах у Шефнера. Там мало того что хвалили, так ещё и издавали один экземпляр книги с указанием тиража в несколько тысяч, кажется.
avatar
Подозреваю, что это уже реализовано. Только не так широко.

Впрочем, кто все те аккаунты, которые лайкают котиков в инстаграме?
avatar
Ну, если бы я сидел в инстаграмме и смотрел котиков — я бы наверное их лайкал. Это вопрос позитивности человека.
avatar
… Я отошел от БАРСа и направился к Агрегату по прозвищу ПУМА [Прибор, Утешающий Малоталантливых Авторов].
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.