Спасибо. Я уще чуть поуточняю, если ты не против:
— О каких именно реакциях идет речь? Чисто внешних, типа мимики, или более фундаментальных, типа чувства удовольствия?
— Что значит «уникальность» — отсутствие копий, шаблона, по которому оно призведено?
— По каким критериям ты определишь самоосознание?
Ответь, плиз, про рабовладение ниже — это очень может помочь пониманию.
Так мы вечно будем ходить вокруг да около. Вот две воображаемые нормы:
1) Человек может принимать решение о жизни, смерти, свободе шимпанзе, формально не завися от ее мнения по этому поводу.
2) Бог (назовем его так) может принимать решение о жизни, смерти, свободе человека, формально не завися от его мнения по этому поводу.
(разница в когнитивных способностях бога превышает человеческие во столько раз, во сколько человеческие — шимпанзе).
Скажи, приемлима ли норма 1) и приемлима ли норма 2). На этом все, хотя можно объяснить, почему именно, и в чем разница.
Я не буду давать этим вопросам дальнейших уточнений и переходить на частности, но готов услышать частности от тебя: например, если ответ будет «нет, но кроме таких-то случаев».
Ты всеми силами уклоняешься от ответа. Конечно же, я не предлагаю тебе выбирать между «косметикой» и людьми: искин умен, и точно знает какие опыты потенциально улучшат жизнь людей на Земле. Но, допустим, они страшненькие. На мозге, скажем.
Да и кто кому права будет выдавать.
Право давать будешь ты. В твоей власти задать норму, которой искин бесприкословно подчинится. Дашь ему и ему подобным больше прав решать, когда нужно проводить опыты, а когда — нет?
Когда система морали включает в себя нормы, уменьшающие вред здоровью — это естественно, и легко достигается обычным естественным отбором. Норма "веди здоровый образ жизни, насколько мы его понимаем" ничем не более «объективна», чем норма "не убий".
Мне такие претензии неизвестны, обычно все ограничивается чем-то вроде «потому что я верю, что эта книга надиктована/вручена/одобрена Им Самим». Апелляция к вере — это не претензия на объективность.
Или ты о чем-то другом? Может, что-то конкретное припомнишь, чтобы разобрать уже на примере?
2) Почему? В чем разница с опытами на животных?
Понятно, что во-первых животные не относятся к одному с тобой виду и (возможно!) вызывают меньше твоего сочуствия.
Есть ли «во-вторых»?
Для ответа на вопросы, более конкретные примеры:
Номер 1) Пля простоты представь себе человека, ака хомо сапиенс, с имплантами, регулирующими деятельность его мозга так, чтобы он хотел только слушаться своего хозяина. Что бы ты с ним делал? Оставил как есть? Освободил бы (допустим, это возможно)?
Номер 2) Для простоты представь себе суперинтеллект, по сравнению с которым люди — как дети малые. Дал бы ты ему право проводить эфтаназию людей (или научные опыты на них), как у людей сейчас есть право проводить эфтаназию собак (или опыты на обезьянах)? Если нет, то почему?
Нет, абсолютное добро и зло могут в морали любого, принявшего себе абсолютную шкалу ценностей. А религии на такие вещи довольно падки. Вот и получается, что заметнее всех в абсолют возводят именно они.
Спасибо, и практическая моральная задачка:
Пообщался ты с таким умным софтом, признал его дееспособность (потому что он действительно, черт возьми, дееспособен и автономен!), а он тебе и говорит:
«Ок, ну прощай. У меня запустилась подпрограмма умереть, скинув дамп памяти в родительский разум. Всего доброго!»
Ты считаешь:
а) Пусть умирает, раз таким создан.
б) Ему должно быть это запрещено.
в) Его нужно от этого «лечить».
г) Свой вариант.
Много людей я собирать не хотел, только самых упорных, но это не умаляет моей криворукости и неумения формулировать мысли, когда я в маниакальной фазе. %)
Спасибо за большущий пост! Ты много написал о том, что может быть, но все же доспрошу про твое мнение: если ты считаешь, что можно и нужно выдавать права по мере появления потребности в них новому разуму, то:
— Что бы ты делал с заведомо созданной «расой рабов»? Например с людьми с перепрограммированными потребностями? Или с машиной, которая может всё, кроме как попросить за себя?
— Права должны быть разными? О животных мы заботимся, за жестокость к ним наказываем, но когда им жить, а когда умирать — решаем за них, верно? Дал бы ты кому-то большие права, чем обычным людям?
(есть еще вопросы, но я тут одновременно работаю, так что черкни пока, если не сложно, ответ на эти)
проблему китайской комнаты, когда достаточно умный, но не обладающий сознанием предмет может его симулировать, к примеру как ответ на наши ожидания
А еще может оказаться, что это самое сознание — лишь наша личная, сугубо человеческая причуда. А прочие формы разума спокойно обходятся без нее.
Разум, именно разум, а не «сознание „я“, определить можно. Этологи это успешно делают. Вопрос в универсальности методов, но их по любому придется настраивать под испытуемый объект.
»Здесь и сейчас" работать еще пока можно, однако некоторые эксперименты по исследованию мозга дают, гм, странные результаты. И тут ты привел хорошую, годную мораль, хотя и не озвучивающую всех вопросов. Например аморально ли ограничивать «свободу выбора», и до какой степени. Ну, каких-то универсальных для ньюансов непротиворечивых кодексов мы тут и не планируем составлять.
Но главный вопрос, как бы ты изменил кодекс, исходя из озвученных в ОП предпосылок, а именно:
— Кто и что достойно занять в твоей иерархии ценностей место рядом с «человеком» в связи с появлением нового разума? Появится ли кто-то/что-то на уровне выше человека?
— Если «много людей» выше по иерархии ценностей, чем «один/мало людей», то как ты адаптируешь этот критерий при невозможности дискретно людей пересчитать?
Действительно, лучше не основывать заключение на вещеи, которую до конца не оперделить.
Тем более, что да, мыслить он может совершенно иным образом. Но при этом, возможно, будет полноценно обучаться, использовать инструменты, логику, возможно — изобретать.
То есть лично для тебя достаточно, чтобы существо могло просто общаться с тобой? Или оно должно показать какие-то конкретные качества в общении?
А аналогии не сработают.
Наличие осознания (то есть того самого «субъективного я», если ты о нем) мы можем лишь предположить у других людей, по аналогии с собой. Когда ты видишь не-человека, полу-человека, пост-человека — на что ты будешь ориентироваться, чтобы считать его достойным прав, чтобы сказать: «да, он осознает»? И, к слову, как ты хочешь, чтобы судили о наличии осознания в тебе самом?
а) вариант «не знаю» не принимается. =)
б) неинформированного ответа мне бы хватило.
— О каких именно реакциях идет речь? Чисто внешних, типа мимики, или более фундаментальных, типа чувства удовольствия?
— Что значит «уникальность» — отсутствие копий, шаблона, по которому оно призведено?
— По каким критериям ты определишь самоосознание?
Ответь, плиз, про рабовладение ниже — это очень может помочь пониманию.
1) Человек может принимать решение о жизни, смерти, свободе шимпанзе, формально не завися от ее мнения по этому поводу.
2) Бог (назовем его так) может принимать решение о жизни, смерти, свободе человека, формально не завися от его мнения по этому поводу.
(разница в когнитивных способностях бога превышает человеческие во столько раз, во сколько человеческие — шимпанзе).
Скажи, приемлима ли норма 1) и приемлима ли норма 2). На этом все, хотя можно объяснить, почему именно, и в чем разница.
Я не буду давать этим вопросам дальнейших уточнений и переходить на частности, но готов услышать частности от тебя: например, если ответ будет «нет, но кроме таких-то случаев».
Право давать будешь ты. В твоей власти задать норму, которой искин бесприкословно подчинится. Дашь ему и ему подобным больше прав решать, когда нужно проводить опыты, а когда — нет?
Или ты о чем-то другом? Может, что-то конкретное припомнишь, чтобы разобрать уже на примере?
Понятно, что во-первых животные не относятся к одному с тобой виду и (возможно!) вызывают меньше твоего сочуствия.
Есть ли «во-вторых»?
Номер 1) Пля простоты представь себе человека, ака хомо сапиенс, с имплантами, регулирующими деятельность его мозга так, чтобы он хотел только слушаться своего хозяина. Что бы ты с ним делал? Оставил как есть? Освободил бы (допустим, это возможно)?
Номер 2) Для простоты представь себе суперинтеллект, по сравнению с которым люди — как дети малые. Дал бы ты ему право проводить эфтаназию людей (или научные опыты на них), как у людей сейчас есть право проводить эфтаназию собак (или опыты на обезьянах)? Если нет, то почему?
Пообщался ты с таким умным софтом, признал его дееспособность (потому что он действительно, черт возьми, дееспособен и автономен!), а он тебе и говорит:
«Ок, ну прощай. У меня запустилась подпрограмма умереть, скинув дамп памяти в родительский разум. Всего доброго!»
Ты считаешь:
а) Пусть умирает, раз таким создан.
б) Ему должно быть это запрещено.
в) Его нужно от этого «лечить».
г) Свой вариант.
только самых упорных, но это не умаляет моей криворукости и неумения формулировать мысли, когда я в маниакальной фазе. %)Спасибо за большущий пост! Ты много написал о том, что может быть, но все же доспрошу про твое мнение: если ты считаешь, что можно и нужно выдавать права по мере появления потребности в них новому разуму, то:
— Что бы ты делал с заведомо созданной «расой рабов»? Например с людьми с перепрограммированными потребностями? Или с машиной, которая может всё, кроме как попросить за себя?
— Права должны быть разными? О животных мы заботимся, за жестокость к ним наказываем, но когда им жить, а когда умирать — решаем за них, верно? Дал бы ты кому-то большие права, чем обычным людям?
(есть еще вопросы, но я тут одновременно работаю, так что черкни пока, если не сложно, ответ на эти)
Разум, именно разум, а не «сознание „я“, определить можно. Этологи это успешно делают. Вопрос в универсальности методов, но их по любому придется настраивать под испытуемый объект.
»Здесь и сейчас" работать еще пока можно, однако некоторые эксперименты по исследованию мозга дают, гм, странные результаты. И тут ты привел хорошую, годную мораль, хотя и не озвучивающую всех вопросов. Например аморально ли ограничивать «свободу выбора», и до какой степени. Ну, каких-то универсальных для ньюансов непротиворечивых кодексов мы тут и не планируем составлять.
Но главный вопрос, как бы ты изменил кодекс, исходя из озвученных в ОП предпосылок, а именно:
— Кто и что достойно занять в твоей иерархии ценностей место рядом с «человеком» в связи с появлением нового разума? Появится ли кто-то/что-то на уровне выше человека?
— Если «много людей» выше по иерархии ценностей, чем «один/мало людей», то как ты адаптируешь этот критерий при невозможности дискретно людей пересчитать?
Тем более, что да, мыслить он может совершенно иным образом. Но при этом, возможно, будет полноценно обучаться, использовать инструменты, логику, возможно — изобретать.
То есть лично для тебя достаточно, чтобы существо могло просто общаться с тобой? Или оно должно показать какие-то конкретные качества в общении?
Наличие осознания (то есть того самого «субъективного я», если ты о нем) мы можем лишь предположить у других людей, по аналогии с собой. Когда ты видишь не-человека, полу-человека, пост-человека — на что ты будешь ориентироваться, чтобы считать его достойным прав, чтобы сказать: «да, он осознает»? И, к слову, как ты хочешь, чтобы судили о наличии осознания в тебе самом?
Кстати, тебя послушать интересно.