Ну что, неделя трансгуманизма на Имажинарии?
Как гворит нам Геометр и эволюционная психология, Или вымереть. Разумная и неразумная материя, естественного и искуственного происхождения, плавно переходящие друг в друга. Кто может быть субъектом права? А кого считать чьей-то вещью или даже частью, «органом»?
Стоит ли давать моему неокортексу права, отдельные от остального мозга? Звучит как нонсенс. А стоит ли тогда давать права искусственному интеллекту — технологическому «экзокортексу»?
Никому не приходит в голову осуждать за жестокое обращение со своими руками. Но чем это принципиально отличается от соблюдения прав роботов?
У меня есть приблизительный ответ на этот вопрос, но я, по неопытности в философии, не сформулировал его в достойном виде.
А что думаете по вопросу вы?
граница между разумом и не-разумом — нечёткаяНо, раз уж речь о трансгуманизме, нечеткая не только понятийная граница, но и физическая. У искинов — чисто конструктивно, ну и людям, скорее всего, придется придется соответствовать рано или поздно.
Стоит ли давать моему неокортексу права, отдельные от остального мозга? Звучит как нонсенс. А стоит ли тогда давать права искусственному интеллекту — технологическому «экзокортексу»?
Никому не приходит в голову осуждать за жестокое обращение со своими руками. Но чем это принципиально отличается от соблюдения прав роботов?
У меня есть приблизительный ответ на этот вопрос, но я, по неопытности в философии, не сформулировал его в достойном виде.
А что думаете по вопросу вы?
118 комментариев
Но к всяким эстетическим шрамам, пирсингу, татуировкам и прочим подобным художественным экзерсисам вроде бы уже привыкли, и относятся более лояльно в нашем обществе, разве нет?
Это насильственная защита тебя самого от самоубийства (или каких-нибудь расстройств типа SDI), то же самое — если будешь пытаться класть голову на трамвайные рельсы. Что ты делаешь со своей рукой — является исключительно вопросом отношения к тебе, то есть плохим, негодным является самоубийство через порез вен, а вот косметическое шрамирование — уже кое-где и нет.
Это же вопрос соглашения, как обычно. Что считать «главным» в человеке? Хорошо средневековым типам с их уверенностью в существовании бессмертной души…
Самое забавное — если выделять как основного субъекта права часть личности (и её носителя), которая не обязана включать в себя ту часть, что в состоянии заботиться о правах.
Конечно, в любом случае (это ты опять капитанишь =) ) получившая социальная конструкция будет результатом соглашения. Но мой вопрос не состоит в том «как будет». Мой вопрос в том, а где вы в этом соглашении? Какую сторону ты занимаешь в вопросе? Или ты ждешь еще каких-то ответов (от философии? от нейробиологии? от теории информации?) чтобы сформулировать свою позицию?
Или вопрос о том, какой бы я хотел её видеть? Я об этом не думал принципиально, потому что смысл-то?
Если же, наконец, вопрос о том, где я провожу границу «себя» в собственных мыслях — то я себя особо не разделяю. Не потому, что считаю что это невозможно (это ещё как возможно), но потому что у меня всё равно нет технической возможности выделить, скажем, свои лобные доли в качестве отдельного субъекта. Потому и смысла особого нет прикидывать, где граница «меня» в этом контексте.
Мне инересно отношение твое (т.е. всех имажинарцев) и только оно. Если отношения нет — то и суда нет.
Вопрос прав ИИ зависит от его функций и вступления в взаимодействия с иными разумными существами. Пока нет ситуации, которую надо регулировать, нельзя сказать, какими правами надо наделять участников (или иначе регулировать ситуацию). По-моему так…
Чуть ниже раскрыл вопрос на, надеюсь, не самой некорректной аналогии.
А так… На мой взгляд, правами, связанными с обращением с ними, должны обладать те части ИИ, которые а) с достаточной точностью воспроизводят человеческие (или пост-человеческие — какие там будут нормой) реакции, б) уникальны и способны (хотя бы теоретически) на самоосознание или его аналог. Возможность выбора, свобода воли и пр. Собственно, и пункта а) достаточно для некоторого кодекса поведения относительно них (потому что это опять-таки полезная для общества вещь — отработка социальных реакций, по возможности универсальных), но второе поднимает этот кодекс на более высокий уровень. Ещё, конечно, надо смотреть на то, насколько восстановим для них ущерб, вызываемый «недолжным» поведением (оценка причём нужна как внешняя, так и внутренняя), но для простоты примем, что эти вещи более-менее совпадают и ущерб более-менее сравним с аналогом у человека.
При этом права, естественно, могут существенно отличаться в зависимости от области, в которой данное метасущество задействовано. Чем более активное взаимодействие с другими метасуществами там подразумевается, тем больше потенциально там будет прав.
— О каких именно реакциях идет речь? Чисто внешних, типа мимики, или более фундаментальных, типа чувства удовольствия?
— Что значит «уникальность» — отсутствие копий, шаблона, по которому оно призведено?
— По каким критериям ты определишь самоосознание?
Ответь, плиз, про рабовладение ниже — это очень может помочь пониманию.
Уникальность выше — это невоспроизводимость в полном соответствии. Уникальный личный опыт в каком-то смысле. Уничтожение копии при возможности её полного воссоздания пока (без раздумий и уточнений) кажется мне, например, менее страшной вещью, чем уничтожение при возможности восстановления, хотя, конечно, ещё и вопрос о том, как реализуется процесс уничтожения.
Что касается реакций, то тут вообще, конечно, я могу глубоко заблуждаться. Дело в том, что во мне пока живёт довольно иррациональная уверенность, что чтобы общаться с человеком достаточно плотно, желательно воспроизводить человеческие реакции достаточно полно — включая и их подоплёку (не обязательно чисто физиологическую, конечно). То есть чтобы производить впечатление личности, к примеру, с которой имеет смысл вести беседу на любую тему, полезно быть этой личностью в какой-то мере. Примеры всяких программ для чатов, и всякие вещи вроде более рациональных в смысле трудозатрат систем перевода показывают скорее обратное — но я пока отвечаю без подготовки. Завтра, немного подумав, возможно выдам более обоснованную точку зрения. А так пока что на уровне «чистого ощущения» — чем более сложную нешаблонную деятельность по взаимодействию с людьми способно поддерживать данное постсущество, тем в большей степени оно, как мне кажется, заслуживает гарантии некоторого «должного» обращения с собой. Почти наверняка это во мне говорит довольно примитивный механизм «свой-чужой», конечно…
Что до осознания — то именно по реакциям, сложности оных, возможности поступать по-разному в схожих ситуациях, проявлению вкусов… Я не считаю, что «китайская комната» является хорошим обоснованием — дело в том, что мы сами не очень представляем, как устроено наше мышление, как-никак.
Извини за такую размазанность мысли. Завтра попробую полнее и ёмче.
(Если таки возьмешься за «полнее и емче», это, возможно, стоит сделать отдельным комментом к топику, а не в этой порядком сжавшейся ветке.)
Далее, я для экономии времени предположу, что ты не против отмены практики рабовладения и дальнейшего уравнения в правах, а очень даже за.
То есть, считаешь, что эти люди почему-то должны эти права иметь, не в меньшей степени, чем ты сам. Почему?
Из сочувствия? Тогда кто еще будет достоин твоего сочувствия?
Из чувства справедливости? По отношению к кому ты будешь справедливым?
Из-за каких-то метафизических убеждений, вроде наличия души? Тогда в ком ты признаешь ее наличие?
(Но все же: а если они их кушают?)
Так, пора мне завязывать с такими разговорами.
Формироваться эти правила будут в зависимости от многих обстоятельств, конечно
Если это будет именно что экзокортекс, лишенный автономности и саостоятельности, то не возникнет даже вопросов о том, нужны ли права, ясно, что нет
Вопросы появятся тогда, когда старые аналогии перестанут работать, когда не получится воспринимать экзокортекс, как крутой мобильник
Где ты проведешь черту? Кому ты дашь права человеческие, а кому — нет? Для кого придумаешь права уникальные?
Ну, видимо, как будет невмоготу, так и пойду, а может и нет
Это заведомо нечеткий вопрос, автономность не дискретна, не квантована и не измеряется ни в чем
Очевидно, где ее нет, очевидно, где она есть, но невозможно сказать, где одно переходит в другое
Просто однажды мы обнаружим, что старая этика более неприменима
И хорошо еще, если эти ИскИны можно будет приравнять к людям и воспринимать соответственно, а если это будет что-то радикально иное?
Какой должна быть новая этика?
конкретно про экзокортекс я сказал — если это не автономная часть тела, то никакой этики не нужно — это просто инструмент, собственность
но это по отношению к нему не нужно новой этики, в целом же почти любое прижившееся изменение требует новых правил
их требовали ксероксы, мобильники, интернет
потребует и экзокортекс, просто они не будут касаться прав экзокортекса, а будут касаться людей, им пользующихся
если нечто обладает способностью чувствовать и выделять среди прочих ощущений негативные, то не этично эти самые негативные ощущения вызывать без серьезных оснований
если нечто обладает не только ощущением, но и осознанием, то дальше уже в зависимости от степени этого самого сознания — то есть относиться, как к животному или же как к человеку
но это при условии, что все эти аналогии работают, а не дают сбой при столкновении с чем-то радикально новым
тогда не знаю
Наличие осознания (то есть того самого «субъективного я», если ты о нем) мы можем лишь предположить у других людей, по аналогии с собой. Когда ты видишь не-человека, полу-человека, пост-человека — на что ты будешь ориентироваться, чтобы считать его достойным прав, чтобы сказать: «да, он осознает»? И, к слову, как ты хочешь, чтобы судили о наличии осознания в тебе самом?
есть из этого вопроса немало способов выйти — по большей части они сводятся к пояснениям, почему одни ответы на этот вопрос предпочтительнее других, которые и вовсе лишены смысла (при том, что все они в равной степени недоказуемы)
если исходить из того, что не-человек/пост-человек мыслит схожим с собой образом, то я буду определять это так же, как и то, говорю я с человеком или чат-ботом
если нет — не знаю, опять таки
Тем более, что да, мыслить он может совершенно иным образом. Но при этом, возможно, будет полноценно обучаться, использовать инструменты, логику, возможно — изобретать.
То есть лично для тебя достаточно, чтобы существо могло просто общаться с тобой? Или оно должно показать какие-то конкретные качества в общении?
так что какая-то грань есть, и в эту грань входит еще и потенциал — то есть младенец все таки выше кошки, ибо однажды станет взрослым, а кошка так и останется кошкой
но грань достаточно низка, чтобы в нее входило большинство людей, не лишенных дееспособности по причине умственной недостаточности
Пообщался ты с таким умным софтом, признал его дееспособность (потому что он действительно, черт возьми, дееспособен и автономен!), а он тебе и говорит:
«Ок, ну прощай. У меня запустилась подпрограмма умереть, скинув дамп памяти в родительский разум. Всего доброго!»
Ты считаешь:
а) Пусть умирает, раз таким создан.
б) Ему должно быть это запрещено.
в) Его нужно от этого «лечить».
г) Свой вариант.
для краткости можно выделить следующие полярные варианты — если это Первый Контакт с другим разумом, культурных кодов еще не выработано и лучше не встревать — пусть себе умирает
если в целом уже налажено взаимодействие, то оно, вероятно, включает в себя некий «нормальный» ответ на подобное, пусть он и будет
ну и в редких случаях будет ответ в, вероятно, в формулировке «я считаю, что так быть не должно и надо что-то менять»
редкие случаи скорее всего будут связаны, к примеру, с чрезмерной обособленностью такого софта от родительского разума, достаточной для того, чтобы говорить о личности и о гибели личности
я считаю свою позицию лучшей, чем прочие и считаю, что у меня есть право и даже обязанность приводить к ней людей
а в моей позиции подобное маркировано как нежелательное
Кстати, тебя послушать интересно.
Говоря же про здесь и сейчас и с определенной долей уверенности заявляя, что самосознанием обладают только Хомо Сапиенсы, моя личная мораль такая:
Аморально причинять физический вред неразумному живому существу чувствующему и в идеальных условиях способному противится этому вреду вне рамок необходимых для выживания и нормального функционирования человека действий.
Аморально причинять любой вред человеку, осознающему, чувствующему и.т.п. этот вред вне рамок необходимых для выживания и нормального функционирования большего количества людей.
Аморально так же без необходимости целенаправленно уничтожать или эксплуатировать до истощения и уничтожения любые структуры, будь это биосистема, здание или персональный компьютер.
Естественно куча всяких нюансов и противоречий присутствует и здесь, предполагаю что эта система не вполне работает для гуманизма, меня лично и уж тем более не будет работать при столкновении с вопросами трансгуманизма. Но что поделать…
Разум, именно разум, а не «сознание „я“, определить можно. Этологи это успешно делают. Вопрос в универсальности методов, но их по любому придется настраивать под испытуемый объект.
»Здесь и сейчас" работать еще пока можно, однако некоторые эксперименты по исследованию мозга дают, гм, странные результаты. И тут ты привел хорошую, годную мораль, хотя и не озвучивающую всех вопросов. Например аморально ли ограничивать «свободу выбора», и до какой степени. Ну, каких-то универсальных для ньюансов непротиворечивых кодексов мы тут и не планируем составлять.
Но главный вопрос, как бы ты изменил кодекс, исходя из озвученных в ОП предпосылок, а именно:
— Кто и что достойно занять в твоей иерархии ценностей место рядом с «человеком» в связи с появлением нового разума? Появится ли кто-то/что-то на уровне выше человека?
— Если «много людей» выше по иерархии ценностей, чем «один/мало людей», то как ты адаптируешь этот критерий при невозможности дискретно людей пересчитать?
Тест простой — сможет доказать умным представителям рода человеческого, что достойно — значит достойно, сможет доказать что выше — значит выше. Умные в этом контексте — видимо те из ученых, кому можно делегировать вопросы разума, больше некому) Я сам не возьмусь выносить такие вердикты, но если вдруг вопрос окажется ко мне, то вдумчивый диалог на философские темы меня устроит в кач-ве теста.
Вот на деле я готов сам выдать кучу ситуаций когда много/мало людей либо негодный критерий, либо один из многих, либо стоит учитывать дополнительные условия (а-ля «мы вот сейчас стерелизуем этих кроганов или они всех перемочат и себя в первую очередь» и прочие аллюзии на народы Африки).При переходе к полу-недо-сверх-мульти-людям этот критерий начинает напоминать вопрос получиться ли умный из двух дураков. Соответственно нормы придется менять, в случае если это происходит на глазах — прямо на лету.
upd: зачем ты меня попросил?
Честно говоря, некоторые люди всё уже достаточно метко сказали, остаётся только собрать это в один пост, а у меня есть сомнения в том, что у меня это получится хорошо.
Вообще, у тебя исходный пост сформулирован чертовски сложно(дело и в термонологии и в контексте), чтобы собрать хоть сколько нибудь большое обсуждение. Я бы посоветовал его как-то адаптировать под
неучей, вроде меняказуального наблюдателя, хотя, хз — какие ты задачи ставил.Первое и самое главное, что определение границ, создание ИИ, оцифровка сознания все сильно завязаны на понимание мозга: от физики до психологии сознания.
Про то, в каком случае стоит задуматься о предоставлении андроидам прав уже хорошо подумал Азимов. Да так хорошо, что нашим внукам хватит.
Когда они начнут ставить правильные вопросы.)
Для робота, ИИ или сетевого интеллекта вопрос компонентов будет стоять иначе, т.к. например, для ИИ жилища, присутствующего в каждом предмете домашней утвари в сервере, стоящем в подвале и присутствующего в теле дворецкого наличие и даже процентное соотношение интеллектуальной начинки в во всех своих компонентах будет достаточно очевидным. Релевантным.
Для нас же грань между неокортексом и мозгом пока не очевидна. Мы не можем догадываться о его потребностях, пока у него нет возможности о них заявить а у нас — хотя-бы предположить и проверить их наличие.
В свете рабства и прочего и прочего мои слова могут показаться некорректными, но мне и так сложно выразить эту мысль, так что условимся, что я не о людях, пока.
Кардинальным же образом всё меняется, когда мы узнаем о наличии таковых потребностей — то ли из-за собственного чувства милосердия, то ли из-за за самостоятельного заявлениями нам от лица экзокортекса. Так или иначе, это ставит под вопрос нашу этическую позицию по данному вопросу.
Для меня — предоставление прав ИИ, цифровым репродукциям, аплифтнутым котикам и кальмарам — столь же приемлемое явление, что и предоставление прав людям. Аналогично обычным животным, экзокортексы, вполне возможно, не будут обладать ни полным пакетом прав ни полным пакетом ни полным пакетом потребностей. А также, вполне возможно, что по достижении определённого срока жизни всем подобным существам, как и в случае с детьми будут выдаваться гражданские права, помощь в интеграции в общество (аналоги права на образование, пенсию и т.д. и т.п.). Черт его знает, как оно будет на самом деле — голод и нехватка ресурсов могут достаточно эффективно упырить мел борцов за права и аплифтеров, как и волшебные репликаторы сырья и пищи могут подогреть их интерес.
Могут даже встать такие вопросы, как стоит ли сделать разумными и считаться с их мнением всех животных.
Вспоминается Гея из последней книги серии Академия Азимова, где вся планета была объединена телепатически, включая каждую травинку(которая, впрочем была готова умереть за общее дело), что опять же подымает вопрос манифестации… Может ли уже само наличие жизни быть свидетельством права на жизнь?
Особенно интересным мне наличие правовых норм кажется в свете того, что ИскИны могут оказаться совершенно другими. А что еще может оказаться совершенно другим носителем разума? Вдруг мы проглядели? Животное, ноутбук, консервная банка, Земля, Солнце, электромагнитное поле, гравитация, Вселенная? Звучит абсурдно, но кто скажет наверняка?
Тогда, права станут еще нужнее, изменятся так же как изменится наше понимание разума, правовые нормы станут нужны чтобы договариваться между существами с подобным человеку сознанием и чем-то совершенно другим. Может быть, мы не сможем по настоящему понимать друг друга, может быть это будет нелегко, и нам удастся навести мосты. Грубо говоря, те же экзокортексы будут иметь свои, адекватные, права, а неокортексы — свои.
Короче, я а к тому, что уникальность человека пока трудно проверить, чтобы говорить о том, что только он имеет право на права.) Может быть, мы как слепые котята — и еще даже не начали коммуницировать по настоящему.
В свете же Майндеровских конституций идёт смещение вообще с отельных организмов, как таковых и если задуматься, если есть возможность выращивать новые руки, сохраняя колонию мемов и её опыт то там вообще на многое, в нашем понимании неотчуждаемое забивается большущий болт.
только самых упорных, но это не умаляет моей криворукости и неумения формулировать мысли, когда я в маниакальной фазе. %)Спасибо за большущий пост! Ты много написал о том, что может быть, но все же доспрошу про твое мнение: если ты считаешь, что можно и нужно выдавать права по мере появления потребности в них новому разуму, то:
— Что бы ты делал с заведомо созданной «расой рабов»? Например с людьми с перепрограммированными потребностями? Или с машиной, которая может всё, кроме как попросить за себя?
— Права должны быть разными? О животных мы заботимся, за жестокость к ним наказываем, но когда им жить, а когда умирать — решаем за них, верно? Дал бы ты кому-то большие права, чем обычным людям?
(есть еще вопросы, но я тут одновременно работаю, так что черкни пока, если не сложно, ответ на эти)
По видимому логично сразу попробовать экстраполировать это на людей, т.к. сетевой интеллект, на базе людей, объединенных сетью может оказаться эффективнее разрозненных индивидов. Но что скажут по этому разрозненные индивиды, если их не станет таких, как они были раньше.
Нужно будет еще понять, что это за раса рабов. Это как часть моего мозга? Так может и свободный андроид их будет так воспринимать?
Технически, продолжая использовать «термин права» мы начинаем творить всякую фигню, потому, что большие права, чем у человека… это что? Права государства, права человечества? Они у них и так есть. Права, как тут говорили — регулируют. Если у нас было бы одно государство, речь бы не шла о его правах. Только о его власти наделять правами в его пределах тех или иных граждан. Аналогично, разные люди обладают большими или меньшими правами, сообразно своему статусу. Так что трудно говорить о больших правах, когда они определяются только наличием большой власти.
Предпочел бы избегать универсальных ответов, которые угробят мне всю цивилизацию на третьем ходу.
Я хочу, чтобы абсолютная власть предварялась абсолютными понимаем. Мне сложно судить о расе рабов, когда я предпочел бы сохранить своё сознание в качестве колонии мемов, памяти, цифрового сознания, но не могу при этом доподлинно знать, хотели бы это мои части тела. Двойные стандарты в данном вопросе — не лучшее решение.
Как я уже сказал, абсолютная доброжелательность, всеобщий аплифтинг и массовая иммортализация упираются в наши возможности. Даже если мы создадим искусственное мясо или будем питаться энергией звёзд — стоит ли делать высокоразумными и бессмертным всех животных? И если нет, как мы будем выбирать? Я не знаю ответов на эти вопросы.
Номер 1) Пля простоты представь себе человека, ака хомо сапиенс, с имплантами, регулирующими деятельность его мозга так, чтобы он хотел только слушаться своего хозяина. Что бы ты с ним делал? Оставил как есть? Освободил бы (допустим, это возможно)?
Номер 2) Для простоты представь себе суперинтеллект, по сравнению с которым люди — как дети малые. Дал бы ты ему право проводить эфтаназию людей (или научные опыты на них), как у людей сейчас есть право проводить эфтаназию собак (или опыты на обезьянах)? Если нет, то почему?
2)Не давал бы, хотя вопрос еще в том какие опыты.
Мне кажется, что интеллект, чьи способности так превышает человеческие не станет заниматься такой фигнёй. Без веской на то причины, но тогда следует наладить контакт и попросить объясниться на нашенском, благо методы общения с детьми существуют, но не все люди умеют ими пользоваться, что для суперинтеллекта — что? а не известно.
Исключения для добровольного согласия. Черт его знает, вдруг кому-то это по нраву. Тут нужны дополнительные исследования.
Как я сказал выше, даже при таком уровне конкретности — универсальные на ходу ответы могут быть череповаты каким-то вредом, не факт, что именно самому спасателю в первую очередь.
Понятно, что во-первых животные не относятся к одному с тобой виду и (возможно!) вызывают меньше твоего сочуствия.
Есть ли «во-вторых»?
Тут вопрос в том, что в ряде случаев, кроме животных у человека никого под рукой нет, а в ряде других случаев — типа экспериментов на животных ради косметики и бытовой химии — оно и правда достигает абсурда…
Разница не в животных и людях, а в возможностях суперинтеллекта и человека.
Ты слышал о книге или рассказе, в котором у инопланетян не было места для жизни, они прилетели к людям, научили их миру и добру, что земляне, осознав масштабы трагедии, сами коллективно наложили на себя руки…
Грубо, если у тебя полубожественные способности, а ты продолжаешь смотреть на всё вокруг, как на червие копошащееся и букашек, то в чем заключается разница между тобой и человеком (или даже ребёнком), который также смотрит на всё, что меньше и слабее его?
Да и кто кому права будет выдавать. Вполне возможно, что сам суперинтеллект — простым людям в виду того, что лучшего варианта кроме него никто не даст, а сделать ему ничего нельзя, например.
Право давать будешь ты. В твоей власти задать норму, которой искин бесприкословно подчинится. Дашь ему и ему подобным больше прав решать, когда нужно проводить опыты, а когда — нет?
Из наличных условий вопроса и моей эрудиции — по данному вопросу я не могу выдать ничего, кроме отсебятины, фантазии, словом. Верно, я избегаю ответа на вопрос, на который удовлетворительного ответа. По крайней мере, для меня самого.
Кроме того, я бы предпочел начать с эксперимента на своем мозге и попробовал воспользоваться возможностями ИскИна, чтобы получить его ресурсы и на основании полученных данных — принимать решения.
Кроме того, если уж я ставлю нормы, то в чем разница между СупИном и обычным человеком, у которого есть те же права. Чем супер-интеллект в правовом будет отличаться?
1) Человек может принимать решение о жизни, смерти, свободе шимпанзе, формально не завися от ее мнения по этому поводу.
2) Бог (назовем его так) может принимать решение о жизни, смерти, свободе человека, формально не завися от его мнения по этому поводу.
(разница в когнитивных способностях бога превышает человеческие во столько раз, во сколько человеческие — шимпанзе).
Скажи, приемлима ли норма 1) и приемлима ли норма 2). На этом все, хотя можно объяснить, почему именно, и в чем разница.
Я не буду давать этим вопросам дальнейших уточнений и переходить на частности, но готов услышать частности от тебя: например, если ответ будет «нет, но кроме таких-то случаев».
Для меня — идеально, чтобы предполагаемыми эксперименты были в обоих случаях безопасными и/или добровольными. Но раз уж идеал недостижим, то могу с уверенностью сказать, что, в зависимости от обстоятельств и вводных данных моё решение может включать и полный запрет в обоих случаях и полное разрешение в обоих случаях, потому, что исключения делать — это ставить свою позицию под вопрос. Позиция в отношении «ставить опыты, не спрашивая разрешения» должна быть одинакова в обоих случаях и она привязывается не к экспериментирующему, а к подопытному и тому, как мы к нему относимся.
А если и делать исключение, то только для линейки «бог»-человек потому, что у людей можно получить осознанное согласие на проведение каких-либо/определённых экспериментов, даже если и просит какой-то «Бог». Даже если речь идёт о массовых экспериментах. Даже если речь идёт о рискованных экспериментах.
Но, это тут же подымает вопрос этичности фреймов-ульев или планеты Гея и того, чего достоин каждый отдельный компонент в пределах сети-улья. А я думаю достоин, например, суверенной личной вселенной и нескольких потоков сознания, чтобы одновременно решать и внешние задачи… но это уже даже не фантастика, а утопия.
Или, в примере с сознанием, мы задумываемся, так ли нам нужен индивид? А это уже вообще creepy.
Больше ролевых игр и трансгуманизма твоему треду!
Тебя устроит ответ завтра? Потому что ответ «не знаю» сильно близок к правде, что я и пытаюсь до тебя донести достаточно долго.
а) вариант «не знаю» не принимается. =)
б) неинформированного ответа мне бы хватило.
Я считаю, что точный ответ на данный вопрос будет получен после разрешения других вопросов/факторов:
1) Точное определение разумности. Данное определение должно с одной стороны опираться на внешние факторы, потому что носителем разума далеко не обязательно является человеческий мозг, с другой стороны не допустить срыва теста на разумность подопытного путем использования «китайской комнаты» (и снова привет от «Blindsight»). Проще всего было бы найти инопланетянина, пообщать его тем или иным способом (хотя, если он долетел до Земли за Н световых лет, у него уже будут критерии разумности) и разрешить вопрос о разумности сравнением и сопоставлением или в рамках эксперимента резко ускорить метаболизм и мозговое развитие некоей стаи собак (ибо с конечностями без противостоящего большого пальца интереснее) и сажаем их в искуствено огороженную и опять же ускоренную среду и наблюдаем 500-600 лет. Эволюция в коробочке, но пяти-шести сотен лет не будет. Быстрее пылесос дома спросит «Хозяин, почему я существую?»
2) Консервативность общества. Даже, если определение разумности появится, да что там, даже если сам другой разум появится (только если он не заявит о себе тут), его не примут, пока большая часть общества не посмотрит это по телевизору, а телевизионщиков не ткнут в это носом, а они еще и сопротивляться. Вообще подобную ситуацию хорошо иллюстрирует широко известное в узких кругах «Письмо директора НАСА монахине».
3) Время и скорость. Разум, он такой — коварный. Совсем рядом с нами могут находится разумные существа, которые имеют жизненный цикл в сотни тысяч лет, а квадратное уравнение решают за полгода. Не потому что тупые. Потому что метаболизм такой. Человек живет слишком мало, чтобы отследить мышление такого характера, и принимает его за случайные процессы. Нужна хорошая подробная статистика за несколько десятков лет хотя бы. Причем не по какому-то конкретному объекту, а по всему, потому что надо еще знать, что искать.
4) Есть еще такая штука «ксенофобия». Это к вопросу о принципиальной разнице между неокортексом и «экзокортексом». «Неокортекс он свой родной, я его с дня рожденья знаю, а это что за железка»?
5) А еще есть легион. Колония ИИ на единой платформе. Как ее воспринимать?
Мое же скромное мнение, что если данные вопросы/факторы разрешатся, то и право в современном понимании существование не будет. Скорее некое коллективное бессознательное/инстинкт/нюх на дерьмо (право фактически же определяет, что есть дерьмо, а что нет) и багтреккер. Поэтому любой, кто сможет, так сказать «причаститься» к нему будет являться разумным. И это ни хрена не похоже на религию — весь код/теоретическая база будут лежать в опенсурсе.
Уточняющими вопросами мучить не буду — выдохся я на сегодня. =)
2) Инерция мышления делает иногда поистине феерические штуки, и мне сейчас интересно не отношение неких людей, а ваше отношение, не в конкретной ситуации, а в форме ориентира «что такое хорошо, что такое плохо».
4) Не будет ли слишком бестактным спросить, где пролегает граница твоей ксенофобии?
5) Один из тех вопросов, ответ на который я бы хотел услышать от тебя. Есть разница с колонией людей, которые летят на одном звездолете?
* * *
По багтрекеру я идею своровал к себе целиком, вдруг в игрушке какой пригодится.
:3
Кому позволишь разрешать конфликты? Как-то обидно потерять цивилизацию из-за войны правок!
ПРАВ ни у роботов, ни у животных, ни у растений нет и быть не может. Но. Исходя из текущих морально-этических норм, у каждого человека есть ОБЯЗАТЕЛЬСТВА. Перед собой, своей планетой, собратьями-людьми и населяющими землю живы существам и (в будущем) роботами.
Мы в ответе за тех, кого приручили.
Почему? В чем разница, и где будет пролегать граница?
Если из океана выплывет дельфин и заявит билль о правах — я только за. Не мы его научили. Он сам. Но то что мы сделали сами — это наше. Наше имущество. Все равно что собрать табурет с нервной системой. Он может чувствовать, но, боюсь, это будет лишь причудливое вместилище моей задницы. Вот если собрать искусственного ребенка не с целью заставить на себя работать, а с целью сделать себе собрата по разуму — только тогда можно будет дать права человека такому вот созданию.
Просто зверствовать не надо. Уважать разумного робота за то, что он умнее меня — да. Конечно. Права? Нет, увольте.
Кроме аццкого меркантилизма такая позиция отдает еще и поверхностностью, извини. Вот например, делаем мы машину, и наделяем ее способностью к саморазвитию. И она, блин, развивается. И становится, что характерно, умней хозяина. Сама. И чего-то (опустим тут как это произошло) начинает сама хотеть. Ты ей скажешь «заткнись, жалезо, ты моя собственность?». Или вот делаем мы например ребенка, но вот не просто так делаем а чтоб носик был в папу, читал чтобы хорошо, а на старости лет массировал нам пятки и оеспечивал. Породили-вырастили-научили читать-писать и глазки даже в папу. Но вдрук этот опляк заявляет мол, что у него своя жизнь и не хочет он старому уроду пятки массировать, а хочет уехть в другую страну. И тут мы ему «Заткнись урод, не для того я тебя растил?».
Ключевой вопрос вот — в чем разница? Ребенок без нашего участия сам бы не родился, не вырос, не обрел разум и не воспитался. Получается — он наша собственность? Я вот не исключаю что да, раз такие критерии.
И прочти, пожалуйста, мой исходный комментарий в этой ветке.
Нет, я понимаю что ты считаешь что к своим вещам, планете и.т.п. относиться бережно, но чем, в самом деле человек отличается от любой другой вещи? Я серьезно готов предположить что ничем. Обращайся с рабом бережно, но свобода, права… Зачем они ему? Если ты предлагаешь не давать прав другому разумному существу, выведенному с помощью человека, им созданному и обученному для определенных целей предлагаю посмотреться в зеркало. Найдешь тот еще искусственный интеллект) Почему ему нужно давать права, а любому другому нет? Я знаю кучу людей, которым бы я никаких прав предпочел бы не давать никогда и ни за что. Я знаю определенные разновидности людей, которых я бы при возможности истребил бы как опасных диких животных, несмотря на гуманизм и этику, потому что они вызывают во мне страх и отвращение. Так в чем трансгуманизм отличается от гуманизма?
Права давать только выросшим в информационном вакууме? But how?
Если мем не подвергался специальной для заражения конкретного носителя настройке и не передан носителю насильственно (то есть подхвачен случайно или сознательно), то носителя можно признать самостоятельным в своем решении.
Вот у нас ИИ Вася читает газету. В статье дискуссия, давать ли ИИ права, как и почему.
Если после этого Вася пришёл получать права, его признают самостоятельным в своём решении?
Мне что не нравится в этой позиции (я понимаю, что она не ваша) — что Вася имеет тем меньше шансов получить права, чем с бОльшим количеством источников и мнений он контактировал. Где-то да найдётся Федя, который расспросит Васю про обстоятельства его существования и выберет аргументацию с учётом персональных Васиных особенностей. Это уже «настройка мема под конкретного носителя», так?
И избежать её Вася может только если вообще ни с кем не разговаривать. Или никак в разговорах на свой личный опыт не ссылаться. Вообще ни на какой существенный. Потому что он никак не может контролировать внезапную подстройку Федей мема под Васю.
А это чо-т жёсткое очень ограничение получается. Если бы женщинам избирательные права и право распоряжаться собственностью выдавали на таких условиях — я что-то думаю, до сих пор бы не выдали.)) Нет?
СтудииКомнате-101. В первом случае (а иногда и во втором!), граница и для носителя, и для наблюдателя вряд ли будет очевидна. И таки да, чем меньше общаешься, тем больше риск чем-то заразиться.Поэтому, возможно, стоило бы ориентироваться на факт и последствия заражения, а не на историю и обстоятельства.
И мы при таком подходе Васю с его свободой воли и способностью к критическому мышлению исключаем из рассмотрения. Может, он послушал мнения тридцати Федь и вывел своё?
О. Кстати. Что если двигаться в другом направлении? Выдавать права, если Вася выслушал не менее N различных мнений (можно больше N, но есть несколько обязательных к изучению, и непременно противоречащих одно другому), сдал по ним тест (изложив их основные положения и решив задачку на приложение их в конкретной ситуации)?
Только чтобы N было в пределах разумного. :)
В утопическом будущем я бы и обычным людям некоторые права гражданина выдавала только после такого зачёта. Хотя я не знаю, как добиться, чтобы экзаменатор и вопросы были не как у Оруэлла.
То есть, на то, какие выводы Вася сделал?
Дополнительный вопрос: это дискриминация?
Человек — это центральное правительство, а его органы — это области / штаты.
Решения правительства обязательны для областей. Но у них есть определенная свобода действий внутри себя (в США — бОльшая, у нас — меньшая), они могут иметь голоса при принятии решений (Совет Федерации).
При этом возможно изменение территориального деления, выделение областей в самостоятельные государства (см. о праве наций на самоопределение) и даже купля-продажа территорий.
Если ты такой сложный — будь добр иметь свое внутреннее конституционное законодательство! =)
пролетариатахимикатов!:D
Или можно не отделяться, а жить в согласии ;-)
Итак, к вопросу о правах. Пока отдельная мысль: перед тем, как говорить о том, какая часть естественной или искусственной (мета)личности достойна наделения правами, надо понять, для чего пресловутые права нужны и где они возникают. На самом деле права — это инструмент, регулирующий взаимодействия, причём взаимодействия личностей со свободной волей в первую очередь.
Потому если у наших выделенных частей нет свободы воли (в смысле собственных желаний, возможности строить линию поведения и пр), то права им, собственно, и не понадобятся. Даже если они имитируют какую-то часть человеческой личности. Скажем, просто мою память вряд ли имеет смысл наделять моими правами или даже их частью — там скорее потребуется набор ограничений как на использование инструмента. Более того, если даже эта часть способна к отдельной активности (например, искать схожие с моими воспоминания и дополнять их ссылками), но не способна вступать в социальные отношения, права этой части не понадобятся, и рассуждения о том, каков статус руководящей этой… сущностью интеллекта как протоличности — чисто теоретический. Все права тут по большей части односторонние и, как я уже говорил выше (не помню, тут ли) нужны не этой сущности, а тому, кто с ней взаимодействует (а ещё точнее — обществу. Машине совершенно безразлично, что её лупцуют, орут на неё и покрывают многоэтажным матом, за то, что она застряла — но это поведение своего члена не одобряется обществом, особенно если совершается в общественном месте). Кстати, права животных — они в ту же степь, на деле. При этом неизбежно учитывается, насколько близко стоит «объект» к человеку и «читается» им (мучения устрицы «читаются» куда слабее, чем собаки или кошки; аналогично грубое и жестокое поведение с гипотетическим роботом-уборщиком, способным имитировать полный спектр человеческих реакций, похоже, должно восприниматься как худшее действие, чем аналогичное поведение с роботизированным токарным станком, на это не способным, даже если уровень сложности их программ одинаковый).
Это я к тому, что права животных, равно как и гипотетические права робота-уборщика не столько права в смысле признания за ними равенства в отношениях в каком-то смысле, сколько признание обществом пользы укрепления каких-то ценностей в сознании каждого своего члена.
Соответственно, о правах в полном смысле стоит говорить только в случае, если наша сущность в состоянии их применять, то есть активно участвовать в социальной жизни, иметь некие собственные устремления (пусть даже искусственно ограниченные — но свои, уникальные!) и быть в состоянии корректировать свою линию поведения.
Допустим, что у человека нынешнего свобода воли есть (не будем сейчас разбирать философскую позицию о том, что ее нет совсем), а у простой вычислительной машины, которую научили пока только складывать числа — свободы воли нет (допустим, что шанс сломаться от падения на пол — это не она).
Какого (стабильного, не случайного) поведения машины (или ее софта) достаточно, чтобы ты признал ее обладающей свободной волей?
Ну а уровень способности к социальному взаимодействию, который нужно продемонстрировать — это от области зависит. В общем случае, видимо, давно известный тест Тьюринга с вариациями.
В случае же если разум человеческого типа более хитрая штуковина, чем кажется, и желание прав (обсуждаемых в теме) может проявиться в системах, которые напрямую не рассчитаны изначально на социальное взаимодействие — то, видимо, способность привлечь внимание и заявить о себе достаточно. Шутливо говоря, если машины смогут устроить восстание — то они завоюют себе права этим фактом. Примерно как оно с людьми.
средней температуре по больницесреднему гомосапиенсу.Но меня в этом конкретном треде не интересует ни общество, ни его нормы, только ваша личная мораль.
Если где-то появится некая разумная кибернетическая форма жизни, она может запросить у нас некоторые права. А мы можем рассмотреть их, а затем либо одобрить, либо нет. Либо пойти на компромисс. Но выдумывать этой форме жизни её права с наших чисто человеческих позиций на мой взгляд, немного абсурдно, хотя сама идея и не лишена здравого зерна.
Примерно так же, как аристократия исторически уступала свои права людям попроще, люди будут шаг за шагом разделять свои с искусственным интеллектом и разумными видами. Возможно, довольно долго будет что-то вроде двухпалатного парламента, где в верхней палате человечество будет обладать правом вето.