Итоги голосования для комментария:
Злодей
Большинство вопросов актуальны только в каких-то конкретных обстоятельствах и более нигде.
Первое — те, которые я имел в виду пока актуальны только в вымышленных мирах. Ну и во вторых, любые реальные моральные вопросы актуальны всё время. Поскольку общество функционирует в пределах морали. Моральные нормы не выдумываются чудаками, пишущими религиозные тексты. Эти чудаки скорее вписывают эти нормы в свои книжки, чтобы они были солиднее. Имораль меняется когда это нужно обществу для того, чтобы перестроиться для функционирования в новых условиях.
Нету изолированных моральных дилемм.
При всем моем желании, я в ряд ли смогу рассказать современным людям историю о рабстве таким, каким оно было тысячи лет назад.
Почему, Наоборот. Очень даже легко можно. Как раз таки пример настоящей демонстрации неоднозначности морали Например :«Готовы ли игроки ради ощутимой выгоды, удобства, прогресса и вообще возможности для участия в общественной, научной, культурной и экономической гонке применять методы универсально осуждаемые современным обществом» Идеи гуманизма и равенства людей, а также средства модернизирования общества и средств производства, как ни странно, впервые были оформлены именно философами, чьи руки и умы были освобождены от забот о выживании именно трудом рабов. И каждый ученый-философ двигавший общественную, легальную и научную мысль тоже рос не на голом месте, а стоял на плечах предыдущего мыслителя-рабовладельца.
А вот второй пример — просто заезженный уже до дыр идеологический урок в духе «Drugs are bad, mkay».

upd Опять же, для осознания ИИ и его стремлений и моральных вопросов нужно представлять как он будет функционировать. Как человек он мыслить и чувствовать не может, ведь у людей все эмоции и стремления диктуются не набором опыта и информации, а последствием инстинктов и химических реакций в мозгу, сформированных миллионами лет эволюции. А уж если поднимается моральный вопрос стремлений и желаний ИИ то нужно чтобы он основывался на чем-то. На понимании уже не природы человека, а природы ИИ. Разумный компьютер не может быть просто цифровым человеком уже потому, что hardware у них совсем разный, причем у людей софт сильным модификациям поддается с большим трудом и завязан на железе очень сильно.
При таком подходе мы задаемся вопросом считать ли ИИ человеком или нет ( после чего на него распространяются все наши права ). Хотя ИИ просто не может быть человеком никогда и никак. Если он будет разумным, то его разум будет работать совсем по иным принципам, чем человеческий. И человеческие нормы и стремления ему будут совершенно чужды, ведь им не могут двигать человеческие инстинкты.
+ -