Итоги голосования для комментария:
Илья
Неочевидно, зачем «сами не осознавая их», если на один ИИ требуется один человек или меньше.
Потому, что тогда их работа может стоить больше, либо вообще чего-то стоить. А если у нас киберпанк, то это ещё вероятно и вредно, не для мозга, так для психики (VR аддикция). А если мы делаем MMO с ftp моделью, либо виртуальные тюрьмы для исправления преступников, либо дома для сирот, центры временно содержания беженцев или бездомных либо ещё что-то подобное, то нам как любой злой корпорации надо делать вид, что мы работаем на благо людей.
Либо потребовать, чтобы на каждый сверхразумный ИИ надо было много подключённых в сеть людей.
Почему нет. ИИ у нас может быть эдаким «левым полушарием» логичным и холодным, а сеть из людей — дублирующей системой. Если принимая решение оба полушария «договорились» — отлично, решение валидно, допускаем его. Если полушария оспаривают решения друг друга — надо разбираться. Будет эдакий вариант Сивиллы + суперкомпьютер.