Итоги голосования для комментария:
Geometer Ага, понял. Для начала признание — я не слишком сознательно конструирую систему ценностей. Я в ней живу, потому что живу в этом конкретном обществе.

А так… На мой взгляд, правами, связанными с обращением с ними, должны обладать те части ИИ, которые а) с достаточной точностью воспроизводят человеческие (или пост-человеческие — какие там будут нормой) реакции, б) уникальны и способны (хотя бы теоретически) на самоосознание или его аналог. Возможность выбора, свобода воли и пр. Собственно, и пункта а) достаточно для некоторого кодекса поведения относительно них (потому что это опять-таки полезная для общества вещь — отработка социальных реакций, по возможности универсальных), но второе поднимает этот кодекс на более высокий уровень. Ещё, конечно, надо смотреть на то, насколько восстановим для них ущерб, вызываемый «недолжным» поведением (оценка причём нужна как внешняя, так и внутренняя), но для простоты примем, что эти вещи более-менее совпадают и ущерб более-менее сравним с аналогом у человека.

При этом права, естественно, могут существенно отличаться в зависимости от области, в которой данное метасущество задействовано. Чем более активное взаимодействие с другими метасуществами там подразумевается, тем больше потенциально там будет прав.
+