Итоги голосования для комментария:
DmitryDS Мы это довольно хреново понимаем. Иначе у нас не было бы стольких взаимно противоречащих школ психологии. «Смоделировать» мы можем «собаку вообще» (или «пользователя вообще», или «покупателя вообще», или… много таких вот очень узких частных «вообще»), а не конкретного человека. Даже если мы много лет знаем человека и можем хотя бы на основании опыта предположить, как он поступит в той или иной ситуации, мы постоянно в таком моделировании ошибаемся.
А еще мы уже прямо сейчас довольно хреново понимаем, что выкинет в тот или иной момент условный ЧатЖПТ (из-за чего постоянно выскакивают курьезные новости вроде «я попросил бота рассортировать мои фотографии, а он полностью очистил мое облако, где они лежали»). Что не делает его ни разумным, ни приближающим сингулярность.
+