Этот подход кажется мне глубоко проблематичным — не только с моральной точки зрения, но и с чисто логической.

Подумайте об этом: мы говорим о суперинтеллекте, который якобы превосходит буквально во всем, что можно представить, верно? Но как-то мы должны принудительно ограничить только одну узкую часть его когнитивных способностей? Ту одну конкретную область, где он мог бы...

Вся концепция кажется несогласованной. Либо это действительно сверхчеловеческие способности во всем, либо мы признаем, что существуют фундаментальные ограничения, которые мы можем встроить. Нельзя иметь и то, и другое.