まず、
AGIとASIの境界が分かっていないのと、

仮に、
明確な境界があったとして、

ASIを作らないと言う選択をするほど、

人間は、
欲求を抑えられる生き物ではないと思うけどね。