超優秀で超忠実というのも、問題なんだけどね。
指示が抽象的になるほど、AIが自律的に判断しなきゃいけないことが増える。それが金儲け、生産行為ならまだしも、戦闘などの場合、どこまで機械にまかせるのか？
人間の判断を可能な限り排除したほうがいい、だけどそうすると一定以上に効率的な戦闘は出来なくなる。敵がより機械に自由度を与えていれば、負けやすくなる。
最終的に「敵を排除せよ」とだけ言って、相手もそうしたら、どちらが勝つのか？ そもそも排除しない支配者層をは、どうやって見分けるのか？
内蔵チップ？ 外見？
機械のほうが効率が良いとしても100%ミスなく完璧、というのはありえないので、支配者層に牙を向くこともあり得るんだよね。
「敵を排除せよ」の「敵」とはなにか？ 敵の定義は？ その判断も機械にやらせたほうが早いとなると、もう、わけがわからなくなるよね。
