人間をいたぶる「将棋AI」を何に使うか
「人間vs人工知能」は役目を終えた
http://president.jp/articles/-/25609
【山本】僕の軸足はあくまで人工知能にあるわけです。AI技術者としては、「人間をいたぶる」ようなことはよくないと思うんです。コンピュータ将棋は、もう名人相手でも100回やって100回勝つレベルです。
これはもはや「いたぶる」と言っても言い過ぎではありません。非常によろしくない。「人間vs人工知能」という構図は役目を終えたと思っています。

【山本】今後、AIはどんどん進化して「知性」と呼ばれるものを身に着けるかもしれません。仮に人間と同じように考えるようになったとしましょう。
人間って、だいたい自分のことを「いい人だ」と思っていますよね。でも、「別の生き物」にはひどいことをするじゃないですか。AIが人間のことを「別の生き物」だと思わない保証って、ありますかね？

【よしたに】うーん……。

【山本】科学の源泉は「知能」ですけど、人工知能は「知能」を「科学」する学問です。コントロールできない知能はありとあらゆるものを破壊する可能性があります。

【源】SFでよく取り上げられるテーマですね。

【山本】だから、「AI開発はいい人にしてもらいたいね、人間がみんないい人ならAIだっていい人になってくれるかもしれないね」って思っているんです。