>>475
11. 人工知能の安全性について研究したり、人工知能と人的価値の標準を同じくしたりすることは時期尚早だと思いますか？
人工知能の構成を知らなければ、それを安全な仕組みに設計をすることは難しいとされています。人工知能の安全性について有効だと思いますか？

11 の答え：山川さん

全く時期尚早とは思いません、急いで進めるべきだと思います。以前より技術発展が加速度的状況にあることはカーツワイル氏らも言う通りです。
人間の直観は基本的には線形的なので、指数関数的変化の真只中においては必ずしも正解に近くない可能性があります。
またこの様な大きな不安を抱える状況においては、人間には心理学で言う「正常値バイアス」というのが働きます。
これは「今まで大丈夫だったからきっと大丈夫だろう」と思ってしまうもので、普通は正しくて有効なのですが、今回の場合には正常値バイアスがあるということを差し引いて考えておくべきでしょう。

できれば、汎用人工知能がもたらすExistential Riskを計算する何らかの方法があると良いのかと思います。
一つは、宇宙物理学におけるフェルミのパラドックスを手がかりにする方法です。
これは私達人類がエイリアンにまだ出会っていない事実と、惑星上で生命が誕生しそれが知的に進化する確率から計算すると、知的生命体が技術発展の末に絶滅する確率を計算することもできるというものです。
ただ、この方法ですと単に悲観的な結果が得られるだけで、私達が何をすべきかの指針は得られません。
先に述べたような、人類絶滅能力を持つ意思決定主体の増加の面から考えたほうが良いかもしれません。