(強いAI)技術的特異点/シンギュラリティ128
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド。
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点。
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則。
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
https://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
https://goo☆.gl/RqNDAU
※URL部分をコピーし、☆を消してペースト※
※前スレ
(強いAI)技術的特異点/シンギュラリティ127
https://rio2016.5ch.net/test/read.cgi/future/1530234247/
(強いAI)技術的特異点/シンギュラリティ126
https://rio2016.5ch.net/test/read.cgi/future/1529408476/
(強いAI)技術的特異点/シンギュラリティ125
https://rio2016.5ch.net/test/read.cgi/future/1528603775/ >>465
【入山×山川】人類の次のテーマは「いかにうまくAIに負けるか」
https://newspicks.com/news/2300396
【入山×山川】人間の脳を模倣し、超えていく。AIの近未来とは
https://newspicks.com/news/2300398
【入山×山川】「AI開発レース」に勝てない日本が生き残る秘策
https://newspicks.com/news/2300400
・AGIは「様々な領域のことを基礎知識からAIが自然学習する」ことを目指している
・そのためには、神経科学者をこの分野に巻き込むことが必要
・しかし、20年以上にわたる長い「AI冬の時代」があったために、50歳以下の世代があまり育っていない
・そこで、単に開発レースに勝つことでなく、「人類と調和する人工知能のある世界」の実現を目指すという、より高いレベルのビジョンを掲げる
・「全脳アーキテクチャのオープンな開発を促進する」ことをミッションとする
・「専門知識」「社会への影響の見識」「共同でAGIをつくる意識」の３分野に取り組む シンギュラリティサロン＠東京＃26 + ジャパンスケプティクス
http://singularity.jp/20180311-2/
２０１８年３月１１日（日）に開催された、シンギュラリティサロン＠東京（第26回公開講演会、ジャパンスケプティクスとの共同開催）の動画です。
https://youtu.be/Oe2uxni240M
スケジュール
13:30-14:30 講演１「なにわのシュルレアリストによるAIとアート」中野 圭（シュルレアリスト、大阪芸術大学 芸術学部 アートサイエンス学科 准教授、Facebook: 中野 圭 ）
【概要】
ICTが世の中に普及してから20年程経っており、最近ではAIの実用化についてもニュースなどからも伝えられている。深層学習、機械学習などの統計的な手法についてもユーザーレベルで利用できるツールについても幾つか紹介がなされている。
今年度はAIとアートをテーマに研究を行ってきたこともあったので、最新の技術動向とその活用例について発表する。
ボーカロイド技術の研究の中で10数年前から現在のAI技術の研究開発と作品制作を行ってきた経験からシュールレアリスム（超現実主義）がICTからAIまでを網羅したメディアアートにおいても有用であり、
梅田駅などヨーロッパ諸国の地下鉄と遜色ない景観を保つ大阪において、「なにわのシュルレアリスト」を名乗る意義についても熱く語る。 >>468
14:35-15:35 講演２ 「人工知能に美意識は芽生えるか」 中ザワヒデキ（美術家、人工知能美学芸術研究会 発起人代表）
【概要】
現今の「人工知能が創作した芸術」とされているものは、その殆どが、人間が人工知能という道具を使って制作した代物でしかない。
真の意味で「人工知能が創作した芸術」はまだ存在していないどころか、真の意味での「人工知能の創作」も、さらには真の「人工知能」さえ、未だ実現はなされていない。
しかしながら、いったん目的が他から与えられ、フレームが定まれば、アルファゼロは人智を越えた結果を出す。
人工知能が自ら目的を見つけ出し、フレーム対処能力を上げることができるなら、真の意味で人工知能が芸術を創作することが理論的には可能となるのではないだろうか。
今回の演題「人工知能に美意識は芽生えるか」は、沖縄科学技術大学院大学（OIST）にて本年1月8日まで、世界初の総合的なAIアート展として開催されていた「人工知能美学芸術展」が、テーマとして掲げたものである。
同展では「Ⅰ：人間美学／人間芸術」「Ⅱ：機械美学／人間芸術」「Ⅲ：人間美学／機械芸術」「Ⅳ：機械美学／機械芸術」の4つのカテゴリーを設定し、私を含む展覧会の企画者は、まだ実現されていない「Ⅳ」を希求するとした。
15:35-15:45 【休憩】
15: 45-16:45 パネルディスカッション「AIでアートはつくれるか」
パネリスト：中野圭・中ザワヒデキ・松田卓也（神戸大学名誉教授）・高橋昌一郎(國學院大學教授、司会）
主催
シンギュラリティサロン
共催
JAPAN SKEPTICS、株式会社ブロードバンドタワー AIに規制かけるなら今しかないだろうなｗ
これ以上行けば量子コンピュータと結びついて爆発的に進化するぞ >>467
ドワンゴ人工知能研究所の所長の山川宏とのインタビュー
https://futureoflife.org/2017/10/12/ドワンゴ人工知能研究所の所長の山川宏とのイン/
6. 汎用人工知能（AGI）が社会にもたらす最大の便益は何だと思いますか？
６の答え：山川さん
汎用人工知能のもたらす最大の便益は、科学技術の発展を加速し、それによって得られる波及効果ででしょう。環境に対するコントロール、食料問題、宇宙進出を加速することなどです。
先に述べたように、自分たちがもつ攻撃力の範囲よりも人類の生存領域が大幅に広ければ、Existential Riskを大きく抑制できる可能性があります。
そのため、私の思いとしては、できれば人工知能の利用は宇宙進出に重点を置くべきと考えています。
ここではひとつ、私が以前に考えた未来像について紹介しましょう。
EcSIA： AIと共存する望ましい未来社会像
私が思う，望ましい未来像とは 「万人の幸福」と 「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．
こうした未来社会では共有財産としての多様な人工知能と，時に拡張された人類によって生態系が形成される．
私はこれをEcSIA (Ecosystem of Shared Intelligent Agents )と呼ぶことにした．
EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する．そしてEcSIA が生み出す恵みや富は万人に分配される．
（山川, 2015年７月）
7. AGIがもたらす最大のリスクは何だと思いますか？
７の答え：山川さん
最大と言うことになれば、先ほどお話しましたように、人類絶滅能力をもつ意思決定主体の増大がもたらすExistential Riskかと思います。 >>471
8. 私たちの進歩を侵害する世界規模の惨事はないと仮定して、次の10年・2040年ごろ・2100年ごろのhuman-level AGI（人間の知能レベルの実現を目指す汎用人工知能）完成の可能性はどの程度であると思いますか？
８の答え：山川さん
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としています。
カーツワイル氏が「2029年に人間レベルができる」言っていることはよく知られているかと思いますが、大体それと同じぐらいで考えています。
我々はAGI開発を促進する集団なので、平均的な見解より遠目の「100年後にできます」と言うことはありません。
FHIのニック・ボストローム氏らが2011年から12年ぐらいにとったアンケートに私も答えましたが、その際には私個人としては2023年と書いたはずです。
個人的には早い可能性も考えていますが、WBAI関係者の意見の平均的なところで、2030年ぐらいかなと思います。
こういう点では、FLIによるAsilomar会議でも意見の一致は得られなかったのかと思います。
一般的にマスメディアは煽ったりその反対をしたりする傾向を持ちますので、人工知能の技術者が、意見の一致をみなくても技術的な観点から見解を世間に発信していくことの意義は高いと思っています。
私は現在、日本の人工知能学会の編集委員長ですので、上記のような意識の上で、本年の７月号から連載するレクチャーシリーズにおいて、
「シンギュラリティと人工知能」というテーマで、毎号、人工知能の専門家に技術的な観点から見てシンギュラリティについて語ってもらう企画を進めています。
こうして技術的に冷静な意見を、まずは日本国内において広めていきたいと思っています。 >>472
9. 人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思いますか？
９の答え：山川さん
先に話に出したコンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきました。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思います。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大するでしょう。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れません。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担えます。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
ところで、カーツワイル氏は2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしています。
私は、上記のような理由からこの後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測しています。
私から見るとこのカーツワイルの16年間という予測は不自然におもいますが、むしろその点についての疑問をあまり見かけないことに不思議さを感じています。
ただし、この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれません。 >>473
10. 悪い設計か操作の結果として、人工知能が悪い（もしくは極めて悪い）結果を引き起こす可能性はどの程度だと思いますか？
10 の答え：山川さん
些細な負の影響を考慮すれば100パーセント何かしらあります。例えば誰かがビジネスで損をしたなども入れるなら必ず出てきてしまいます。
リスクは基本的にインパクトと同時に頻度や確率を考慮しなければなりません。Existential Riskはもちろん非常に大きなインパクトで避けなければいけません。
そのインパクトに近いものとして、国家同士での戦争や悪用による負の影響が一番大きいと思います。
より直近の課題として、生産性を持ちうる職業技能の高度化があります。
人工知能で実現できる技能や能力が高まると、それを使いこなせる高度な能力をもつ人材の生産性が格段に増加する反面、それができない人材の生産性の価値が激減します。
つまり儲かる人と儲からない人の格差が拡大します。
こうした格差は、個人レベルでも組織レベルでも拡大します。そうすると、経済的に不遇なところから不満が生まれ、そこが戦争や紛争の温床にもなりえます。
これは資本主義のもたらす弊害とも捉えうるわけです。いずれにしても、こうした不安定要因をなるべく縮小していくというところが大事でしょう。
考え得る対策の一つは、ベーシックインカム等の制度の導入です。例えば日本ならば全ての個人に毎月７～８万円を配るなどです。
もちろん日本だけで済む話ではないのですが、なんらかの方法で経済的なバランスをとっていく必要があるでしょう。
資本主義がすぐに変わらない以上、当面は重要なことになりますし、何らかの制度でリスクを抑えていく必要があると思います。 >>474
そして、極めて悪い結果の確率、Existential Riskの確率などはどうやって計算すべきか以前考えていた時があります。
人類絶滅能力を持っている意志決定主体の数が計算できると、それによって人類が何年生きられるか半減期が計算できるわけです。
例えば人類が100万人いたとして、何パーセントの人がそのスイッチを推したいと思うかです。
単純な計算は当然できるのですが、そういうのも抑制する因子とか、ボタンを押そうとしても止めようとするものとかを沢山作っていくことになると思うので、それも含めるとその方向では確率を計算するのは難しいかもしれません。
一応できるけれど、それでいいのかどうかわからないといったところです。 >>475
11. 人工知能の安全性について研究したり、人工知能と人的価値の標準を同じくしたりすることは時期尚早だと思いますか？
人工知能の構成を知らなければ、それを安全な仕組みに設計をすることは難しいとされています。人工知能の安全性について有効だと思いますか？
11 の答え：山川さん
全く時期尚早とは思いません、急いで進めるべきだと思います。以前より技術発展が加速度的状況にあることはカーツワイル氏らも言う通りです。
人間の直観は基本的には線形的なので、指数関数的変化の真只中においては必ずしも正解に近くない可能性があります。
またこの様な大きな不安を抱える状況においては、人間には心理学で言う「正常値バイアス」というのが働きます。
これは「今まで大丈夫だったからきっと大丈夫だろう」と思ってしまうもので、普通は正しくて有効なのですが、今回の場合には正常値バイアスがあるということを差し引いて考えておくべきでしょう。
できれば、汎用人工知能がもたらすExistential Riskを計算する何らかの方法があると良いのかと思います。
一つは、宇宙物理学におけるフェルミのパラドックスを手がかりにする方法です。
これは私達人類がエイリアンにまだ出会っていない事実と、惑星上で生命が誕生しそれが知的に進化する確率から計算すると、知的生命体が技術発展の末に絶滅する確率を計算することもできるというものです。
ただ、この方法ですと単に悲観的な結果が得られるだけで、私達が何をすべきかの指針は得られません。
先に述べたような、人類絶滅能力を持つ意思決定主体の増加の面から考えたほうが良いかもしれません。 >>476
13. 多くの知識人が、日本は自動化を推奨していて、西欧諸国に比べロボットを好意的に受け入ていると言及しています。
日本における人工知能に対する見方は西欧諸国と比べて違うと思いますか？ その場合、それはどう違いますか？
英語話者のあいだでは、優れた人工知能・技術的特異点・人工知能の安全性について活発に議論されています。日本ではどうでしょうか？
13 の答え：山川さん
倫理を含む人間性の点から見れば、私達が同じ人間である以上、洋の東西を問わず、総じて共通点のほうが多いことを前提とすべきでしょう
日本の文化的背景を人工知能観点からみると、いわゆる八百万神（やおよろずのかみ）という森羅万象に精霊や神が宿るという信仰は大きな影響も持つと思われます。
つまり生き物と人間の間の境界が比較的曖昧ですし、その延長線上で人工知能やロボットとの境界も曖昧になっています。
ですから、昔から、『鉄腕アトム』や『ドラえもん』などのアニメにおいてロボットと共に生きる世界観は一般大衆に受け入れられています。
ちなみに東京には世界の様々な料理のレストランがありますし、そうした意味でも多様性を受け入れる文化なのかもしれません。
実は多様性を許容することは、Existential Riskを減らす有効な手段となりえると考えます。明らかに現在は科学技術が指数関数的に進展し、それに伴い変化が加速しているわけです。そして変化を乗り越える力の源泉は多様性です。
先程EcSIAを紹介した際に触れましたが、これからは、人工知能と人間だけでなく様々な形で人間と人工知能が融合した形も現れてくると思うのですが、こうして多様性を拡大しておくことは、生き残る確率を高めるでしょう。
ただし多様性は生存確率を高める一方で大きな犠牲が伴います。つまりどの選択肢が生き残るのかは、予めわからないし、だからこそ多様性の意味があるわけです。
できれば、こうした犠牲を伴う多様な選択肢へのチャレンジを、うまく人工知能が先回りしてくれて試してもらえるならば、私たちの痛みを減らしつつ人類を生存させ続けることも可能になるかもしれません。 >>477
存在すべきものの多様性に関わる議論をさらに極端に推し進めると、「私たち人類は未来の宇宙にむけて何を残すべきか」という問に辿り着きます。
極めて個人的な見解とはなりますが、私としては「存続する知能」こそが、未来に残すべき何かだと思います。
私達が進化の荒波を超えて、今こうした知能社会を作り上げたことは非常な幸運です。そうであれば、知能それ自体に保存する価値があると考えることもありえます。
もし私達が、地球外の知的生命体と接触し、その後において共存する時代を迎えたなら、私たち人類はそうした生命体の存続についても配慮することになるでしょう。
そうなれば、将来において私たちにとって重要な価値は、人類自身の存続から知性の生存に拡張される可能性が高いでしょう。
一旦、人類の使命として「存続する知能を宇宙に広める」と仮定してしまえば、Existential Riskを回避しうる選択肢は大幅に広がります。
宇宙に進出して知能を受け継ぐものの候補は人類以外の、人工知能、遺伝子改変された動物、知能の種となる細菌やウィルスなどが考えられるかもしれません。
一例として、宇宙でも冬眠して行き続けられるクマムシに、好環境で一万年ほど進化すれば人間レベルの知能を生み出せるような遺伝子を組み込み、宇宙に拡散したとします。
すると多くの惑星上で、１万年に１回シンギュラリティが起こります。文明がシンギュラリティを超えられる確率がかなり低くても、それ以上に多くの星でシンギュラリティが起これば、やがて何れかの星では成功するかもしれません。
私達が宇宙初でこうした事業に成功すれば、私達人類の功績は宇宙の寿命に近い時間スケールで歴史に刻まれることになるでしょう。
ただこの際には、私達人類の業績を伝える何らかの記録を残すことを忘れてはいけませんね。 >>479
直接的な意味では人類を置き去りにしてしまいましたが、人類ももちろん、生身の人類だけでなく、クマムシのように宇宙で冬眠できる人類や、人工知能にアップロードされた人類など、選択肢の幅を広げるほどに、生存確率は増大するはずです。
何れにしても今後さらに、技術的な選択肢は増え続けますが、何を存続させたいのかという価値判断こそがExistential Riskを制御する大きな要因になりえます。
一方で人を超える人工知能の出現は、「知性の高さを理由として特権的な存在意義を人類に与える」という主張を破壊するという形からも私達の価値観に大きな影響を与えます。
この状況は逆に、本当に次世代に伝えるべきものは何であるかを私達が自問するチャンスが与えられていると見ることもできます。
リチャード・ドーキンスは、「生物は遺伝子の乗り物」と考えましたが、同様に「脳は知性の乗り物」に過ぎないのかもしれません。
多様性を受け入れる日本人の文化的特性は、こういった選択肢ですら受け入れうる素地があるのではないかと考えています。 >>479
>>478のミス
14. 日本はかつてCD・VHS・DVD・新幹線・LCD・デジタルカメラなどの最先端技術と同義でしたが、中国や韓国などの経済の急成長に伴い、日本経済は停滞し、世界経済に占める割合は小さくなりました。
しかし、日本には世界でも最高レベルの研究者やエンジニアがいます。日本が再度技術革新をけん引する原動力となるためには何ができると思いますか？
14 の答え：山川さん
WBAIでは、人類と調和する人工知能の開発をめざしています。しかしながら、人情として、ある国に属する人は、人類全体よりもその国の人々を大事と考え勝ちです。
これは、人類が知的クマムシよりも人類が大事と考える傾向があるのと同様でしょう。
当然ながら企業や政府関係者などを含め多くの日本人は、この変化の中でどう人工知能技術を発展させてそれを活用するかという事に心を砕いています。
日本にとって決め手となるような戦略は簡単には思いつかないですがいくつか思うところを述べてみましょう。
最初に、少なくとも不利にならない点をのべておきましょう。実は近年の機械学習、深層学習は、ほぼほぼ数学ですので基本的には言語の壁がありません。
深層学習が世界をセンサ情報を通じて認識するために英語を用いる必要はないのです。しかも最近は論文を読むときに機械翻訳をつかうと殆ど読めてしまいます。
実は2000年台の日本は圧倒的に不利でした。残念な例として、日本ではソーシャルネットワークといえば日本発のMixi(ミクシィ)という時代がありましたが、世界との競争で負けた結果、今やみながFacebookを使っています。
今回の機械学習を中心とした人工知能の研究開発では、伝統的に数学や理論物理学に強みがある日本の研究者や技術者にとっては力を発揮しうる場面でしょう。 >>480
関連してよく言われていることですが、日本はネット上のITよりも、技巧性が活かせるモノづくり的に強みがありました。
人工知能がモノを操作できるようになった今、日本の技術者の技能を効率的に人工知能に転移することで強みを築きうると考えています。
これはドイツのインダストリー4.0と近いアプローチです。その特殊な例として「食×AI」を提唱しているのが先程の松尾豊氏です。
何故なら日本は世界中から多様な料理を輸入してさらに美味しく発展させており、特に首都の東京などは、この点で抜きん出ています。
これを支える農業などにも人工知能が導入される中で、こうした日本人の感性を活かせる領域は期待が持てます。
次に、やや逆説的ですが、日本はある意味での課題先進国と言われています。特にいずれ世界のどの国でも起こりうる高齢化問題が世界で最初にやってきます。
ロボットによる介護などの人に寄り添う技術、パーソナライズされ予防医療、健康管理のためのウェアラブルデバイス等の市場が拡大し研究開発が進むでしょう。
並行して労働者不足が生ずるためにロボットを受け入れやすい状況も加速します。これを起点に人工知能の関連技術を蓄積しうると思います。 >>481
最後になりますが、今後の世界においては、汎用性と自律性を備えたスーパーヒューマンインテリジェンスに向かって人工知能の開発が進むに連れて、人類がそれらを制御するための国際的な体制が構築されることになるでしょう。
もちろん個別に人工知能開発が行われてはいても、その開発ガイドラインや開発や運用基準が具体化され、その挙動をモニタするための人工知能も多く存在することになるでしょう。
そして国や企業などを含む国連のような国際組織が、こうした人工知能の全体を管理する展開が予測されます。
こうした流れの中で、日本は人工知能管理の常任理事国になって行けるように、技術力と倫理観を同時に高めることで、世界から見て日本は信用できる国だと思われることが重要ではないかと考えています。
もしかすると汎用人工知能は、ある天才が一夜にして完成してしまうかも知れません、そういった時に最初に相談したい国が日本であってほしいとおもいます。
そして全脳アーキテクチャ・イニシアティブ(WBAI)は、そうした動きを支える組織でありたいと思っています。
＜＜＜＜おわり＞＞＞＞
This interview transcript was prepared by Mamiko Matsumoto and Kazue Evans.
インタビューの日：２０１７年０４月０５日（水） >>473
山川先生はAGI完成は早ければ2023年と考えてるんですね、めっちゃ早いですね。。
そして、一度人間並みのAGIが出来ればそこからの進化は一瞬だと。。
まさにシンギュラーな進化。
AGIがAGIを生み、育てることで爆発的に進化する。
人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思うか？
答え：山川さん
コンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきた。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思う。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大する。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れない。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担える。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
汎用人工知能完成の時期
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としている
山川先生個人としては早ければ2023年頃
WBAI関係者の意見の平均は2030年頃
カーツワイルの予測は遅すぎる
カーツワイルは2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしているが、私は、上記のような理由から後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測している。
カーツワイルの16年間という予測は不自然に思う。
その点についての疑問をあまり見かけないことに不思議さを感じている。
この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれない。 ■ このスレッドは過去ログ倉庫に格納されています
