X
(強いAI)技術的特異点/シンギュラリティ147
■ このスレッドは過去ログ倉庫に格納されています
0001オーバーテクナナシー
垢版 |
2019/01/23(水) 00:12:32.85ID:NX8Yg0dN
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド

■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点

■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む

★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
http://goo.gl/riKAbq.info
(情報科学) 技術的特異点と科学・技術 (ナノテク)
http://goo☆.gl/RqNDAU

※URL部分をコピーし、☆を消してペースト※

※前スレ
(強いAI)技術的特異点/シンギュラリティ146
https://rio2016.5ch.net/test/read.cgi/future/1547171604/

(強いAI)技術的特異点/シンギュラリティ145
https://rio2016.5ch.net/test/read.cgi/future/1545999080/

(強いAI)技術的特異点/シンギュラリティ144
https://rio2016.5ch.net/test/read.cgi/future/1545018277/
0026yamaguti
垢版 |
2019/01/23(水) 14:35:58.55ID:mAoFHgII?2BP(0)

>43 yamaguti 190111 1530 c91waTfv? \|>13 yamaguti 181229 0028 H3CnzmfF? \|>23 yamaguti 181217 2022 wTQbtxsi? \|>12 yamaguti 181201 2215 pKy81yx+ \|>10 yamaguti 1121 0904 sfyGuXNf?
||＞ :
||＞＞ http://rio2016.2ch.net/test/read.cgi/future/1511446164/36-89#-#819-#831-837#868##823-826# HTM Ronbun
||＞＞>
||＞＞ :
||＞＞＞> 階層的時間的記憶理論 ( HTM )
||＞＞＞> http://webcache.googleusercontent.com/search?q=cache:numenta.com/assets/pdf/whitepapers/hierarchical-temporal-memory-cortical-learning-algorithm-0.2.1-jp.pdf#nyuumenta
||＞＞＞> 短縮版
||＞＞＞> http://rio2016.5ch.net/test/read.cgi/future/1427220599/539-676
||＞＞＞> http://rio2016.2ch.net/test/read.cgi/future/1489740110/22-30
||＞＞＞>http://rio2016.2ch.net/test/read.cgi/future/1481407726/6-82
> :
>> http://rio2016.5ch.net/test/read.cgi/future/1427220599/478-509#742# DensiZunou SekkeiZu Gaiyou
>http://rio2016.2ch.net/test/read.cgi/future/1481407726/205#-## KanseiZumi HannyouAI/AL
:

世界の構造を学習する事を新皮質内カラムがどの様に可能にするかの理論
http://rio2016.2ch.net/test/read.cgi/future/1547171604/43-67

>423 ｰ 190116 1128 3ISQmIwx
>Numentaがブレイクスルｰ
>
> Numenta publishes breakthrough theory for intelligence and cortical computation
>http://eurekalert.org/pub_releases/2019-01/kta-np011119.php
0027yamaguti
垢版 |
2019/01/23(水) 14:36:51.12ID:mAoFHgII?2BP(0)

http://arxiv.org/pdf/1505.02142/
arXiv：1505.02142v2 [q-bio.NC] 2016年2月9日


ハイデルベルクニューロモルフィックコンピューティングプラットフォームへのHTMモデルの移植


セバスチャンビローデル1、*、
Subutai Ahmad 2、†

1キルヒホッフ物理研究所、ハイデルベルク、ドイツ
2 Numenta、Inc.、レッドウッドシティー、CA

*電子メール：sebastian.billaudelleATkip.uni-heidelberg.d
†電子メール：sahmadATnumenta
0028yamaguti
垢版 |
2019/01/23(水) 14:37:43.88ID:mAoFHgII?2BP(0)

抽象

Hierarchical Temporal Memory（HTM）は、新皮質の詳細な研究に基づいた機械知能の計算理論です。
ヒューマンブレインプロジェクト（HBP）の一部として開発されたハイデルベルクニューロモ ry プラットフォームは、スパイキングニューロンのネッ をモデリングするためのミックスドシグナル（アナログおよびデジタル）大規模プラッ ｰム
、HTMネットワークをこのプラットフォームに移植する最初の取り組みについて説明します。
? スパイキングネットワークモデルを使用して重要なHTM操作をシミュレートするためのフレームワークについて説明します。
HTM の鍵となるオペレーションをシミュレートするためのフレームワークに付いてスパイキングネッ モデルを用い説明
? ry 、特定の空間プールと一時的なメモリの実装、および基本的な特性 ry 。
その後、特定の空間プーリングとテンポラル記憶の実装、及び基本的特性が維持されていることを示すシミュ について説明
? SpikeTiming Dependent Plasticity（STDP）、および大まかな配置配線計算を使用して塑性ルールのフルセットを実装する際の問題について説明します。
塑性ルールのフルセットを実装する際の問題に付いて、スパイクタイミング依存可塑性 ( STDP : Spike-Timing-Dependent Plasticity ) 及び大まかな配置配線計算を用い説明
さらなる作業が必要ですが、私達の最初の研究はハイデルベルクプラットホームで効率的に大規模HTMネットワーク（可塑性規則を含む）を走らせることが可能であるべきであることを示します。
より一般的には、高レベルのHTMアルゴリズムを生物物理学的ニューロンモデルに移植することは、将来の研究にとって有益な調査分野となることを約束
0030yamaguti
垢版 |
2019/01/23(水) 14:39:53.35ID:mAoFHgII?2BP(0)

1 前書き

哺乳 、特に人間の脳は、多様な感覚入力を処理し、複雑な空間的および時間的パターンを学習し認識し、そして文脈および以前の経験に基づいて行動を生み出 。
ュータは数値計算 効率的ですが、認知タスク には 。
特に脳と新皮質を研究 、知的生物と人工システムの間のギャップを埋める新しいアルゴリズムを開発するための重要なステップです。
Numentaはそのようなアルゴリズムの開発と同時に新皮質の原理の研究に専念している会社です。
HTM）モデルは、神経科学 に基づいて現実世界の問題を解決 設計

ソフト 大規模ニューラ 効率的 、まだ挑戦です。
モデル 生物物理学的な詳細が多いほど、 計算資源
? 例えば計算を並列化することによって、そのような実装形態の実行を高速化するための様々な技術が存在する。
その を高速化 各様の技術、例えば並列計算が存在する。
専用ハードウェアプラッ ｰムも開発中
? ry を特徴とすることが多い ry 。
SpiNNakerプラッ ｰムのようなデジタルニューロモルフィックハードウェアは、高度に並列化された処理アーキテクチャと最適化された信号ルーティングをフィーチャ [Furber et al。、2014]。
、アナログシステムは、電子マイクロ回路におけるニューロンの動作を直接エミュ 。
Hybrid Multi-Scale Facility（HMF）は、BrainScale Sプロジェクト（BSS）および （HBP） で開発されたミックスドシグナルプラッ

、HTM ｰクをHMFに移植する取り組みを紹介
スパイキングニューラル ｰクに基づいてHTMをシミュ フレームワーク、ならびにHTMの概念である空間プーリングおよび時間的記憶のための具体的なネッ モデルが紹介
HTM ｰクの基本特性を検証するために、動作をソフトウェア実装と比較 。
ターゲットプラッ ｰムでの 適用性、シナプス可塑性の影響、および接続ルーティングの考慮事項について説明
0031yamaguti
垢版 |
2019/01/23(水) 14:40:42.66ID:mAoFHgII?2BP(0)

1.1 階層的時間メモリ

HTMは、新皮質の原理に基づく機械知能のための一連の概念とアルゴリズムを表しています[Hawkins et al。、2011]。
これは、空間的および時間的パターンを学習し、以前 シーケンスから予測を生成する 設計
? ry 学習を特徴とし、 ry を操作します。
継続的な学習をフィーチャし、ストリーミングデータをオペレートします。
? ry 領域からなる。
ＨＴＭ ｰクは、１つまたは複数の階層的に配置されたリージョンからなる。
? ry 列に編成 ry 。
後者はカラムとして編成されたニューロンを含みます。
機能原理は、元のホワイトペｰ [Hawkins et al。、2011]で詳細 2つのアルゴリズムに取り込まれています。
以下の段落は、紹介の概要 、この作業に関連する特性を紹介

空間プーラーは、バイナリ入力ベクトルを列のセットにマップするように設計 。
これまでに見た入力データを認識することで、安定性が増し、システムのノイズに対する影響を受けにく
その振る舞いは、以下の特性によって特徴付け

1。
? 円柱状の活動はまばらです。
カラム状アクティビティは疎です。
? 通常、2,048列のうち40列がアクティブになります。これは約2％の希薄度です。
通常、2,048 カラムの内 40 カラムが ィブになり 。 約2％のスパース性
ィブな列の数は各タイムステップで一定であり、入力スパース性には依存しません。

2。
? ry 、最も入力が多いk列をアクティブ ry 。
空間プーラーは、受取った入力が最多なカラム達 k 本を ィブにします。
? ２列間の結合の場合、アクティブ列は、例えば、その隣接列と比較して特定のセルの構造上の利点を通して、ランダムに選択される。
2 カラム間の結合の場合、例えば、近隣カラムと比較しての特定セルの構造的利点を通して、 ィブカラムはラ
0033yamaguti
垢版 |
2019/01/23(水) 14:44:15.42ID:mAoFHgII?2BP(0)

Billaudelle等。


3。
? 低い対ごとのオーバーラップカウントを有する刺激は、低い対ごとのオｰ ントを有するスパースコラム表現 ry 。
低いペア間オーバラップカウントを有する刺激は、低いペア間オｰ ントを有するスパースカラム表現にマッピングされ、一方、高いオｰ ップは、高いオｰ ップを有する表現に投影される。
したがって、類似の入力ベクトルは類似の柱状活性化を導き、一方、分離刺激は異なる列を活性化する

4。
列はアクティブになるために最小入力（例えば１５ビット）を受け取らなければな

? 一時メモリは、列内の単一セルに作用し、 ry 。
テンポラルメモリは、列内の単一セルをオペレートし、さらに空間プールの出力を処理します。
? 時系列は ry 。
テンポラルシーケンスは ｰクによって学習され、予測の生成や異常の強調表示に使用できます。
? 個々の細胞は、それらの遠位樹状突起上 ry 。
個々の細胞は、それらが持つ末梢樹状突起上の他のニューロンからの刺激を受ける。
この横方向入力は時間的文脈を提供する。
細胞の遠位連結性を改変することによって、時系列を学習し予測
? 一時記憶の振る舞いは、 ry 。
時間的記憶の振舞は、次のようにまとめ
0034yamaguti
垢版 |
2019/01/23(水) 14:46:00.97ID:mAoFHgII?2BP(0)

1。
個々の細胞はそれらの遠位樹状突起に側方入力を受ける。
ある閾値を超えると、細胞は予測（脱分極）状態に

2。
列が近位入力 ry 。
カラムが近位 ( 主要 ) 入力によってアクティブになると、予測状態にあるセルのみが ィブになります。

3。
予測セルのない列が近位入力によりアクティブになると、その列内のすべてのセルが ィブになります。
? This phenomenon is referred to as columnar bursting.
? この現象は柱状破裂と呼ばれる。
この現象は columnar bursting と呼ばれる。

1.2 ハイデルベルクニューロモルフィックコンピューティングプラットフォーム


図1


384枚のHICANNチップを含むウェハ。
切断されていないウェハは、追加の金属層がレチクル間の接続性および電力分布を確立するために適用されるカスタムの後処理工程を経る。
（写真は、ハイデルベルクのElectronic Vision（s）グループの好意による）
0035yamaguti
垢版 |
2019/01/23(水) 14:48:19.96ID:mAoFHgII?2BP(0)

? ry 、伝統的な高性能クラスタとニューロモルフィックシステムから ry 。
HMFは、伝統的高性能 ry システムとからなるハイブリッドプラッ -ムです。
これは主にハイデルベルクのKirchhoff-Institute for PhysicsとTU Dresdenで開発され、BSSとHBPから資金 [HBP SP9 partner、2014]。
? このプラットフォームの中核は、図1に示すように、ウエハ規模の高集積アナログ ry 。
このプラッ ｰムのコアは、図 1 に示す様に、ウエハ規模集積の高入力計数アナログニューラルネッ ｰク（HICANN）チップです。 >>34
このチップのユニークなデザインの一部は、アナログニューロン回路とデジタル通信インフラストラクチャを特徴とするミックスドシグナルアーキテクチャです。
ｰドウェアニューロンの固有の時定数が短い 、 生物学的リアルタイムと比較して10ﾗ10^4のスピード

HICANNは、512個のニューロンまたは樹状突起膜回路
各回路は２つのシナプス入力上の２２６個のシナプスを介して刺激することができる。
デフォルトでは、後者は興奮性刺激と抑制性刺激にそれぞれ設定
、それらは、例えば異なるシナプス時定数または逆転電位を有する２つの興奮性入力を表すように設定することができる。

複数の樹状膜を接続することによって、最大14ﾗ10^3個のシナプスを有するより大きなニューロンを形成

1枚のウエハには、200ﾗ10^3個のニューロンと45ﾗ10^6個のシナプスを持つ384個のチップ 。
複数のウェーハを接続して、さらに大きなネッ ｰクを形成 できます。
BSSのインフラストラクチャは6枚のウェーハで構成されており、HBPの最初のマイルストーンとして20枚のウェーハに拡張されています。
0037yamaguti
垢版 |
2019/01/23(水) 14:50:35.21ID:mAoFHgII?2BP(0)

1.3 スパイキングニューロンモデル

? ry 異なる技術が存在する。
スパイキングニューロンのネットワークをシミュレートするための複雑さを変える各種技術が存在する。
? ry 使用する参照実装は、 ry 。
HTMネットワークに使用するリファレンス実装は、離散時間ステップをもつ第1世代のバイナリニューロンに基づいています[Numenta、Inc]。
? ただし、第3世代モデルは、動的 ry 。
第3世代モデルは、但し、動的時間の概念を取り入れ、ニューロン間通信ベースの個々のスパイクを実装します。

元のHodgkin-Huxley方程式[Hodgkin and Huxley、1952]から出発して、異なるレベルの詳細と抽象化を特徴とする複数のスパイキングニューロンモデルが開発されました。
HICANNチップは、適応指数積分発火モデル（AdEx）ニューロンを実装 [Brette and Gerstner、2005]。
? 基本的には、これは単純な ry 。
それのコアは、単純なLeaky Integrate-and-Fire（LIF）モデルを表していますが、詳細なスパイク動作、およびスパイクトリガおよびサブスレッショルド適応を特徴としています。
Hodgkin-Huxley型モデルニューロンのスパイク時間の約96％、および皮質ニューロンから記録されたスパイクの約90％が正しく予測されることがわかりました[Jolivet et al。、2008]。
? ＨＭＦ上で、したがって以下のシミュレーションでも、ニューロンは、シナプス電流のきめ細かい制御および例えばシャント抑制の実行を可能 ry のシナプスと対にされる。
HMF 上に於て、従って以下のシミュ 内でも、ニューロン達は、シナプス電位の細粒度な制御をそして短絡効果 ( シャント効果 ) 等の実装を、可能にするコンダクタンスベースのシナプス達と対にされる。


2
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況