Google Translate Google Research Blog SLING: 自然言語フレームセマンティックパーサー 2017年11月15日 水 Posted by Michael Ringgaard, ソフトウェアエンジニア and Rahul Gupta, Research Scientist
最近まで、 ry 自然言語理解 (NLU)システムは、品詞タグ付けおよび依存解析から、 ry までの分析段階のパイプラ ry 。これにより、異なる分析段階の簡単なモジュール化が容易になりましたが、 初期の段階でのエラーは、 ry 、中間 ry 自体では関連しな ry 。 ry 、初期段階での依存性 ry と、最後に向かってのコアリファ ry 。 ry ァレンス解決 ry のみ ry 場合、 ry
今日、 ry セマンティックフレームグラ ry 直接解析 ry SLING ry 。 ry 、中間ステージを実行しな ry パイプラ ry の落とし穴を回避しながら、不要な計算 ry 、 ry セマンティック注釈を直接 ry 。SLINGは、特別目的のリカレ ry モデルを使用して、フレームグラフの増分編集操作を通じ ry 。フレームグラフは、順番に ry ャプチャするのに十分な柔軟 ry ( ry 後述)。 SLINGのパーサは、入力単語のみを使用して訓 ry ( ry 、依存解析) ry をバイパ
SLINGは、(a) ry スケーラブルなフレームストア実装と(b)リカレ ry ークを実行するための ry を生成するJIT ry 、推論時に高速 ry 、効率的な ry とニューラ ry ークコンパイラにより、 ry 解析速度 ry 。 ry GitHub ry 。 ry 、 技術レポ ry 詳 0013yamaguti垢版2018/02/18(日) 18:20:15.41ID:InP8zjNg?2BP(0) フレームセマンティック解析 フレームセマンティクス[ 1 ]は、文のようなテキストの意味を正式なステートメントの集合とし ry 。各正式なステートメントはフレームと呼ばれ、知識や意味の単位 ry 、概念や他のフレームとの相互作用も含 ry 。SLINGは、各フレームが名前(役割)とリテラルまたは別のフレームへのリンクとなる値を持つスロットのリスト ry 編成 ry 。例として、次の文
「多くの人々が現在、ブラック・Mondayを予測したと主張している」
下の図は、エンティティ(人や場所、イベントなど)、測定値(日付や距離など)、その他の概念(動詞など)の認識 ry 示し、 ry 。予測された単語は 、PREDICT-01フレームと呼ばれる動詞 "predict"の最も ry 感覚 ry 。さらに、このフレームには、誰が予測をしたか( 人物のPERSONフレームを指し示すARG0スロットを介して示される)と 予測されたもの( ブラック・Mondayの EVENTフレームにリンクするARG1を介して示されるもの) )。
誤訳 ? さらに、このフレームは、誰が予測をしたか( ry PERSONフレームを指し示すARG0スロットを介して示 ry )と 予測されたもの( ブラック・Mondayの EVENTフレームにリンクするARG1を介して示 ry )をスロット構造によって示します。
フレームセマンティック解析は、スロッ ry リンク ry の有向グラフを ry 。 ry 、フレームグラフは複雑な ry 強力です。 まず、フレームは、言語の内部と外部の情報タイプ(知識ベースなど)をまとめる ry 。これは、参照、隠喩、metonymy ( 換喩 : Wikipedia ) 、および遠近法などの複雑な ry に対処 ry 。これらの ry は、フレームタイプ、ロール、およびリンク制約のインベントリでのみ異なります。
SLING SLINGは、 ry ックフレームを最適化することによってリカレ ry ークを訓 ry 隠れ層の内部学習表現は、 ry 特徴の組み合わせと中間の表現を置き換えます。 内部的に、SLINGは、各入力語が生ワード、その接尾辞、句読点などの ry 徴を使用してベクトルにエンコー ry 。デコーダは、その表現を、それ自身の履歴入力文の意図 ry ームグラフを更新する一連の遷 ry 。 ry TensorFlowとDRAGNN ry 訓 0014yamaguti垢版2018/02/18(日) 18:21:41.65ID:InP8zjNg?2BP(0) 以下のアニメーションでは、個々のトランジションを使用してフレームとロールを建設中フレームグラフに追加 ry 。前述 ry 、SLINGは、EVENTフレームが予測される概念であることを示す役割ARG1を使用して、VERBフレームとEVENTフレームを接続します。 EVOKE遷移は、テキスト中の次の数個のトークン( ry 、 Black Mondayの EVENT)から指定されたタイプのフレームを呼 ry 。同様に、CONNECTトランジションは、2つの既存のフレームを指定されたロールにリンクします。 入力が使い尽くされ、最後の遷移(STOP ry ) ry 、グラフを検査して文の意味的意味を得ることができるユーザに返される。
誤訳 ? 意味論的意味を得る ( 読取る 認識する) ことができるユーザ
移行システム 遷移システム の重要な側面の1つは、上記の図のオレンジ色のボックス ry 、呼び出されるかまたは変更される最新のフレームを表すフレームの小さな固定サイズのアテンションバッファ ry 。このバッファーは、最近誘発され、参照され、または強化された知識を記憶する傾向 ry 直感 ry 。フレームがもはや使用されていない場合、 ry 、最終的に ry フラッシュされます。 ry 、フレーム間リンクの大部分をキャプチャする際に驚くほど効果的
次のステップ 上の例示的な実験は、知識抽出、複雑な参照の解決、ダイアログの理解などのタスクのセマンティック解析 ry 単なる実行パッドです。 Github ry 事前訓練モデル、 ry 例とレシピ ry 。 SLINGが有用であるとコミュニティが ry 、SLINGを ry 適用したり拡張したりする会話を楽しみにしています。
謝辞 ry 研究は、Michael Ringgaard、Rahul Gupta、Fernando Pereira ry 。 TensorflowとDRAGNNチーム ry 感謝し、DRAGNNの様々な同僚 ry 複数の側面を助けました。
1 Charles J. Fillmore. 1982. フレームセマンティクス。 朝の静けさにおける言語学、111?138ページ。 ? ?