自然言語処理が長い文章の文脈を辿れないのはメモリが足りないからではなく、文章が長くなればなるほど組み合わせの数が莫大に増加するから
組み合わせ爆発、とか調べれば理解できると思う
自然言語処理そのものの技術は難しいものではないが、計算最適化が難しい
組み合わせの計算最適化は全てのAIに通じる問題だから、自然言語処理が出来るなら他の技術も出来る
逆もまた然り