0473オーバーテクナナシー
2020/07/06(月) 17:58:08.26ID:I8nCaJh1グーグルのAI研究（GShard）
6,000億個のパラメータを持つニューラルネット（Transformerモデル）を4日で学習。
多言語機械翻訳（100言語）でベースラインと比較し、大幅に性能向上（平均+13.5 BLEU）。
OpenAIの言語モデル「GPT-3」のパラメータ数は1,750億個だった（5月28日）
（GPT-3のパラメータ数：1,750億）
https://twitter.com/jaguring1/status/1266735463416467458
https://twitter.com/5chan_nel (5ch newer account)
