X



トップページ数学
384コメント117KB
雑談はここに書け!【67】
0186132人目の素数さん
垢版 |
2024/03/01(金) 05:39:05.87ID:IqBGy6oJ
>>184
https://gigazine.net/news/20240229-microsoft-1bit-llm/
>なお、それぞれのパラメーターが「-1」「0」「1」という3つの値を取るためlog[2](3)の値より「1.58ビットのモデル」と述べられています。


https://ja.wikipedia.org/wiki/%E4%B8%80%E5%85%83%E4%BD%93#%E6%AD%B4%E5%8F%B2
>これは古典的射影幾何学における「直線上には少なくとも三つの点が存在する」という条件の類似対応であるが、射影幾何の公理のうち先ほどの条件を「直線上の点は二つに限る」というもので置き換えた退化版の幾何学が存在する。
0187132人目の素数さん
垢版 |
2024/03/01(金) 05:41:26.64ID:IqBGy6oJ
>>186
>従来のモデルであれば入力に対して「0.2961」などのウェイトをかけ算してから足し引きする必要がありましたが、「-1」「0」「1」の3値のみであればかけ算が不要になり、全ての計算を足し算で行えるようになります。

>F1 は環の構造から加法を忘れて乗法について注目したもの(吸収元 0 付きのモノイド)として得られるべきものであると示唆している[4]。
レスを投稿する


ニューススポーツなんでも実況