X



トップページ数学
657コメント170KB

テストスレ [無断転載禁止]©2ch.net

0459132人目の素数さん
垢版 |
2022/07/17(日) 11:47:50.98ID:M7diuIS2
>>458
ついに誤差が出る

6.846194358963926965312086138303944981275886936062751606916428004850139865061346646920761047717292454E+6252148403243369369507575027472120
0E-1000000098
1.369238871792785393062417227660788996255177387212550321383285600970027973012269329384152209543458491E+6252148403243369369507575027472121
1.4e+6252148403243369369507575027472121
0475132人目の素数さん
垢版 |
2022/08/13(土) 11:43:17.85ID:J0MuROYH
規制中
帰省中
寄生虫
0484132人目の素数さん
垢版 |
2022/08/16(火) 22:27:37.64ID:o4vwMymW
テスト
0492132人目の素数さん
垢版 |
2022/08/25(木) 21:01:42.67ID:rRyXWzwH
test
0493132人目の素数さん
垢版 |
2022/08/26(金) 00:16:02.54ID:kELidxhX
月の公転周期は27日7時間43.193分。
つまり27.32166180555555555555555555555...日。
0500132人目の素数さん
垢版 |
2022/09/13(火) 01:23:02.92ID:EfK5aTH0
python3.10.6では

(2^((2^(35-1))-1))*(2-(2^-4060))

9.3e+5171655945

はいけるが


(2^((2^(115-1))-1))*(2-(2^-4294967180))

ctx.Emax = 999999999999999999999999999999999999 # 指数上限を増やす
OverflowError: Python int too large to convert to C ssize_t

となって計算できない。面倒くさい制限だな。
ideoneのpypy2の方が3.10.6よりdecimalのEmaxの制限が緩い。
0501132人目の素数さん
垢版 |
2022/09/13(火) 13:59:00.22ID:EfK5aTH0
python3.10.6のdecimalでは、指数上限が17桁まで指定可能なので、

(2^((2^(59-1))-1))*(2-(2^-262084))
1.6e+86765988883177455

は計算できるが

(2^((2^(63-1))-1))*(2-(2^-524224))

はOverflowErrorとなる。
0502132人目の素数さん
垢版 |
2022/09/13(火) 14:05:24.80ID:EfK5aTH0
python3.10.6のdecimalで計算できたのは

8192倍精度浮動小数点数 2^13倍精度 262144ビット浮動小数点数 (2^((2^(59-1))-1))*(2-(2^-262084)) 86765988883177456桁の値 有効桁数78895桁

1.555537148306493113124912627340245874981445790517528616104073919048249475066624547713749689480856964E+86765988883177455

まで。
0503132人目の素数さん
垢版 |
2022/09/13(火) 14:10:59.94ID:EfK5aTH0
ideoneのPyPy 2.7.13のdecimalで計算できたのは、

67108864倍精度浮動小数点数 2^26倍精度 2147483648ビット浮動小数点数 (2^((2^(111-1))-1))*(2-(2^-2147483536)) 390759275202710585594223439217008桁の値 有効桁数646456959桁

3.724173892452932703847578592653741500670543217015032981203746860583934456368392810496137951064109136E+390759275202710585594223439217007

まで。
0504132人目の素数さん
垢版 |
2022/09/13(火) 19:24:30.58ID:EfK5aTH0
確認済

>(2^((2^(31-1))-1))*(2-(2^-2016))
=
+4.19715 74329 34775 38480 87162 33767 67814 12761 95930 94670
52555 73292 45142 04808 95551 53641 63671 06081 62535 31197
45911 99155 92112 96811 93494 24300 53302 84019 56622 72210
00096 72013 24880 47633 01113 68000 22010 20735 86074 02162
94638 34068 67030 10253 46732 64626 53643 65252 43481 02171
01656 58069 60444 82317 39767 16356 50947 73755 54928 30481
89008 54736 82619 78371 56280 50937 78841 46913 86243 19796
32607 90561 41596 19505 51031 51664 93447 71633 29242 58333
81079 38359 81280 10578 10555 45221 70779 32591 94949 99481
36232 88791 51040 24411 68286 29815 35471 46921 41983 11404
69115 76485 65365 44825 39103 90545 10802 89831 72136 10555
46399 92654 21135 66285 63596 27178 58859 82965 32682 12036
85782 84954 31861 54726 61059 67974 70455 48876 76858 96951
55308 30991 81347 61721 18969 22416 85865 96246 22932 93249
40810 56531 27944 16734 40019 85701 04843 80377 09860 15230
47990 60250 07909 72602 66665 24311 57143 05139 46483 68712
03585 93599 62329 69176 92768 34993 41861 03591 03559 55445
17602 25100 93844 73795 55246 91387 67839 15585 18599 76061
32933 98568 41218 58674 88260 29624 99012 82861 57833 83324
36490 80182 25801 09066 36329 93686 22767 44912 36188 8523
e323228496

https://ideone.com/Cnd9DY
4.197157432934775384808716233767678141276195930946705255573292451420480895551536416367106081625353120E+323228496
0511132人目の素数さん
垢版 |
2022/10/05(水) 21:20:17.67ID:wsUgaGXR
>>501
訂正
python3.10.6のdecimalでは、指数上限が18桁まで指定可能

8192倍精度浮動小数点数 2^13倍精度 262144ビット浮動小数点数 (2^((2^(59-1))-1))*(2-(2^-262084)) 86765988883177456桁の値 有効桁数78895桁

1.555537148306493113124912627340245874981445790517528616104073919048249475066624547713749689480856964E+86765988883177455

指数が17桁なので扱える。

16384倍精度浮動小数点数 2^14倍精度 524288ビット浮動小数点数 (2^((2^(63-1))-1))*(2-(2^-524224)) 1388255822130839283桁の値 有効桁数157807桁

1.175130757822317518187382399775688517987703278549099661666755921293864716877985204425079984825257210E+1388255822130839283

指数が19桁なので扱えない。
0513132人目の素数さん
垢版 |
2022/10/06(木) 16:15:17.77ID:f3gwuE2b
>>459
wの値で明確に誤差が出ているが、正確なtと計算結果のtとの誤差は有効桁数付近から出るので、100桁程度では問題がないはず。
ただしsやs*2の値などに誤差がない場合。
0522132人目の素数さん
垢版 |
2022/10/07(金) 22:08:31.82ID:7bRFqGD5
2^64倍精度
https://ideone.com/f1FRWv
1.126794214779026042308395925152649025788440412385840747226476130826257136283769698051185539998295569E+2230841095746087547511405804859546751776222999613030117474838182165797176899941
78.34846863630874834273333500387153058864772248220085181291219098807108471613122076278713137910459005

(2^((2^(263-1))-1))*(2-(2^-590295810358705651448))
https://ja.wolframalpha.com/input?i=%282%5E%28%282%5E%28263-1%29%29-1%29%29*%282-%282%5E-590295810358705651448%29%29
10^(10^78.34846863630872)
0523132人目の素数さん
垢版 |
2022/10/08(土) 18:15:30.95ID:cJvoVBKs
pythonのmpmathで2^64倍精度

>>> from mpmath import *
>>> mp.dps = 100
>>> (mpf(2)**((mpf(2)**(mpf(263)-mpf(1)))-mpf(1)))*(mpf(2)-(mpf(2)**mpf(-590295810358705651448)))
mpf('1.12679421477902604230839592515264902578844041238584074722647613082625713628376969805118553999829556866e+2230841095746087547511405804859546751776222999613030117474838182165797176899941')
0524132人目の素数さん
垢版 |
2022/10/09(日) 19:39:27.00ID:a/RHySd2
pythonのintの任意精度の計算速度は遅い。
((2**((2**(31-1))-1))*(2))
程度で約7秒かかる。
0526132人目の素数さん
垢版 |
2022/10/27(木) 01:07:47.07ID:Kj09JQy2
>>282
ズームレベル21 距離指標5m
ズームレベル22 距離指標2.5m
ズームレベル23 距離指標1.25m
ズームレベル24 距離指標0.625m
ズームレベル25 距離指標0.3125m
ズームレベル26 距離指標0.15625m
ズームレベル27 距離指標0.078125m
ズームレベル28 距離指標0.0390625m
ズームレベル29 距離指標0.01953125m
ズームレベル30 距離指標0.009765625m(約1cm)
ズームレベル31 距離指標0.0048828125m
ズームレベル32 距離指標0.00244140625m
ズームレベル33 距離指標0.001220703125m(約1mm)
ズームレベル34 距離指標0.0006103515625m
ズームレベル35 距離指標0.00030517578125m
ズームレベル36 距離指標0.000152587890625m
ズームレベル37 距離指標0.0000762939453125m
ズームレベル38 距離指標0.00003814697265625m
ズームレベル39 距離指標0.000019073486328125m
ズームレベル40 距離指標0.0000095367431640625m
0529132人目の素数さん
垢版 |
2022/11/11(金) 13:44:41.85ID:bfQINvmw
2^128倍精度
https://ideone.com/BWPnpC
Runtime error
https://ideone.com/gmMbiF
8.438485139005238033716204113978142132776783207915429197719643649741250839391892405849510296078232762E+258313751232903212140244172706732768962283773495639777019746650509389263410185892774365178070439343478843471144414568958296922314778842870932034756007552127

mpmath
>>> from mpmath import *
>>> mp.dps = 100
>>> (mpf(2)**((mpf(2)**(mpf(519)-mpf(1)))-mpf(1)))*(mpf(2)-(mpf(2)**mpf(-10889035741470030830827987437816582766072)))
mpf('1.738741545572851906007851776954032208812769161318139539364439351610202064301416872947694837078743209829e+258313751232903212140244172706732768962283773495639777019746650509389263410185892774365178070439343470463409842392677007886631633129570799399839688363235724')

全然異なる値が出た。
0531132人目の素数さん
垢版 |
2022/11/11(金) 14:04:21.69ID:bfQINvmw
2^128倍精度
https://ideone.com/EdqQxN
8.438485139005238033716204113978142132776783207915429197719643649741250839391892405849510296078232762E+258313751232903212140244172706732768962283773495639777019746650509389263410185892774365178070439343478843471144414568958296922314778842870932034756007552127

暫定
0532132人目の素数さん
垢版 |
2022/11/12(土) 00:04:32.44ID:PY3sDGSs
>>531
誤差がある。

2^128倍精度
https://ideone.com/ZHioa3
8.693707727864259530039258884770161044063845806590697696822196758051010321507084364738474185393716049143428269592664416299506985821607020224451757384081772736694085185953261476092
e+258313751232903212140244172706732768962283773495639777019746650509389263410185892774365178070439343470463409842392677007886631633129570799399839688363235723
0533132人目の素数さん
垢版 |
2022/11/12(土) 00:07:35.70ID:PY3sDGSs
2^128倍精度
mpmath

>>> from mpmath import *
>>> mp.dps = 10000
>>> (mpf(2)**((mpf(2)**(mpf(519)-mpf(1)))-mpf(1)))*(mpf(2)-(mpf(2)**mpf(-10889035741470030830827987437816582766072)))
mpf('8.693707727864259530039258884770161044063845806590697696822196758051010321507084364738474185393716049143428269592664416299506985821607020224451757384081772736694085185953261476092
...
e+258313751232903212140244172706732768962283773495639777019746650509389263410185892774365178070439343470463409842392677007886631633129570799399839688363235723
0536132人目の素数さん
垢版 |
2022/11/15(火) 14:31:34.61ID:f3gwuE2b
>>365
1kキロ 1000^1 10^3
1Mメガ 1000^2 10^6
1Gギガ 1000^3 10^9
1Tテラ 1000^4 10^12
1Pペタ 1000^5 10^15
1Eエクサ 1000^6 10^18
1Zゼタ 1000^7 10^21
1Yヨタ 1000^8 10^24
1Rロナ 1000^9 10^27
1Qクエタ 1000^10 10^30

1mミリ 1000^-1 10^-3
1μマイクロ 1000^-2 10^-6
1nナノ 1000^-3 10^-9
1pピコ 1000^-4 10^-12
1fフェムト 1000^-5 10^-15
1aアト 1000^-6 10^-18
1zゼプト 1000^-7 10^-21
1yヨクト 1000^-8 10^-24
1rロント 1000^-9 10^-27
1qクエクト 1000^-10 10^-30
0537132人目の素数さん
垢版 |
2022/11/17(木) 19:26:35.12ID:Tq5BFOYE
hyper4(2,3) 2テトレーション3 2^^3
hyper5(2,3) 2ペンテーション3 2^^^3
hyper6(2,3) 2ヘキセーション3 2^^^^3
hyper7(2,3) 2ヘプテーション3 2^^^^^3
hyper8(2,3) 2オクテーション3 2^^^^^^3
hyper9(2,3) 2エンネーション3 2^^^^^^^3
hyper10(2,3) 2デケーション3 2^^^^^^^^3
hyper11(2,3) 2エンデケーション3 2^^^^^^^^^3
hyper12(2,3) 2ドーデケーション3 2^^^^^^^^^^3
hyper13(2,3) 2トリデケーション3 2^^^^^^^^^^^3
hyper14(2,3) 2テトラデケーション3 2^^^^^^^^^^^^3
hyper15(2,3) 2ペンタデケーション3 2^^^^^^^^^^^^^3
hyper16(2,3) 2ヘキサデケーション3 2^^^^^^^^^^^^^^3
0538132人目の素数さん
垢版 |
2022/11/20(日) 10:44:18.29ID:Xfv2O8ju
1kキロ 1000^1 10^3
1Mメガ 1000^2 10^6
1Gギガ 1000^3 10^9
1Tテラ 1000^4 10^12
1Pペタ 1000^5 10^15
1Eエクサ 1000^6 10^18
1Zゼタ 1000^7 10^21
1Yヨタ 1000^8 10^24
1Rロナ 1000^9 10^27
1Qクエタ 1000^10 10^30

1kQキロクエタ 1000^11 10^33
1MQメガクエタ 1000^12 10^36
1GQギガクエタ 1000^13 10^39
1TQテラクエタ 1000^14 10^42
1PQペタクエタ 1000^15 10^45
1EQエクサクエタ 1000^16 10^48
1ZQゼタクエタ 1000^17 10^51
1YQヨタクエタ 1000^18 10^54
1RQロナクエタ 1000^19 10^57
1QQクエタクエタ 1000^20 10^60


1mミリ 1000^-1 10^-3
1μマイクロ 1000^-2 10^-6
1nナノ 1000^-3 10^-9
1pピコ 1000^-4 10^-12
1fフェムト 1000^-5 10^-15
1aアト 1000^-6 10^-18
1zゼプト 1000^-7 10^-21
1yヨクト 1000^-8 10^-24
1rロント 1000^-9 10^-27
1qクエクト 1000^-10 10^-30

1mqミリクエクト 1000^-11 10^-33
1μqマイクロクエクト 1000^-12 10^-36
1nqナノクエクト 1000^-13 10^-39
1pqピコクエクト 1000^-14 10^-42
1fqフェムトクエクト 1000^-15 10^-45
1aqアトクエクト 1000^-16 10^-48
1zqゼプトクエクト 1000^-17 10^-51
1yqヨクトクエクト 1000^-18 10^-54
1rqロントクエクト 1000^-19 10^-57
1qqクエクトクエクト 1000^-20 10^-60
0539132人目の素数さん
垢版 |
2022/11/26(土) 19:27:32.21ID:VIvrkEdg
複利計算
a*c^x=b

a:元の値
b:目指す値
c:1+年利
x:年数

x=log(b/a)/log(c)

a:1000
b:2000
c:1.06
x:年数

>log(2000/1000)/log(1.06)
=
+ 11
.89566 10459 41885 60828 20178 76031 88556 05547 12954 65197
0541132人目の素数さん
垢版 |
2022/12/08(木) 16:05:46.91ID:+9iyLHxn
森保 一 1968/8/23
川島 永嗣 1983/3/20
権田 修一 1989/3/3
シュミット ダニエル 1992/2/3
山根 視来 1993/12/22
谷口 彰悟 1991/7/15
板倉 滉 1997/1/27
長友 佑都 1986/9/12
冨安 健洋 1998/11/5
酒井 宏樹 1990/4/12
吉田 麻也 1988/8/24
伊藤 洋輝 1999/5/12
遠藤 航 1993/2/9
柴崎 岳 1992/5/28
堂安 律 1998/6/16
三笘 薫 1997/5/20
南野 拓実 1995/1/16
久保 建英 2001/6/4
守田 英正 1995/5/10
伊東 純也 1993/3/9
鎌田 大地 1996/8/5
田中 碧 1998/9/10
相馬 勇紀 1997/2/25
浅野 拓磨 1994/11/10
町野 修斗 1999/9/30
上田 綺世 1998/8/28
前田 大然 1997/10/20
0544132人目の素数さん
垢版 |
2023/01/14(土) 18:35:31.10ID:3N33wsrh
thousand(1000)
million(100万)
trillion (1兆)
quadrillion (1000兆)
quintillion (100京)
sextillion(10垓)
septillion(1𥝱)
octillion(1000𥝱)
0546132人目の素数さん
垢版 |
2023/01/16(月) 16:41:08.16ID:h9goKmfK
thousand(1000)
million(100万)
billion(10億)
trillion (1兆)
quadrillion (1000兆)
quintillion (100京)
sextillion(10垓)
septillion(1𥝱)
octillion(1000𥝱)
0547132人目の素数さん
垢版 |
2023/01/21(土) 10:13:57.16ID:xahTA2Dd
2k60fps 1920×1080×60=124,416,000pps 24bitカラー 2,985,984,000bps(3Gbps)
2k120fps 1920×1080×120=248,832,000pps 24bitカラー 5,971,968,000bps(6Gbps)
2k240fps 1920×1080×240=497,664,000pps 24bitカラー 11,943,936,000bps(12Gbps)
4k60fps 3840×2160×60=497,664,000pps 24bitカラー 11,943,936,000bps(12Gbps)
2k480fps 1920×1080×480=995,328,000pps 24bitカラー 23,887,872,000bps(24Gbps)
4k120fps 3840×2160×120=995,328,000pps 24bitカラー 23,887,872,000bps(24Gbps)
4k240fps 3840×2160×240=1,990,656,000pps 24bitカラー 47,775,744,000bps(48Gbps)
8k60fps 7680×4320×60=1,990,656,000pps 24bitカラー 47,775,744,000bps(48Gbps)

8k120fps 7680×4320×120=3,981,312,000pps 24bitカラー 95,551,488,000bps(96Gbps)
8k240fps 7680×4320×240=7,962,624,000pps 24bitカラー 191,102,976,000bps(191Gbps)
16k60fps 15360×8640×60=7,962,624,000pps 24bitカラー 191,102,976,000bps(191Gbps)
16k120fps 15360×8640×120=15,925,248,000pps 24bitカラー 382,205,952,000bps(382Gbps)

2k60fps:スイッチ・PS4
4k60fps:PS4Pro
4k120fps:PS5
8k60fps:PS5Pro(予定か?)
0549132人目の素数さん
垢版 |
2023/01/22(日) 16:58:03.86ID:UUJpwhkg
2^256倍精度
https://ideone.com/aCP13Y
9.910485996051842016119747500736958456309031305965608259610227720061765260027317064163363574158666492371120820383051190772984137616580939967650463226160853705992788842004458273379550442258361825368024714755740890653175213019501501944948366039430000548430842900165452257169288546586211825716796015225817243905065314889874302651753256496368645290204252517639642690105491082574194270685290385696115131808006504283204259132337708753570738743045844023526275532206613690120989301207312602052870872086047852227126698053474646551364114162648343409526098024702957734148257996939794237196505472428055726046397547433359436761874279508935279978988831376263317810662056262744727239335501331474951845331241218499805653991777884264904030549946970793399503992872430743795259836037203169138692516181670304377367928462026714947839665212683746842304204384191742685252905852157916810877224721246172523049725842320465723155475919001623881995786338934489155052932459133990682604341399884078439797541768727455804136797755428
E+3463421162193739006115755670512565398970613387487447565514569146688895581002774845198486130174991073425006674893629825010745682438297357167106359363123129372954553007564899435132085154888968620512342729245054138016101973375947982144386962745355867469433717483800062667561597573362502266464406927622369746982231
レスを投稿する


ニューススポーツなんでも実況