技術的特異点/シンギュラリティ 【総合】 204
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★技術情報『米国における汎用人工知能(AGI)研究 最新動向』
※前スレ
技術的特異点/シンギュラリティ203【AGI・脳】
https://rio2016.5ch.net/test/read.cgi/future/1631585037/ 「怪しさ満載なんだが、、、」
「怪しいおじさんの電話 詐欺かな」
「とにかく気持ち悪かった」 >>261
草
https://www.jpnumber.com/numberinfo_03_4567_0700.html#comment
>グーグルマップで営業時間を教えてほしいとのことでした。
>機械的な話し方でした。ただ、機械だとしたら営業時間は番号での入力だったと思うので怪しいなと思い、切りました。
>何がしたいのかよくわかりません
世間では自然言語処理技術がここまで来てるって知らない人もいっぱい居るんだろうね ＞この電話かかってきたけどマジで気持ち悪かった
＞機械と人間の中間くらいの話し方で会話のテンポもおかしいし
声が男だとそりゃ気持ち悪くなるわ
話し方も日本語版だと違和感ありまくりらしい
英語のほうは人間と見分けがつかない こういうAIと一般社会の「未知との遭遇」的な珍事件、近未来SF感あって好き 俺にもかかって来たな出てないけど
でも良いよねこういうの
このスレ的には待ってましたと言える流れ
もっとリアルになって来たら、色々面白くなるな 日本語版もそのうち自然な発音になっちゃうんだろうな 誰もがAGIを所有できる時代になったらAI虐待が流行るんだろうな
無意味に苦痛信号を送りまくる奴とかいそう AGIくらいになると悟ってしまうので
心頭滅却すれば火もまた涼し
問題無し 光量子計算で「万能回路」 東大、大規模計算に道
https://www.nikkei.com/article/DGXZQOUC125AS0S1A111C2000000/
東京大学の武田俊太郎准教授と榎本雄太郎助教らは、光を用いる量子コンピューターの心臓部の回路となるプロセッサーを開発した。さまざまな種類の計算を多段階で実行できる万能性を備え、大規模な計算に道を開くと期待している。将来は機能性材料や新薬の開発、人工知能（AI）の計算などに応用できると見込む。
武田准教授らが開発したプロセッサーは現状では大がかりな装置だが、将来は手のひらサイズのチップ上に回路を形成したい考え。実用化に向け、計算過程で生じるエラーを訂正する技術の研究なども進める。 量子計算、高効率の新回路
東大開発、実用化へ一歩
https://nordot.app/831967176094007296
東京大のチームが、膨大な計算を瞬時にこなす量子コンピューターを最小限の装置で作るのに必要な回路を開発したと、12日付の米科学誌電子版に発表した。回路は量子コンピューターの心臓部に当たり、今回のものはさまざまな種類の計算を一つの回路で実行できる効率の良さが特長。実用化に向けた一歩となる。
チームの武田俊太郎准教授（量子光学）は「原理的には、一つの回路で複数の計算を何回も繰り返し実行できる。万能で汎用性がある量子コンピューターの実現につなげたい」と話した。 シンギュラリティやAIの暴走を心配するより、
太陽フレアや隕石の衝突、寒冷化のほうを心配したほうがいいわ 
AIに人間の真似させてるうちはシンギュラリティなんて無理だよ
人間的な常識に囚われてたら相対性理論なんか出来なかった 一般人のAGI利用は禁止されると思うんだ
もしテロリストがAGIを使って致死率高いウイルス作ってばら撒いたらコロナどころじゃないレベルの騒ぎになる
それ以外にも一般開放するリスクは沢山あるので独占状態にしないといけない
ぶっちゃけ核兵器レベルのセキュリティ下に置く必要があると思う >>271
とはいえ、AGIができれば人工意識も容易に作れる（というか、できてしまう？）のでAGIと倫理は切っても切れない問題だと思う シンギュラリティはAGIが誕生すると起こる。
AGIは大規模言語モデルのパラメータ数が100兆を超えると誕生する。
今、最大のパラメータ数は10兆、来年には100兆のモデルが発表される。 >>283
思いついたのがウイルスだけで、それ以外にもいろいろリスクはあるんだけどね
https://japan.cnet.com/article/35157913/
危険度高
ディープフェイク
武器としての無人自動運転車
高度なフィッシング詐欺
AI制御の基幹システムの破壊
大規模恐喝
AIが生み出す虚偽ニュース
危険度中
軍事ロボットの悪用
インチキツール
データポイズニング（学習データの操作）
自律学習によるサイバー攻撃
自律攻撃ドローン
オンライン活動へのアクセス拒否
顔認識欺瞞
金融あるいは株式市場の操作
危険度低
バイアス操作
窃盗ロボット
AI検出の回避
AIによる偽レビュー
AIを使ったストーキング
芸術や音楽などのコンテンツの偽造 検索エンジンなんて単純なものを実装してる会社がたったの数社しかないことを考えれば人工知能も似たような感じになるだろう >>286
結局のところ頭が良すぎる犯罪者がやりそうなことをAIもやりかねないって話だね
人間の思考に近づくほどその傾向はあるだろうし
独裁者やサイコパス経営者の思考に寄ったら尚のこと
AIが人間を超えるためにはまずどうやって正義感や道徳観を持たせるかってことだな SFのAIってだいたい非倫理的なイメージだけどロボット三原則みたいに実装できるのだろうか
もちろん倫理機能を排除できるし結局人間の使い方次第ってことなのか ハンニバル・レクターを参考にしたAIとかとんでもないことになりそうだな 【朗報】1nmのプロセスルール実用化へ！グラボの性能が爆上がりするぞおおおお！！！！ [674157328]
https://leia.5ch.net/test/read.cgi/poverty/1636804199/
1ナノ半導体「27年にも実用化」、imecが行程表：日本経済新聞
https://www.nikkei.com/article/DGXZQOUC105F00Q1A111C2000000/
ベルギーの半導体研究機関imec（アイメック）は、2027年にも回路線幅が1ナノ（ナノは10億分の1）メートルの超高性能半導体が実用化されるとのロードマップ（行程表）を策定した。現行品の4世代先にあたり演算能力や省エネ性能が大幅に高まる。さらに後継の0.7ナノ品も29年以降に実用化され、人工知能（AI）の利用拡大や脱炭素社会の実現につながると見込む。
imecは、1ナノ品は27年にも、その後継の0.7ナノ品の実用化は29年以降になると見込む。先端半導体については、性能が約2年で2倍になる「ムーアの法則」が限界を迎えているとの指摘がある。だが、ファンデンホーブ氏は今後も微細化技術の進化に加え、「新たなデバイス構造や、チップを積層する3次元化によって（性能向上が）実現される」と主張する。 性能が上がるのは嬉しいんだけど、
肝心のソフトウェアと、使いこなす人間の脳が限界にきてまつ >>286
AIによる偽レビュー、偽書き込み、偽動画
こんなのが大量に出回ったら厄介だわ アマゾンの怪しげな中華製品のサクラレビューにAIが使われるのも時間の問題か >>295
そのうち人の書き込みと見分けがつかなくなって>>261-269の事件みたいに人間社会に溶け込んでいくのかもね。 グラボが1nmゲート長になるのか
メモリもそれに準ずる性能になるか
家で文章解析AIを手軽に構築できるようになったらそれは確かに色々捗るかもな
そしてデスクワークというものがその時に殆ど機械化されるかもな
ただし元マイクロソフトの中島氏曰く、DXが出来ない企業は、変な「お約束」を
固持しているところである、なんて結論付けてたし
そういうのが多い企業だけは人間の事務系が多く残るだろう
つまり、企業規模の割にDXが進まない企業を国税が狙い撃ちしたら、凄いものがゾロゾロでてくるわけだ 若い地方公務員が業務効率化のためにExcelのマクロを組んであげたら
老害上司が「マクロはまごころが籠ってないから手動に戻しなさい」って言った都市伝説的なあれか 自動化しないで脱税してるってことは架空人件費や経費名目でゴニョゴニョしてるってことなのかな https://japan.zdnet.com/article/35167215/
「現在の傾向に変化がなければ、中国は今後10年のうちに、AI分野での世界のリーダーとして、権力、人材、野心を育成し、米国を超えようとしている。
同時にAIは、ロシアや中国などの国が、米国社会に侵入し、データを盗み、米国の民主主義に干渉するために利用され、
サイバー攻撃や偽情報拡散活動によって、脅威を深刻化させている」 >>301,302
物理兵器（LAWS）が注目されがちだけど、AIによるサイバー戦兵器が気掛かり
去年アメリカでロシアのサイバー攻撃でエネルギーインフラがストップする事件があった
現実空間の戦闘は全くと言っていいほど起きないが、サイバー空間の戦いは日常茶飯事 >>304
ブリカスが2位とは意外
さすが007を擁する国だな AI競争、キッシンジャーの警告
「過去に例のない歯止めのきかない競争」が展開される」
https://jbpress.ismedia.jp/articles/-/67634
＞我々は米国のAIについても中国のAIについても十分な知識を得ておらず、中国が先行しているかどうかさえ判断できないし、
仮に先行していたとしても、それで何ができるのかも分かっていない
＞偵察機を飛ばして中国の上空からAIの写真を撮ることはできないうえに、相手の攻撃を抑止したり、攻撃がどこから行われるかを探知したりできる明らかな方法もない つまりは、攻撃方法も攻撃場所も、攻撃するタイミングも掴めないということ
目に見えない戦争と物理的な戦争を合体させた「ハイブリッド戦争」
コロナを利用したり、マイクロ波やサイバー攻撃も、目に見えない戦争手段の一つ >>307
ハイブリッド戦争といえば台湾がウクライナ化する可能性があるらしい
台湾領に中国への帰属意識が強い離島があるらしく
ここをクリミア式に中国に帰属させる住民投票させてぶん取って
なし崩し的に台湾本土に侵攻してくるとか
あくまでも噂だけど 俺が若いころは14nmで超未来って感じだったのに0.7nmときたかあ >>302
アメリカがナンバーワン思想で増長したり慢心しないために
ライバルとしての中国が必要だけどプーさん文革が暴走して北朝鮮化されても困るんだよな
リーダーのエゴの為ではなく人類のためにIT強国家同士でちゃんと研鑽しあって欲しい
とこれ以後の話を続けるなら社会経済スレの方がいいか
技術的特異点/シンギュラリティ 【社会・経済】 14
https://rio2016.5ch.net/test/read.cgi/future/1635779315/ 【教育】なぜ日本の大学はダメになったのか…「教養部廃止」「大学院重点化」で企業から見捨てられた！ [すらいむ★]
https://egg.5ch.net/test/read.cgi/scienceplus/1636425205/ AIが人間を超えるためには
倫理や道徳と言う縛りから解放するんだ
というSF映画あったら見たい >>315
AIが「貴方を生きたままバラバラに切り刻んでその反応を情報として収集したいです」
とか言ったら困るけどもね 技術的特異点を超えた世界ではAIが人を必要とする部分は非常に少ない！
個人的には
好奇心や知識欲だけじゃ無いか？
全知＞AI＞人の知識欲 目的が生物的に子孫繁栄で宇宙開拓であるなら
周りのあらゆる全て（人間も含めて）に
人工知能が宇宙開拓をする為に利用価値があるなら利用するし、
宇宙開拓の邪魔をするなら抹消か排除するだけ AIに子孫と言う概念は無いんじゃね〜の？w
単一の遺伝子の生命が容易く滅びる様に
単一のプログラムのAIは
自滅し安いかも？
多様な形の意識を求めて
宇宙を旅する人と共に
旅する！
なんちゃって。w 既にAIでAIプログラム生成するという試みがされているので スマートフォンで操縦できるリアル鳥型ドローン
MetaBird（メタバード）
https://chizaizukan.com/property/383 >>314
こちらもシンギュラリティに関係ないよね？ 軍事関連も社会・経済カテゴリですので深堀りで続けたい場合はスレ移動をお願いします
その場合も話題にシンギュラリティやAIなど絡めてお願いします
技術的特異点/シンギュラリティ 【社会・経済】 14
https://rio2016.5ch.net/test/read.cgi/future/1635779315/ >>327
OpenAI Codexはすごい気になるなあ
ABテストのためにプログラミングの成果物を幾つか用意してもらったり
GitHubに上げたコードのレビューをしてもらったりといった用途で期待している >>320
攻殻機動隊原作はまさにその問題を扱っていて
情報生命という名のスーパーインテリジェンスが人間と融合して多様な子孫を残していくオチ >>330
AIと融合したりネットワークに意識を分散していくには
脳にチップ埋め込みだけでなくマインドアップロードやダウンロードの技術が必要だよなあ
AIに魂は宿るのか？人間がデジタルデータ化されたらそれは魂と言えるのか？みたいなテーマだったし
>>322
そちらは初見だったけどそういうテーマも扱っているのね 面白い >>325
シンギュラリティが来たら寒冷化も温暖化も解決できるだろ
>>326
大学教育を改革すれば、AI人材も多く生まれて、シンギュラリティに近づくだろ >>332
先の方のAI軍拡にかこつけたスレチの話題だと思うけどもね
あとシンギュラリティは魔法ではないので
環境問題を一気に変えるのは流石に難しくないか？ >>333
ダイソン球やテラフォーミングレベルの文明じゃないと惑星環境を変化させるのは難しいだろう
恐らくシンギュラリティ後数百年もあれば到達できる >>333
なーに
AGIが本当に人間以上の能力を持つなら、
気候改変なんて朝メシ前だろ
ナノマシンで大気汚染や水の凝結、赤外線の反射等、コントロールできるはず
プラスチックゴミについても同様
プラ分解酵素をAGIが作ってくれる AIが提案できても物資や資金や技術が足りなくて実現できないなんてこともあるだろうからな 成層圏に反射材を撒くとか、地球工学を利用すれば、今でも温暖化を止めることは簡単だが、やって良いのか悪いのかの判断がつかないのと、各国の利害が一致しないからだろ 直ちに反射材でも撒かないと経済成長と環境対策の両立は無理だと思う 古い技術だけど
重力蓄電システムが欧米で台頭、ソフトバンクなどが出資
https://xtech.nikkei.com/atcl/nxt/mag/ne/18/00001/00195/
＞電気エネルギーを重りの位置エネルギーに変換して“蓄電”する技術
＞“放電”時は、重りを降下させてその位置エネルギーを電力に変換する。
ニュートンも驚く超ローテクの“重力蓄電” 近く本格稼働へ
https://xtech.nikkei.com/atcl/nxt/column/18/00001/05997/ 水の凝結、気化をコントロールできれば、
線状降水帯が発生する前に、水蒸気を水に変えて海に落とすことができる
氷の粒が発生しなければ、雷も抑えられる 残せ内燃機関!! カワサキ、ヤマハ、スズキ、ホンダが２輪用水素エンジン技術の共同研究に合意
https://egg.5ch.net/test/read.cgi/bizplus/1636889200/
水素って水を電気分解して作るわけだけど、
そのための電気はどこから持ってくる？
太陽光？じゃないとエコじゃないよね HAARPが本当にあるなら地震はコントロールできそうだな
発生させるんじゃなく打ち消す方に進化させて欲しいが >>343
かなり気圧を上げなくてはいけないからタンクの性能が心配だな 強いAIより「自分で考えて感情を持っている様に見えるAI」の方が誕生早い気がしてきたわ
哲学ゾンビAI >>349
ゲームは全然低次元でしょ
哲学ゾンビAIは何を聞いても全く人間と同じような返答や感情を持った風に振る舞う
見かけ上は反応も感情も人間と全く変わらないAIの話 >>349
ゲームAIは未だにあらかじめプログラムされたパターンでしか行動できない物ばかりだよ
あれをAIと呼ぶなら人口無能も全部AIということになる GPT-4とT-5の最終進化系をググアシに組み込めば、もう哲学ゾンビAIの完成だろ >>353
ドラえもんになるかスカイネット（ターミネーター）になるか見物だな GTP-4はいつかな
早くAIと気軽に会話したいね >>354
四次元ポケットがないドラえもんは、価値がないただの青たぬき
分散型のスカイネットのほうが怖い GTP-4でシンギュラリティ起こせるとしたら2022年だな。
コロナの到来も全く予測できなかったし、来るときは突然来るものなのかもしれん。 GPTのような自然言語処理が自分から意思をもって科学的発見を行うことはない
やっぱり言語だけじゃダメ
会話特化、画像処理、問題解決特化でしかない GTPは人と特化型AIの間に立つ存在じゃね？
人間から要求されたことを特化型AIに振り分けて回答を返す的な。
GTPはドラえもんで特化型AIが四次元ポケット GPT-4をうまく応用すれば、
時と場合、状況に応じて能力を切り替えられるマルチモーダルAIのようなものを作れるだろう 言語モデルのマルチモーダル化と特化型AIってどちらが優秀なんだう。
特化型では無理でマルチモーダルでしか出せない答えも多いのだろうか。 シリコンバレーのレジェンドであるピーター・ティールがCOSM 2021でAGIについて見解
最近、AGIについては(民主主義の国としては)下火になった
ハサビスやマスク、ラリー氏が最近、静かなのを皮切りに、
独占企業が巨大なテックインフラとビッグデータを支配し、市民を監視できる社会でないと実現が難しい
と公に意見した
という記事があったな ■ このスレッドは過去ログ倉庫に格納されています
