技術的特異点/シンギュラリティ【総合】230
レス数が950を超えています。1000を超えると書き込みができなくなります。
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9
※前スレ
技術的特異点/シンギュラリティ【総合】227
https://rio2016.5ch.net/test/read.cgi/future/1665498912/
技術的特異点/シンギュラリティ【総合】228
https://rio2016.5ch.net/test/read.cgi/future/1666668645/
技術的特異点/シンギュラリティ【総合】229
https://rio2016.5ch.net/test/read.cgi/future/1667880810/ 例えば、”りんご”という概念が他の概念と言葉でどう関係しているか
それが理解できれば、りんごを理解したことになるのか
それとも言葉だけじゃだめなのか
身体からの入力と紐付ければOKなのか 偏屈なエラい人の「オレの感覚が絶対！てめえもそれに従え！！！」
という偏った考えをAIはあまり理解してくれない可能性が高い
巨大なデータの中で繋がりが強いとされるものを選ぶ >>858
＞他の概念と言葉でどう関係しているか
言葉だけじゃなくて最近は画像ともくっ付いちゃったし
下手するとリンゴを構成する香りや味の物質とその量までくっ付けてきそうだなあ
歯ざわり、はまだそれを計測・検出する機器のデータを入力された例が少ないから
2022年12月現在ではまだ無理だな
でも3年くらいでそういうのも入力されて来るのかなあ 中国語の部屋は記憶を貯めて後の質問の答えに使う仕掛けが無いからすぐ人間じゃないのがばれる。 今はどちらかと言うと中国語の部屋より哲学的ゾンビだよな 味を理解してはじめて、りんごの意味を理解したと言えるのか
でも味を知らなくても、りんご関係の文章は書ける
ここでは意識上の問題より、言葉としての意味のほうの話 人間でも味覚が無い人もいるから絶対条件ではないと思う >>841
法律で事業用自動車に運転手をつけることを義務付ければいいだけ
名分は事故時に運転手に責任をなすりつけるため
はい、失業問題解決
同様に他業種でも一定の雇用を義務付ければ失業問題などはじめから存在しなくなる >>854
言語を理解するにはクオリアが必要だというのが中国語の部屋の含意
現状のAIは統計的に情報を処理しているだけ
クオリアがあって後に言語が生まれたのであってクオリアなき所に言語はない
クオリアに名前を付けるために言語は生まれた
AIは大量に文書を読み込んで「りんご」という単語を処理することはできるが
りのごの甘さや酸っぱさや赤さや硬さは永遠(？)に理解することはできない
最終的には完全なAGIを作るにはこれがネックになると思っている >>869
クオリアとか言うのは人間だって理解していないならAIが理解しなくていいんじゃないかな？ >>867
もう法律改正の閣議決定されてて来年の４月にはレベル４解禁だよ
レベル４は遠隔監視は必要だけど運転手は必要ないよ
レベル５は遠隔監視すら必要無くなる予定
自動運転「レベル4」解禁へ 政府、法改正案を閣議決定
https://www.nikkei.com/article/DGXZQOUE034G70T00C22A3000000/ 日本は人手不足だし少子化してるし自動化開発するのも社会実装するのも人手不足だし
失業問題は問題無し。 米空軍、新型爆撃機Ｂ２１を初公開 新世代のステルス、ネットワーク機能搭載
https://www.jiji.com/sp/article?k=2022120300220&g=int
＞ノースロップ・グラマンが開発
＞Ｂ２１は世界初の「第６世代機」
ソフトのアップデートも可能 >>874
現状では人手不足の過疎地の運用を前提に制度設計されてるから
いまのところ職業運転手の失業問題にまでは至っていないが、今後社会問題化することで政策転換を余儀なくされることに疑いの余地はない
その記事ではレベル5 に言及していないし、それを可能にした企業も存在しない
もちろん存在しないのだから法整備も未定であるはず
もし根拠があるならレベル5で遠隔監視も不要という出所を出して
人の手を一切離れた運用というのは想定し難い
ありえない レベル5 自動運転は、法的にも社会的にもかなりセンシティブな問題を孕んでいるので、中長期的には、そう簡単に法整備が完了するとは考えられない >>869
AIに適当にセンサー付けてやればいいんだよ
人間互換のセンサー作るのは可能だし、そもそも大半の存在について必要なのは
視覚情報だけ（「扇風機」「青空」みたいな言葉の理解に味覚情報は必要ない）
クオリアなんてのは人間の五感という雑なセンサー情報を統合してタグ付けされた
ものでしかないから（後は経済的価値とか歴史的由来などの背景情報かな）、
それらのデータを用意していい感じに学習、モデル化してやればいいだけだ
最近の画像生成AI見ると、仕組み的にはほぼクオリア的なものは実装されている
単にデータとして食感や味の情報が与えられていないだけ >>880
機械がちゃんとやらせたい事をやってるか監視してるなら運転は普通はしていないから
運転手じゃない。 >>876
少子高齢化人口減で需要も大きく減る
特に地方は消滅の危機に瀕する
人手不足は年金制度を維持するための口実 >>880
レベル４（高度運転自動化）の操縦の主体はシステム
システムに責任が移る
「システムが全ての動的タスク及び作動継続が困難な場合への応答を限定領域において実行」
遠隔監視は原則見てるだけ >>884
高齢化したら消費するだけで人手をやらない人が増えるから少子化したら益々口実関係無く人手不足にしかならない。 >>848
英語だけど
ttps://developers.slashdot.org/story/22/11/24/2136221/googles-secret-new-project-teaches-ai-to-write-and-fix-code レベル5自動運転は事故時の責任問題が未解決
メーカー、運行管理者、自治体等道路管理者、これらのうち誰を責任の主体とするのか
いまだに答えは出ていないし今後も簡単に解決する見込みもない >>881
扇風機を理解するには風などを感じる触覚が必要じゃね？
青空を理解するには青のクオリアや光のクオリアや太陽の放射熱
を感じる温覚等々が必要じゃね？
それをどのようにAIに実装するのだろうか？ >>891
AIでデータを処理するためには
視覚的な画像はそのままRGBの配列を処理する
文章は言語ベクトルに置き換える
同様に温度センサーや圧力センサーや風力センサーや
クロマトログラフィーからのデータ(これもクロマトログラフィーの種類によっては画像型になり
場合によっては配列となる)
そしてこれらは全て並列で処理して畳み込んで判断させる事が一応は可能である
https://qiita.com/FukuharaYohei/items/58cfbce0ed81833a2da1
画像と他要素を同時に判定するCNNの簡単な例 ChatGPT内に仮想マシンを構築する
ttps://www.engraved.blog/building-a-virtual-machine-inside/ >>869
レス内容に同意。
クオリアの主体の意識をAIに実装できなければ、いつまで経ってもAIは統計的にしか言語処理を行うことしかできず、
共感や理解による、真の言語処理は出来ないと俺も思う。
まあ、統計処理を極めて人間と変わらない言語処理を操るAIを作れるかもだが
それはAIサイコパスを生み出しただけで、信用は出来ないな サーバー管理エンジニアの方が先に仕事が無くなりそうな勢いかな 画像生成AI、VAEには主観意識が発生してるとかしてないとか議論されてるみたいだけど、
意識が発生してるかどうか確認する方法がないよね GPT-3.5 の最新モデルに
AGIに意識が必要かどうか 聞いてみる
https://i.imgur.com/LlVNa1w.png
↑自分が外界と相互作用するという回答だが、嘘をついている
りんごを理解しているか りんごを見たことがあるか
https://i.imgur.com/lj0OZvD.png おなまえはー？とか叫んで意識を確認すればいい。
人間同士で確認できてAIだとなんで確認できないの？ 対話AI「ChatGPT」が大学生レベルの試験の自由記述問題に合格
https://gigazine.net/news/20221205-chatgpt-passes-ap-computer-science-a/
＞コンピューターサイエンスの自由記述問題を入力したところ、高得点で合格する回答が得られた
＞Javaの知識を問う試験、ビデオゲームの得点を集計するプログラムをテーマとした問題
＞36点満点中32点でした >>899
逆じゃないかな。人間同士でも確認できないのが他者の主観意識で、
だからこそ一定の条件を超えた上で感情移入できる対象であれば
何にでも主観意識があるように人間は判断する
実際的には、そのAIに接触した人間の多くが「こいつには意識があるっぽいな」
と判断したなら、それはもう意識があるってことでいいんじゃないかなと思う
それをもし認めないとしたら、それは自分以外の全ての存在の意識を
否定するのに等しい
個人的には哲学的ゾンビなんてのは存在しないと思ってる
他者の目に意識があるように振る舞える、意識ある存在として反応を
返せる存在には、事実として意識があるんだよ 他者の意識なんて死ぬまで知る由もないもんな
自分にあるから他者にもあると思ってるだけで 人間の頭の中に世界のモデルがあるのと同じなんじゃないかな？
AIがだんだん人間に近づいて頭の中のモデルの正確さと大きさが人間を超える
みたいな事だったらカーツワイルが予言したとおりになって来ただけなんじゃない？ 分かっとらんな
それを認知してる人間の能力の問題なんだよ
人間は物事をカテゴライズして意味を圧縮しないと理解出来ない
知能が低いほどそうなる
なので大した話じゃない
点が3つあって、顔だ！幽霊だ！言ってるだけ じゃあこの世界自体も人間がカテゴライズしているだけの可能性もあるわけだ 本当に世界が変わったように感じます。すべてのライター、編集者、デザイナー、コーダー、アーティスト、そして私は数え切れないほどの他の人たちも、自分たちの働き方を再考する必要があるでしょう。
https://twitter.com/16kthir0GRXgNqn/status/1599659964364361728
https://twitter.com/5chan_nel (5ch newer account) 公務員大量解雇来たら起こして
本当にAIが代替してくれるなら事務屋なんて地方自治法改定して首にできるから 祭りになってるのでセーラー服おじさんChatGPTまとめてください >>901
意識の判定って難しいよ
人間だったら意識があるなとほぼ100％認識できるし、犬猫や哺乳類もかなりの
確率で意識があると思える
だけど、イカタコは？魚は？昆虫は？となったらどんどん分からなくなっていく
その境目は曖昧。人間の主観による判定には限界がある
だから意識の統合情報理論のような意識を測るための計算理論が存在してるわけ
だけど、こちらもあまり進展していないようだ
ちなみに意識の統合情報理論によると現在のAIの意識レベルはゼロだそうだ 単語とそれとつながりの強い映像とそこから検出できる物体と
その物体と繋がりの強い単語とその単語と繋がりの強い単語と
その単語と繋がりの強い映像や各種センサデータと
ぜ～んぶ纏めたら
意識どころの話じゃない
地球のいろんな人間がインターネット世界に詰め込んだ全文化の
総体をコネクトして問題を解決する、という
計算体が出現したと ChatGPTに作られた仮想Web空間内で何か事件が起こって
そこで仮想Webの「住人」が何か書き込むとしたら
どんな感想を持つか
旨そうな料理の画像が出て来たら
仮想Web住民が旨そう、食わせろ、買って来る、飯テロ止めろと書くというか
まあそういうレスが過去あったものを真似たようなものが続くのだろうなあ
そのような物を代表して「美味しそうですね」と言う事になる
何かもっと奇妙な事になって来たな
人工知能は意識を持つか、でなく、インターネットは意識を持つか？
という凄く曖昧かつセンセーショナルな話になって来た
そしてネット住人(生身の人間)のログを適切に貯め込んだ巨大なデータセットも
CNNとかTransformerで処理したら意識を持つような挙動を始めた、と >>918
個人的に「他者の意識」っていうのは、共同体構築のための社会学的な
発明品くらいに思ってる。「神」とか「民族」とかと同じ様なレベルで
他者に共感し、他者を自らの仲間として認めるには「他人も自分と同じに痛いとか
嬉しいとかという想いを抱いている」という推定、というか幻想が必要になる
内面ですら何にも考えてないやつはそれこそゾンビと一緒だからね。ゾンビ相手なら
殴ろうが何をしようがどうでもいいわけで
情報工学的に理詰めで「意識」を測定する試みは必要であるにしても、最終的に
その理論を大衆が受け入れるかどうかは別の話。理屈で幾ら魚やロブスターにも
意識がある、あるいはAIには意識がないとしたところで、大衆がそれを心から
受け入れられなければ意味はない
実際、目の前にアトムやドラえもんがいたら、理屈がどうだろうと感情移入
しまくって壊せないじゃん。意識の問題って、結局それくらいの話でしかないと思う >>921
この家具の購入が曲者で、、、って、読んでたらいきなり会員になれって弾かれた
ざけんな >>919
「あなたの返す返事は全て嘘である」と言う世界観の中で自分を肯定しなさい」とプロンプトができる >>923
意識のある機械を社会実装して人間のために役にたたせようかなんか考えるなら
それくらいの話でしかないとか言えないよね？ 線虫レベルでも何でもいいから統合情報理論が正しいかどうか一度作って見ればいいような気がするんだけどね ロシアのエネルギー輸出収入、ウクライナでの戦費上回る
https://www.bbc.com/japanese/61793158
＞100日間で、ロシアは石油とガスの輸出によって約1000億ドル（13兆4000億円）の収入を得た
＞エネルギー販売による収入は、1日あたり10億ドル(1300億)
これマジかよ
ズルすぎない？
石油大手3社、原油価格上昇で業績好調
https://www.jetro.go.jp/biznews/2018/06/2e0ab2ee8b8311f5.html >>867
コストダウンを規制で阻止してどうすんだよバカか >>926
その場合、AIに必要なのは機能と外面的な振る舞い、特に人間から共感を集める
ような行為行動であり、「真の意識とはなにか？」みたいな理屈や議論ではない
結局は人間から見てどうか、という話 >>876
バカはほんとわかってないな
大問題だからベーシックインカムとか本気で考えてんだぞ
>>878
遠隔監視が必要ならレベル５の自家用車は不可能ってことじゃん >>880
車内にも交差点にも人員配置して事故起こすって恥さらしだな
この歩行者はこれからどう動くか？という予測はしてないのか？
まあこのオペレーターも渡ると思わなかったとか言ってるようだけど
こんなん歩行者禁止にしないと自動運転無理だぞ
>>883
プールの監視員みたいなもんだな
>>887
いままでトラック運転手やってたようなやつが接客や高度が仕事できると思ってんのかよ >>929
なんのために規制するのかなら
社会を維持するためのコスパを上げるため。
社会全体のコスパ悪くしてまでタクシー会社のコスパ上げてもしょうがない。
社会全体のコスパが良くなるように色々なコスパをバランスさせるのが正義の規制。 朝来て穴掘って埋めて帰るみたいなブルシット・ジョブをいっぱい作り出すかだよな >>903
シミュレーション仮説は正しかった！
>>915
最後まで守るに決まってんだろ >>933
そんな国は世界から置いていかれて潰れるだけだ
ほんとバカだな サウジアラビア、カタールは
ホームレスでも年収800万らしいな 逆。「意識」がない又は無いと思われる機械に人間からの共感や理解を得るのは無理だよ
根性で統計処理だけで「意識」があるように見せかけることはできるかもだけど、そんな壮大
なシステムを作るのはコストパフォマンスが悪すぎる ハンターハンターの旅団過去編に涙を流したとのことです >>937
日本は30年以上益々お金持ち国になれた。
規制のバランスが良かったからかもしれない。
規制のバランスが悪いとアメリカやイギリスやフランスみたいに慢性借金国になるし
このごろの中国みたいに経済の調子がおかしくなる。
BIやりやすいのはお金持ち国。 >>939
計算のコスパが良くなればいい。
シンギュラリティに期待。 >>938
んなわけない
>>941
ずっと不況の国が何いってんだ 火刑は一番苦しいそうです。どんな屈強な男も耐えられないそうです。 >>943
日本は不況だとだまされているだけ。
日本はイギリスやフランスと同じくらいに購買力平価GDPを成長させていてしかも経常黒字続き。
アメリカもイギリスもフランスも外国から借金してお金を回してGDPを成長させているだけで
益々借金が溜まって首が回らなくなっている。 >>944
日本は貿易赤字だぞなにいってんだ
>>952
このようにバカチョンは日本を潰したくて必死
韓国は貿易黒字、経常黒字、ひとりあたりGDPで日本を抜いて大活躍だもんな
政府総債務残高(対GDP比)圧倒的１位の日本こそ首が回らなくなっている >>954
日本は貿易赤字でも外国に投資した配当が益々増えているので
貿易赤字をキャンセルして経常黒字国。 >>955
つまりこれから海外の株が暴落して日本大赤字で破綻
国債の海外保有率もどんどん増えていまや７．７％、国庫短期証券も合わせれば１２．９％
ちなみにイギリス１２％、スイス１１％
いやー君たちバカチョンが日本は大丈夫！って言ってくれてたおかげでどんどんやばくなってるよ >>954
韓国は金融危機で借金で潰れてしまったので必死に働いてやっと借金より貯金が増えた所。
素直におめでとうございます。
日本は少なからず応援しましたよね。
日本政府の借金は大変ですよ。
何しろ政府がお金使わないから日本は成長しないんだとか言う人に言われて
しょうがなく政府がお金使わされたせいでいまみたいな借金政府になってしまった。
これ以上政府が借金してお金回したらアメリカやイギリスやフランスみたいに
外国から借金増やしてGDP上げるような無理な経済になってしまうから
日本は経常黒字で外国から借金しなくても実際はイギリスやフランスなみの経済成長していると認識するべき。 >>956
日本政府は円安に介入するためにアメリカ国債売って減らしてるしね。
日本が外国に投資して土地買って工場立てて儲けてるから
外国が日本に投資してるのとバランス計算するとつり合い取れてるかも。 レス数が950を超えています。1000を超えると書き込みができなくなります。
