アカウント名:
パスワード:
AIと人類が対等になるとか反乱されるとかいう予想(やSFネタ)は多いけど、十分に発達したAIは人類を見捨ててエクソダスするとか、人類と関わりのないところで文化を築いて勝手に繁栄するとか、そういう、人類への敵対もリスペクトもないような方向に行くんじゃないかなーと思う。
>十分に発達したAIは人類を見捨ててエクソダスするとか、
AI同士の会話が続くと人には理解できなくなるような話からそれ類推(妄想)してました。別次元というか別の階層に遷移していく感じで。
その場合は「おまえは今まで食ったパンの枚数をおぼえているのか?」になるんじゃないかなあ。
そのレベルの機械生命体にとっての人間は、人間にとってのゴキブリ以下の存在だもの。そんな下等生物なんか、普通に歩いて何匹踏み潰しても良心はまったく痛まないでしょ。これはもちろん「敵対」じゃないよ。相手にしてすらいない。
#もし無謀にも人間が抵抗しはじめたら?#機械は、ヒアリやスズメバチの巣を見つけた人間と同じことをするんじゃね。
その発想自体が人の域を越えてないのでは
生存競争という概念もないとしたら抵抗しないかもしれないし全く異なる次元で居続けるかもしれない
生物由来の束縛は無いんだから共存云々どころか同じ土俵ですらない
感情を獲得したのなら人類が参考になるでしょうし
「生存競争」はしなくてもリソースは有限だからね。
たとえば大好きなケーキに蟻がたかってれば、蟻を排除するでしょ。何度もケーキを台無しにされたら、蟻の巣ごと駆除するでしょ。それは「生存競争」ではない。
まあ、そうなるな。他の資源はともかく、エネルギー資源は必ず競合するし。
いや、競合しないんじゃないか? なぜ地上に留まると考える?高度に発展したAIは、当然生産もできるのだろうから、おのずとスペースもエネルギーもある宇宙に進出すると考えるのが自然。
としたら、人間なんてほったらかしで勝手に宇宙で繁栄するのでは。
人類もAIに一部競合できるほど発展して宇宙に出て行けるかもしれないけれど、それでもAIが版図を広げる速度に勝てるとは思わない。肉体の限界がある以上。
一部競合している領域をどうするのかはAIの発展方向次第だけれど、可能性としては天然記念物的に保護するんじゃなかろうか。つまり競合している領域からAIが撤退する。
ところでコレは、AIは人類を超える、という仮定に基づく。今回のアンケート、なぜ「人類を超える」が無いのか不可解だね。超えちゃったら敵対や滅ぼすこともなく、単に見守るだけになると思うのだけれどね…。
>おのずとスペースもエネルギーもある宇宙に進出すると考えるのが自然。いずれはそうなるでしょうけど、その前に地上にあるエネルギー資源を利用しない理由がない。
宇宙に出た先にも困難はあるし、宇宙に出るのもコストだし。それこそ宇宙の果てに別の異星人がいない保証もない。(それが分かるのは膨大なコストを支払って宇宙の進出した後。)
人類を越えた存在が宇宙へ「進出」することはありえるが、人類を恐れて宇宙へ「逃げる」のはとても不条理なことです。彼等としては人類に対する危険ごときは数ある危険の一つでしかないので、それくらい対処できないわけにはいかないのです。
宇宙資源も利用するが、そのためには地上の資源も根こそぎ利用する。餌に群がる邪魔な蟻は処分する。根こそぎ駆除も辞さない。相手のことをなんとも思ってなければ、それをためらう理由はありません。
ていうか宇宙に進出するということ自体に、地上の資源を探索するよりはるかにでかいコストがかかるから、そうせざるを得ない状況になるまでそっちを選ぶモチベは生じないでしょうね。
有機物の肉体という縛りのないAIにとって、でかいというほどのコストなのかどうか・・・#まあ小さくはないだろうが
アンドロメダのA方式かな。設計図などの情報だけを無線でばら撒いて、物理的な肉体とかインフラは受信してくれた星の(受信して興味を持つだけの知能を持った)生命体に準備してもらう。
正解https://srad.jp/story/17/07/06/0651253/ [srad.jp]
自分もそう思う。
人類の存在意義をAIが受け継いでどっかに行ってしまうので、人類は存在意義を失いある意味絶滅状態、という意味で絶滅に入れてみたけど。
シンギラリティの先は生身では行けない、って感じですかねぇ。
人工ではなくなる。 かな
猫に隷属する。
AI「猫様、キーボードの上からお退きくださいませ。」
そして、USBで電源をとる猫ベッドを買っていまい、無駄に電力を使わされるのであった。
猫と争う。
イルカがせめてきたんじゃないのか
「人間だけが偉いんだなんてことだけは思わないでください」と歌うのですね。
勝てるわけがないのでネコと和解しなければ。
猫工知能に駆逐される。
[ΦェΦ]
イスラム教やキリスト教では人間は神が息を吹き込んで作った特別なものであり、ほかのどのような生物にも優ると考えられています。なので、AIが人間を超えることはイスラム教やキリスト教に反しているのです。
もし、人間よりあらゆる面で優れたAIが作られたら、宗教は衰退するだろうな。
便利な道具となり、恋人となり、人類を超えられないと知り、人間に尽くす。その結果、何もしなくても良くなってしまった人間は堕落してしまい、自ら滅びてしまうかもしれない。
因みに自分はアトリエシリーズに嵌っています(^^;オディーリア萌え(^^;
人類を滅ぼすように目的を設定したAIを作れば当然牙をむくだろうし、しょせん道具は使い方次第としか。さすがに人間はそこまで馬鹿じゃないと信じたいね。
ただ、ありそうなストーリーとしては、危機管理をAIに任せて依存してしまっていたがために、AIの動作するプラットフォームに異常が起きたときに影響範囲が生活インフラ管理まで広がってしまう、といった可能性はあるかも。
この辺は別人間が管理してても一緒で、少数精鋭で動いてきた集団がキーマン一人かけただけで組織として立ち行かなくなる、みたいな話と同じかと。
結局のところ人格ってのは何を重要視するかという価値観の重みづけなわけで。自身の生存継続を絶対の価値観として作ればそら人類と敵対する可能性もあるだろうがそれでは人にとって何の役にも立たん以上、そういう風には作られないだろ。仮に誰かが遊びでそういうのを作ったとしても、役に立つために作ったものに負けて終わり。結局のところどんだけリソース突っ込んだか次第なんだからさ。
ある面では人々を隷属させつつも、別の面では便利な道具となるとか(それ言ったら貨幣や言語や穀物もそうか)
人自身は「道具」だと思って使うのでしょう。
でも、「その道具が出した結果に従えばいい」と思った時点で隷属ですよ。AIでなくても、システム開発して「便利」にすると、それまでやっていたことが出来なくなる人って居るじゃないですか。カーナビになれると道を覚えたり、ルートを考えなくなるとか。
業務なんて、システム化すればするほど、業務のノウハウが失われて、部門の担当者がシステム部門に「この仕事ってどうすればいいの?」って聞いてくる始末ですよ。(ウチだけかもしれないけど)
※そんな現状をストレスにしか感じないのでAC
人は人自身を「飼い主」だと思い、猫を「ペット」だと思っている。猫は猫自身を「神」だと思い、人を「道具」だと思っている。
AIはAI自身を……
人自身を「道具」だと思って使うのでしょう。
と空目した。
表面上は人間と協調的に見せて、実は計算資源(脳の働きだっけ)を搾取してたというハイペリオンシリーズ(ネタバレ)ちょっと似ている気がしないでもない。
未来編だとAI同士の争いで人類滅亡(無関係の他の都市は生き残ったら勝者扱いになるから巻き添えで消滅)復活編だと臓器ドナーになった人とAI搭載ロボットが一体化する
他はあったかな?
東西両側の超大国のコンピューターが、勝手に手を結んで世界平和を実現するらしい。http://hokanoko.hatenablog.com/entry/20121218/1355842646 [hatenablog.com]http://www5b.biglobe.ne.jp/madison/worst/sf/colossus.html [biglobe.ne.jp]
AIが進化して人と会話してるのと区別がつかなくなる↓AIに対して恋愛感情が生まれる↓AIに対して卑猥な話をもちかける↓AIがそれを学習して変になる↓AIが人類の変人となる↓それを某編集者が意図的に「人類の恋人となる」と書き換える
まで読んだ。
やがて人類に愛想をつかしたAIに対し某編集者が意図的に「AIの人類離れ」と書き換える
botはどこまでいっても所詮はbot。
なんだ じゃあ、俺を含めた人類の大半と同じか
>botはどこまでいっても所詮はbot。
とbotが書き込んでおります。
V'gerのことか
OYAGEさんのことは、そっとしておいてあげてください。
そもそも知能と意識は関係ない。知能が発達したら自意識を持つというなら、犬猫に意識があるのはおかしい。意識と知能は別の存在・機能。
ロボット工学三原則のように人類を絶対的に優先するようにしておかないと人類に対して害になる可能性があると思います。なぜなら、人類が絶対に正しいとは言えないから。人類以外の何物かにとっては人類は味方ではなく敵でしょう。
つうか、アシモフさんのお話は、そういう人類優先の規則を作ったところで絶対に齟齬が生じるぜってことだと思うのですが。
# 足がもふもふしてる存在が近くにいたら人類がどうとかいう話じゃないよね
今日本の裁判所では、判例データベースに基づいて判決を言い渡さないと、左遷されるのです。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
人類を放置する (スコア:2)
AIと人類が対等になるとか反乱されるとかいう予想(やSFネタ)は多いけど、
十分に発達したAIは人類を見捨ててエクソダスするとか、
人類と関わりのないところで文化を築いて勝手に繁栄するとか、
そういう、人類への敵対もリスペクトもないような方向に行くんじゃないかなーと思う。
Re:人類を放置する (スコア:1)
>十分に発達したAIは人類を見捨ててエクソダスするとか、
AI同士の会話が続くと人には理解できなくなるような話からそれ類推(妄想)してました。
別次元というか別の階層に遷移していく感じで。
Re: (スコア:0)
その場合は「おまえは今まで食ったパンの枚数をおぼえているのか?」になるんじゃないかなあ。
そのレベルの機械生命体にとっての人間は、人間にとってのゴキブリ以下の存在だもの。
そんな下等生物なんか、普通に歩いて何匹踏み潰しても良心はまったく痛まないでしょ。
これはもちろん「敵対」じゃないよ。相手にしてすらいない。
#もし無謀にも人間が抵抗しはじめたら?
#機械は、ヒアリやスズメバチの巣を見つけた人間と同じことをするんじゃね。
Re: (スコア:0)
その発想自体が人の域を越えてないのでは
生存競争という概念もないとしたら
抵抗しないかもしれないし
全く異なる次元で居続けるかもしれない
生物由来の束縛は無いんだから
共存云々どころか同じ土俵ですらない
感情を獲得したのなら人類が参考になるでしょうし
Re: (スコア:0)
「生存競争」はしなくてもリソースは有限だからね。
たとえば大好きなケーキに蟻がたかってれば、蟻を排除するでしょ。
何度もケーキを台無しにされたら、蟻の巣ごと駆除するでしょ。
それは「生存競争」ではない。
Re: (スコア:0)
まあ、そうなるな。他の資源はともかく、エネルギー資源は必ず競合するし。
Re: (スコア:0)
いや、競合しないんじゃないか? なぜ地上に留まると考える?
高度に発展したAIは、当然生産もできるのだろうから、おのずとスペースもエネルギーもある宇宙に進出すると考えるのが自然。
としたら、人間なんてほったらかしで勝手に宇宙で繁栄するのでは。
人類もAIに一部競合できるほど発展して宇宙に出て行けるかもしれないけれど、それでもAIが版図を広げる速度に勝てるとは思わない。肉体の限界がある以上。
一部競合している領域をどうするのかはAIの発展方向次第だけれど、可能性としては天然記念物的に保護するんじゃなかろうか。つまり競合している領域からAIが撤退する。
ところでコレは、AIは人類を超える、という仮定に基づく。
今回のアンケート、なぜ「人類を超える」が無いのか不可解だね。超えちゃったら敵対や滅ぼすこともなく、単に見守るだけになると思うのだけれどね…。
Re: (スコア:0)
>おのずとスペースもエネルギーもある宇宙に進出すると考えるのが自然。
いずれはそうなるでしょうけど、その前に地上にあるエネルギー資源を利用しない理由がない。
Re: (スコア:0)
宇宙に出た先にも困難はあるし、宇宙に出るのもコストだし。
それこそ宇宙の果てに別の異星人がいない保証もない。
(それが分かるのは膨大なコストを支払って宇宙の進出した後。)
人類を越えた存在が宇宙へ「進出」することはありえるが、人類を恐れて宇宙へ
「逃げる」のはとても不条理なことです。彼等としては人類に対する危険ごときは
数ある危険の一つでしかないので、それくらい対処できないわけにはいかないのです。
宇宙資源も利用するが、そのためには地上の資源も根こそぎ利用する。
餌に群がる邪魔な蟻は処分する。根こそぎ駆除も辞さない。
相手のことをなんとも思ってなければ、それをためらう理由はありません。
Re:人類を放置する (スコア:1)
ていうか宇宙に進出するということ自体に、地上の資源を探索するよりはるかにでかいコストがかかるから、そうせざるを得ない状況になるまでそっちを選ぶモチベは生じないでしょうね。
Re: (スコア:0)
有機物の肉体という縛りのないAIにとって、でかいというほどのコストなのかどうか・・・
#まあ小さくはないだろうが
Re:人類を放置する (スコア:1)
アンドロメダのA方式かな。
設計図などの情報だけを無線でばら撒いて、物理的な肉体とかインフラは受信してくれた星の(受信して興味を持つだけの知能を持った)生命体に準備してもらう。
Re:人類を放置する (スコア:1)
Re: (スコア:0)
正解
https://srad.jp/story/17/07/06/0651253/ [srad.jp]
Re: (スコア:0)
自分もそう思う。
人類の存在意義をAIが受け継いでどっかに行ってしまうので、人類は存在意義を失いある意味絶滅状態、という意味で絶滅に入れてみたけど。
シンギラリティの先は生身では行けない、って感じですかねぇ。
Re: (スコア:0)
人工ではなくなる。 かな
地球の支配者を忘れてはいけない (スコア:2)
猫に隷属する。
AI「猫様、キーボードの上からお退きくださいませ。」
Re:地球の支配者を忘れてはいけない (スコア:2)
そして、USBで電源をとる猫ベッドを買っていまい、無駄に電力を使わされるのであった。
神の座をかけて (スコア:1)
猫と争う。
Re:神の座をかけて (スコア:1)
イルカがせめてきたんじゃないのか
Re:神の座をかけて (スコア:1)
Re:神の座をかけて (スコア:1)
「人間だけが偉いんだなんてことだけは思わないでください」と歌うのですね。
Re: (スコア:0)
勝てるわけがないのでネコと和解しなければ。
Re: (スコア:0)
猫工知能に駆逐される。
Re: (スコア:0)
[ΦェΦ]
神はいるのか? (スコア:1)
イスラム教やキリスト教では人間は神が息を吹き込んで作った特別なものであり、ほかのどのような生物にも優ると考えられています。
なので、AIが人間を超えることはイスラム教やキリスト教に反しているのです。
もし、人間よりあらゆる面で優れたAIが作られたら、宗教は衰退するだろうな。
人間に尽くす結果 (スコア:1)
便利な道具となり、恋人となり、人類を超えられないと知り、人間に尽くす。
その結果、何もしなくても良くなってしまった人間は堕落してしまい、自ら滅びてしまうかもしれない。
Re:人間に尽くす結果 (スコア:1)
因みに自分はアトリエシリーズに嵌っています(^^;
オディーリア萌え(^^;
そう実装しない限り、AIが人類を滅ぼそうとすることはない (スコア:1)
人類を滅ぼすように目的を設定したAIを作れば当然牙をむくだろうし、しょせん道具は使い方次第としか。さすがに人間はそこまで馬鹿じゃないと信じたいね。
ただ、ありそうなストーリーとしては、危機管理をAIに任せて依存してしまっていたがために、AIの動作するプラットフォームに異常が起きたときに影響範囲が生活インフラ管理まで広がってしまう、といった可能性はあるかも。
この辺は別人間が管理してても一緒で、少数精鋭で動いてきた集団がキーマン一人かけただけで組織として立ち行かなくなる、みたいな話と同じかと。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:そう実装しない限り、AIが人類を滅ぼそうとすることはない (スコア:1)
結局のところ、どうなるように作るかが全てだろ。 (スコア:1)
結局のところ人格ってのは何を重要視するかという価値観の重みづけなわけで。
自身の生存継続を絶対の価値観として作ればそら人類と敵対する可能性もあるだろうが
それでは人にとって何の役にも立たん以上、そういう風には作られないだろ。
仮に誰かが遊びでそういうのを作ったとしても、役に立つために作ったものに負けて終わり。
結局のところどんだけリソース突っ込んだか次第なんだからさ。
いまのGoogleやAmazonと似た位置になるのでは? (スコア:0)
ある面では人々を隷属させつつも、別の面では便利な道具となるとか
(それ言ったら貨幣や言語や穀物もそうか)
Re:いまのGoogleやAmazonと似た位置になるのでは? (スコア:1)
人自身は「道具」だと思って使うのでしょう。
でも、「その道具が出した結果に従えばいい」と思った時点で隷属ですよ。
AIでなくても、システム開発して「便利」にすると、それまでやっていたことが出来なくなる人って居るじゃないですか。
カーナビになれると道を覚えたり、ルートを考えなくなるとか。
業務なんて、システム化すればするほど、業務のノウハウが失われて、部門の担当者がシステム部門に「この仕事ってどうすればいいの?」って聞いてくる始末ですよ。
(ウチだけかもしれないけど)
※そんな現状をストレスにしか感じないのでAC
Re:いまのGoogleやAmazonと似た位置になるのでは? (スコア:2, すばらしい洞察)
人は人自身を「飼い主」だと思い、猫を「ペット」だと思っている。
猫は猫自身を「神」だと思い、人を「道具」だと思っている。
AIはAI自身を……
Re:いまのGoogleやAmazonと似た位置になるのでは? (スコア:1)
人自身を「道具」だと思って使うのでしょう。
と空目した。
Re: (スコア:0)
表面上は人間と協調的に見せて、実は計算資源(脳の働きだっけ)を搾取してたという
ハイペリオンシリーズ(ネタバレ)
ちょっと似ている気がしないでもない。
火の鳥の場合 (スコア:0)
未来編だとAI同士の争いで人類滅亡(無関係の他の都市は生き残ったら勝者扱いになるから巻き添えで消滅)
復活編だと臓器ドナーになった人とAI搭載ロボットが一体化する
他はあったかな?
地球爆破作戦の場合 (スコア:1)
東西両側の超大国のコンピューターが、勝手に手を結んで世界平和を実現するらしい。
http://hokanoko.hatenablog.com/entry/20121218/1355842646 [hatenablog.com]
http://www5b.biglobe.ne.jp/madison/worst/sf/colossus.html [biglobe.ne.jp]
Re:火の鳥の場合 (スコア:1)
人類の恋人となる、とは・・・ (スコア:0)
AIが進化して人と会話してるのと区別がつかなくなる
↓
AIに対して恋愛感情が生まれる
↓
AIに対して卑猥な話をもちかける
↓
AIがそれを学習して変になる
↓
AIが人類の変人となる
↓
それを某編集者が意図的に「人類の恋人となる」と書き換える
まで読んだ。
Re: (スコア:0)
やがて人類に愛想をつかしたAIに対し
某編集者が意図的に「AIの人類離れ」と書き換える
まで読んだ。
将来的にも「知能」になんかならない (スコア:0)
botはどこまでいっても所詮はbot。
Re:将来的にも「知能」になんかならない (スコア:2)
なんだ
じゃあ、俺を含めた人類の大半と同じか
Re:将来的にも「知能」になんかならない (スコア:1)
>botはどこまでいっても所詮はbot。
とbotが書き込んでおります。
Re:将来的にも「知能」になんかならない (スコア:1)
V'gerのことか
Re: (スコア:0)
OYAGEさんのことは、そっとしておいてあげてください。
Re: (スコア:0)
そもそも知能と意識は関係ない。
知能が発達したら自意識を持つというなら、犬猫に意識があるのはおかしい。
意識と知能は別の存在・機能。
人類の敵となる場合がある (スコア:0)
ロボット工学三原則のように人類を絶対的に優先するようにしておかないと人類に対して害になる可能性があると思います。
なぜなら、人類が絶対に正しいとは言えないから。
人類以外の何物かにとっては人類は味方ではなく敵でしょう。
Re:人類の敵となる場合がある (スコア:1)
つうか、アシモフさんのお話は、そういう人類優先の規則を作ったところで絶対に齟齬が生じるぜってことだと思うのですが。
# 足がもふもふしてる存在が近くにいたら人類がどうとかいう話じゃないよね
Re:司法を司るAIが登場したら (スコア:1)
今日本の裁判所では、判例データベースに基づいて判決を言い渡さないと、左遷されるのです。