ロボットにおける倫理的問題 71
ストーリー by hylom
ロボット3原則を越えた原則を 部門より
ロボット3原則を越えた原則を 部門より
あるAnonymous Coward 曰く、
現在、米国では軍事用ロボットの導入が進んでいる。無人での爆撃を行える無人航空機などもロボットの一種と考えることができるが、これに対し、「ロボットの倫理」の専門家であるカリフォルニア理工州立大学のパトリック・リン准教授へのインタビューがウォール・ストリート・ジャーナルに掲載されている。
問題となっているのは、無人航空機による空爆は暗殺に似ている、という点や、このような行為は戦争とはされていない点だ。米国では軍事用ロボットの研究開発が盛んであるため、このような「ロボットの倫理」についても多くの議論がされているという。
しかし、ロボットの倫理については軍事用だけでなく、それ以外の分野でも議論されるべきだという。たとえば自律動作する自動車が事故を起こして人を傷つけたらどうするべきなのか、またロボットによって奪われる職についてはどうなのか、などだ。
日本ではロボットの技術面は多く議論されているが、このような倫理面での議論を増やすことも、将来に向けて必要になるのかもしれない。
随分と大雑把 (スコア:5, すばらしい洞察)
ちょっとロボットに関するからって十把一絡げに「ロボットの倫理」とかまとめてどうする。
> 自律動作する自動車が事故を起こして人を傷つけたらどうするべきなのか、
これは自律機械所有者の責任に関する明確な法による定義の必要性、
> またロボットによって奪われる職について
これはロボットに奪われない雇用創出の必要性について。
Re:随分と大雑把 (スコア:1)
> 自律動作する自動車が事故を起こして人を傷つけたらどうするべきなのか、
>これは自律機械所有者の責任に関する明確な法による定義の必要性、
車検を無視していた、とかならともかく、
自律動作が事故に結びついたのなら製造元や販売元の責任をまず問うべきじゃないかなあ。
でもどう使われていたかも問題になるか。
Re:随分と大雑把 (スコア:1)
自律動作が事故に結びついたのなら
結局、ここの判断でしょう。
・『自律』なんだから、環境依存でそういう動作が起こるのは当たり前
・何があっても、そういう動作自体が生じないように設計されているべき
前者は支持したくない(人が道具に合わせろといっても程度がある)し、後者は結局のところフレーム問題なんで間違いなく成り立たない。
さて、うまい落としどころは見つかるのでしょうか。
Re: (スコア:0)
> 自律動作が事故に結びついたのなら製造元や販売元の責任をまず問うべきじゃないかなあ。
そんなことはないでしょう。
「自立動作の状況を常に監視し、必要に応じて適宜手動操作に切り替え安全を確保する義務を怠った。」
とかいって100%運転者の責任と認定されると思われます。
Re:随分と大雑把 (スコア:2, 参考になる)
>> 「自立動作の状況を常に監視し、必要に応じて適宜手動操作に切り替え安全を確保する義務を怠った。」
>> とかいって100%運転者の責任と認定されると思われます。
自律動作なので「運転者」ってのは違うと思いますが…という話はさておき.
こういう判断をされちゃうと,せっかくの自立走行車が「運転免許証が無いと乗っちゃいけない」みたいになって,せっかく便利になるはずだった高齢者の生活が全く救われなかったりして,なんかすげーガッカリな感じがしますね.まぁ日本のお役所は間違いなくそういうガッカリな方向性の判断をするでしょけど.特に警察は(現状の駐禁制度と同様に)「自律動作だろうが何だろうが罰金だけは絶対に払ってね.金さえもらえば後はどうでもいいから」的な制度にするでしょうね.
#法的な責任問題とか以前に「日本では禁止」と言われてゲームオーバーの可能性の方が大かな.
無人航空機がロボットとゆーても (スコア:3)
兵装のトリガーは地上で管制してる人間のオペレータが操作するわけで、
指示された経路で飛んで指示されたように爆弾やミサイルを落っことすんだから、
火砲やミサイルとまったく変わらないのだけど。
自動で目標を識別して自動で攻撃まで始めるロボットとなると、それこそCIWSくらいなもの。
Re:無人航空機がロボットとゆーても (スコア:1)
ストーム・シャドウ [wikipedia.org]はen:Wikipediaの記述 [wikipedia.org]を見る限り、プログラムされた目的地に近づいたら自分で索敵して目標を攻撃し、もし見つからなくて非戦闘員を巻き込む危険が高い場合は指定場所に飛び去って自壊するなど、なかなか賢い自律行動をするようですね。
Re:無人航空機がロボットとゆーても (スコア:2)
> プログラムされた目的地に近づいたら自分で索敵して目標を攻撃し、
というだけなら対艦ミサイル一般や長射程の対空ミサイルなんかは割とそうで、
それらが倫理的人道的に問題だとかいう話はあんまり聞かないので、
「ロボットの倫理」の専門家にはまずロボットの定義をしていただきたいところ。
ロボット白熱教室 (スコア:1)
避けると罪のない動植物が大量に死んでしまいます。
さて、あなた(ミサイル)はどちらを選びますか?
Re:ロボット白熱教室 (スコア:1)
今ここで自爆する。
#自我があるロボットなら自爆機能の一つや二つあるだろう?
天琉陳(Teruching)
Re: (スコア:0)
そして大量の非戦闘員を巻き添えにすると。
# 状況がすべて提供されるわけじゃないのが現実。
Re:ロボット白熱教室 (スコア:1)
ここに大量の非戦闘員がいる、という情報があればそうならないでしょ。
# 後付の状況を出してくるのが空論。
倫理と制度 (スコア:2)
武器に対して倫理を説いても意味ないでしょ。
命と倫理を天秤にかけて倫理を取る人は相当少ないだろうし、それも飽くまで他人が作り出した倫理感だからな。
それに無人戦闘機が倫理的でないかどうかの判断も、倫理の問題にするとあやふやになると思う。
武器開発は攻撃距離と威力を突き詰めて、味方の損害を減らし敵の損害を増やすことが大方の目的。(かな?)
無人戦闘機はその最たるの一つで、自国民と自国兵士の犠牲を無くす超倫理的な武器だ。
有人機からの攻撃だけにしようとか言われても、傷痍手当ても馬鹿にならない。
持ってる国は、自国の倫理的にも金銭的にも使うべきという理論も成り立つだろうね。
若干役に立つのは条約(ルール)くらいかね。有人機からの攻撃しか認めないとか。守らないだろうけど。
人によって順番は異なるだろうけど、土壇場では大方の人が倫理なんて後回しにするでしょ。
例)こんな感じ?「命>信念>条約>倫理」とか「信念>命>倫理>条約」
個人の信念と公衆の倫理が合致するケースもあるとは思う。
特に宗教関係ならあるかもしれんが、その場合はそもそもその倫理感が他国とずれるだろうね。
生産ロボットについては、本当にロボットがラインを占領してしまうようであれば・・・
企業の生産量や売り上げに対して最低雇用人数と最低賃金を割り当てるとかかなぁ。
工場ラインを国有化するとあっという間に共産国の出来上がりだが。
元々仕事なんて食べる為の狩りみたいなものだし、それが十分あるなら後は倫理ではなく制度で分配するのが良い。
まぁ倫理とか宗教で、富める者が貧しい者に施しを行う地域もあるけど。(ある意味、宗教制度だけどな)
倫理って世論を動かす基礎にはなるから重要だけど、最終的に団体がそのように動くには制度・体制だよな。
世論で作り出すこともあれば、暴力で変えるときもあるが、どちらも結局は争いだ。
そういう事で今日も明日も世界中の表と裏で主権を握る争いが行われる。元気なことだ。プレデター1機買っといて。
#あかん、思考がループした。
Re:倫理と制度 (スコア:2)
原爆で無差別殺人したことを是とする国に
倫理なんて語ってほしくない。
Re:倫理と制度 (スコア:2)
> 原爆で無差別殺人したことを是とする国に
特攻なんていう常軌を逸した攻撃手段が
検討されるようになった段階で降伏してりゃ
原爆は落とされなかった。
特攻をするというのは「俺たちはクレイジーだぜ」と
いいふらしてるのと同然で、そんなことしたら
相手がどんな手段を使ってこようが文句は言えないな。
Re:倫理と制度 (スコア:2)
Re:倫理と制度 (スコア:2)
個人的な意見ですが、全くの無駄というわけではないと思っています。
ある群の中で平和に過ごしていく上では、身に着けておいた方が良いとも考えています。
しかし倫理には「有効範囲があること」、「普遍性が無いこと」を理解しておいた方がいいとも思っています。
そういう意味では、1つ上のACの言うとおり道具として扱われる事があることを知っておくべきと考えています。
有効範囲としては「教育」「民族」「宗教」等があるでしょうか?そのグループ内に適合する為には必要だと思います。
でもそのグループ範囲を超えた場合、同じ倫理感や価値観ではなくなる可能性があります。
現代日本で亡くなったイスラム人を丁寧に火葬にしてあげたつもりが、酷い弔い方だという事で問題になった事があったかと思います。
有効範囲を外れれば倫理観は意味を持たなくなったり、間逆にさえなるケースがあります。
普遍性が無い事については、「印象操作」や「考え方が変わる」などの例があるでしょうか。
「人類同士で殺しあってはいけない」という倫理感の隣で「いじめの加害者は殺してしまえ」などと発言されたりします。
範囲を全体にした場合と、被害者側に焦点を絞った時で感覚が変わるかと思います。
(倫理観が変わるというよりは倫理感を吹き飛してしまう事例?民族紛争での正義感や大義と近いと考えて頂ければ;)
人の考えが変わる事については、昔の日本の火葬、今の日本の火葬の考え方の様に時代的なもの。(昔は火葬が残酷な処理だと考えられていた)
また、一人の人でも、状況の変化によって価値観が変わり倫理観が変わることもでしょうか。
例えばロリコン云々の件で、10年前はアニメを見て萌えといってた人が、結婚して娘が生まれてロリコンを規制しろと言ったとします。
守るべき大事なものが自由表現から娘に変わった為に、規制をすることが倫理と感じるようになることは当たり前かと思います。
(別に無関心だった人に娘が出来て・・・、でもいいのですが極論のほうが分かりやすい?)
個人的には上記の考えでいるので、倫理や正義などは一般論や多数派意見と余り違いが無いものとして扱っています。
倫理を語る人には、その結論に至った理由を自分の意見としていえない場合は侮蔑しますし、言えても方向性が違えば尊敬をもって争います。
そして軽度に争っていられる状態が大きな視点からすると、健全な状態なんだと感じていたりもします。(歪んだ倫理感か?)
#私は大衆の正義なんてものは余り信じないが、個人の強い意志や正義は尊重する「Chaos-Light」属性(?)です。
#ロボット倫理に対しては、大衆の世論を操るには有効な手段だが、それで欲深い権力者達を止め切れるかな?といった感想。
#ロリコン規制問題については、規制はされず自由な状態で、規制派と反対派が争い続けるのが理想と考えていたり。。。
#子供には自分の正義を教えるしかないが、本当に正しいか悩みつつなので叱るときは自分も苦しい、というのがいい。(マゾか?)
Re:倫理と制度 (スコア:1)
当事国の無人機同士が無人のエリアで戦って、
負けた側は相手の要求を飲むようになれば平和的でいいじゃない。
今はこの過渡期みたいなもんであってほしいね。
#そんなSFがあったような気もする。
もちろん、負けを認めずに、ロボット相手に、自国領土で最後の一人まで戦うのもいいのかもしれないけど。それはその国の人達が決めることだ。
by rti.
Re:倫理と制度 (スコア:2)
個人的にはそれも書こうかとおもったのですが、無理だと思い直しました。
昔、バーチャロンで初めてそういう考え方を知りましたが、あれは企業国家という設定だから損得的に成り立ってるのかな?(実践もありますが)
で、それと同じく無人地帯でロボット同士を戦わせ、勝ち残った方は残存のロボットで攻め込むぞと脅せば成り立つかなと。
でも人間ってそれで戦いをやめるでしょうか?ロボットを持っていない国は一方的に蹂躙されるでしょうか?
恐らくそんなことは無いかと思っています。理不尽に扱われるよりも戦って死を選ぶ人が相当数いるかと思います。
理屈は分からないのですが人間には「こいつとは一緒に居られない」という感情が沸くことが何故かあるんですよね。
歴史上でも、生きる為だけなら降伏でも奴隷でもいいだろうのに、或いは良い待遇を提示されたとしても抵抗することがあります。
これは人というより、群れをつくる動物の性質・本能の一つなんでしょうかね?
Re:倫理と制度 (スコア:1)
今はロボットを持っていない国と持っている国があります。
ただ、ロボットの優位性は間違いないと思います。
それであれば、他の国もロボット化を進めると思います。
それで、もし、すべての国がロボットを保持したとした未来を考えました。
前線のロボたちが戦って、そこを突破されたら、本土に乗り込まれる前に、停戦するのではないのでしょうか。
もちろん、本土決戦をして最後の一人になるまで戦う、起死回生を狙うという選択肢もあります。
もし、(相手国が民主国家だとして)それをその国の国民が願うのだったら、それはそれでいいと思いますけどね。
by rti.
Re:倫理と制度 (スコア:1)
つ『真夜中の戦士』(永井豪)
#と、思ったけど、あれは国家の戦いではなかった。
つ『スカイ・クロラ』(森博嗣)
#存在自体がホラー
Re:倫理と制度 (スコア:1)
あのコメントは、ヤマモトヨーコを思いながらかいたった。
だけど、ヤマモトヨーコのバブルボートシステムってどこにあるんだったけ?戦闘機のコックピットを異次元に分離していたような気がする。
それであれば、無人といえるのかな?
半無人みたいな感じかな・・・?
by rti.
日本が昭和の時代に通り過ぎたところ (スコア:1)
タレコミ人は鉄腕アトム読んだこと無いのか?
ψアレゲな事を真面目にやることこそアレゲだと思う。
新ロボット三原則(軍事用ロボット向け) (スコア:1)
退かぬ!媚びぬ!省みぬ!
北斗の拳の聖帝サウザーだっけ?
Re:新ロボット三原則(軍事用ロボット向け) (スコア:1)
兵器:「こんなに苦しいのならば悲しいのならば愛などいらぬ」と慟哭し、一切の愛を否定
司令官:「哀しい男(兵器)よ だれよりも愛深きゆえに」
倫理 (スコア:0)
なんか「ロボットの倫理」って言うより「戦争の倫理」について考えるべき
Re: (スコア:0)
まるでロボット自身の倫理観が問題になっているみたいな感じがします。
このインタビューにある軍事ロボットとは自律行動をとるものではないですよね。
結局のところ遠隔地に操縦者がいて攻撃をしかけるなら、命令を下す軍上層部の
倫理観が問題になるだけなのではないかと。
#完全自律思考するメイドロボの倫理観だったらそれは大問題だ
#何だか妙にロボットづいてる今日この頃
Re: (スコア:0)
>何だか妙にロボットづいてる
ロボットレストランですね。わかります。
Re: (スコア:0)
戦争の倫理は、「戦争してはいけません」ということです。以上。
誤解のもと (スコア:0)
は、学生ロボットコンテストだ。
あれがロボットだと思われてるからみんな混乱しているんだ。
# 自分の前にスペースがあるという事が何を意味するのかよく考えてくれ。歩くときも、車に乗っているときも。
学生ロボット (スコア:1)
たとえばケガで入院中でも、かわりに大学に行ってくれて
欠席せずに受講できる、身代りロボット。サークル活動も!
あるいは、学生服を着て、なぜか下駄を履いてて、
Re:学生ロボット (スコア:1)
卒業後はあなたの生活すべてをあなたに代わって行います。あなたは存在する必要ありません。
Re: (スコア:0)
つまり一生遊んで暮らせると
Re: (スコア:0)
遊ぶのもロボットです。
Re: (スコア:0)
要らないものは処分するべきでしょうね。無駄だし。
Re: (スコア:0)
あなたの経済力は、親が買い与えてくれるロボット次第です。
Re: (スコア:0)
もうお約束な返事をする気もありません。
Re:誤解のもと (スコア:1)
>自分の前にスペースがあるという事が何を意味するのかよく考えてくれ。
隣の車線から車が急に割り込んでくる可能性があるって事です。
#危険運転することが上手なことだと思ってる連中多すぎ。
ψアレゲな事を真面目にやることこそアレゲだと思う。
そもそも無人攻撃機はロボットじゃないだろ (スコア:0)
現在、米国では軍事用ロボットの導入が進んでいる。無人での爆撃を行える無人航空機などもロボットの一種と考えることができるが、
できねえっての。
プレデター [wikipedia.org]やリーパー [wikipedia.org]に代表される無人攻撃機は、
いわゆる「超大がかりなラジコン飛行機」みたいなもの。
対象を攻撃するかどうかの最終判断は操縦室のオペレーターやその上司の判断で行われる。
決して無人機がプログラムなどで機械的に判断して攻撃しているわけではない。
Re: (スコア:0)
>> できねえっての。
の根拠が
>> いわゆる「超大がかりなラジコン飛行機」みたいなもの。
だとすると,鉄人28号とかマジンガーとかサンライズ系譜とか全て「ロボットの一種と考えることはできない」ということになりますが?いつからロボットの要件に「自律動作」が入ったのでしょうか?
Re:そもそも無人攻撃機はロボットじゃないだろ (スコア:1)
だとすると,鉄人28号とかマジンガーとかサンライズ系譜とか全て「ロボットの一種と考えることはできない」ということになりますが?
うん、ぶっちゃけその通りなんだけど。
マジンガーZは「人間の形をした機械」ってだけで、人間が操縦しているという点では自動車や飛行機と同じでしょ。
あなたは街を走る自動車を「ロボット」とは呼ぶ?
たとえば、兜甲児がトチ狂ってマジンガーZで町を破壊し始めたら、それはあくまでも兜甲児が原因であって、
マジンガーZの倫理とか一切問題にならんよね。
要するに、アニメや漫画といった娯楽作品における「ロボット」と、現実世界で運用されている「ロボット」は別物って事だよ。
前者は「人間っぽい形をしている、メカメカしたもの」ならば「とりあえずロボット」と呼んでも文句は言われないだろうけど、
現実世界で人間社会に影響を与える「ロボット」の定義は厳密でなくちゃならないわけよ。
オフトピ (スコア:1)
このストーリーでは「ロボティック乗り物」をロボットから除外した方がいいとは思います。よって以下オフトピです。
しかしながら、実際ロボットの厳密な定義は厄介ですよね。現実世界の国際宇宙ステーションに搭載されているカナダアーム2 [wikipedia.org]とか、人間が操縦してると思いますがロボットアームと呼称されていますし。
en:Wikipedia [wikipedia.org]なんか"There is no consensus on which machines qualify as robots..."とかぶん投げてるし。
# ところで、「ある程度の命令の範囲内での独立稼働が可能な自律思考回路も備えている」 [wikipedia.org]鉄人28号を敢えてスルーしましたね?:)
Re: (スコア:0)
それでは自動小銃はロボットということになるが、それでもよろしいか。
まだロボットに倫理を (スコア:0)
教えるほどハードが進化してません
残念ですが
あ、とっちかと言えばソフトが?
でも人間でも倫理的に問題が無いヤツが多いよなw
Re: (スコア:0)
では、神の教えを勉強して見ませんか
たとえば簡単な例で。。 (スコア:0)
スマホで操作できるヘリを、夜の露天風呂付近で飛ばすとか。。ヤバイと思います。。
ロボットに子供を生ませるかどうか (スコア:0)
ってアニメがあった
Re:ロボットに子供を生ませるかどうか (スコア:1)
でもって、デブ・禿の博士がこっそり赤ちゃんロボットを二人の元に届けるんですよね。
人間も実は・・・ (スコア:0)
別のシステムによって遠隔操作されていたりしたらどうしよう。
Re:人間も実は・・・ (スコア:1)
いつから自分の脳が自分の体を動かしていると錯覚していた?
#あの話は受動意識仮説というのか
#存在自体がホラー