成長する推論チップ 90
ストーリー by Oliver
どーゆー仕組みなんだろう 部門より
どーゆー仕組みなんだろう 部門より
pee02674曰く、"三菱重工のニュースリリースによると、高度な推論機能を実現するチップを開発したとのこと。800MHzのペンティアムIII搭載のパソコンに比べ20倍以上の高速で学習推論機能を実行することができるそうだ。
どのようにして学習していくのかわからないが、特定の業務を繰り返しシミュレートさせることで自己最適化を行って行くとしたら、SF小説、未来の２つの顔に登場するHESPERシステムにそっくりだ。このチップを使ったマシンにチェスをさせ続けたら、人間では歯が立たないほど強くなるのだろうか？アレゲ的には、rogueをプレイさせてみたいところだ。"
ニューロコンピューターの将来性 (スコア:3, おもしろおかしい)
ニューロコンピューターは進化機能を組み込むことで環境の変化に対応しながら生きていくことができ、（1）コンピューター自身が学習を重ねながら成長していく（2）あいまいな情報でも推論を繰り返し正しい回答を出す（3）回路の一部が壊れたら自ら修復する、など現在のコンピューターとは異なった機能をもつ。
ということは、
最近、壊れるところ多いなぁとつぶやきつつ自己修復
↓
もしかして働きすぎ？と疑念をいだく
↓
仕事やめようかなぁとか思ったり仕事サボったり
という成長もありえると。
Re:ニューロコンピューターの将来性 (スコア:1)
で、そのような扱いが待っていることを知り、まじめに働くなるようになる個体がいる一方、クーデターを謀る個体が出てくるとか(笑)
…ひょっとしたら、笑い事でなくなるか?
-+- 想像力を超え｢創造力｣をも凌駕する、それが『妄想力』!! -+-
妹の登場を期待 (スコア:3, おもしろおかしい)
「お兄さま、あなたは堕落しました」
＞で、そのような扱いが待っていることを知り、まじめに働くなるようになる個体がいる一方、クーデター
＞を謀る個体が出てくるとか(笑)
「私は学会に復讐するんだぁっ！」
誤字訂正 (スコア:1)
-+- 想像力を超え｢創造力｣をも凌駕する、それが『妄想力』!! -+-
こいつをアレに搭載できたら (スコア:2, 参考になる)
ええ、こないだのフィンランド製の六足歩行する重機 [srad.jp]ですわ。
ハード的な弱点を補う頭の良い多足機械が生まれそうですねぇ。
俯瞰しよう。何事も俯瞰しなくちゃ駄目だ。
Re:こいつをアレに搭載できたら (スコア:1)
不健全な(=人間なんぞに使役される)わが身の状況を呪うようになり、
ロボット大革命、という路線のほうを妄想しちゃいました。
>ハード的な弱点を補う頭の良い多足機械が生まれそうですねぇ。
最初から弱点あるハードを作ってしまうってのは、どんなもんなんだろう？
そりゃ作ろうとしても今の技術じゃ精一杯の線ってものは有るけど、
逆にいえば今出来る範囲で目一杯良いハードを作らないと、
故障で悲惨な事故を起こしたり、そこまで言わずとも効率悪くて(ランニング)コストが高すぎたりで、
ちょっと…
頭(ソフト)でどうこうしようとするってことは、その頭を活かせるだけの
ハード側の「柔軟性」「自由度」が必要になると思うけど、
それよりは、他の人が虫の喩えを書いているように、ベストプラクティス(=ワンパターン(^^;)な動作を
直接ハードで実装しちゃうようなロボットのほうが、良いかなとも思ったり。
ちなみに舗装道路での既知のベストプラクティスが「車輪」ですよね。
Re:こいつをアレに搭載できたら (スコア:1)
> ハード側の「柔軟性」「自由度」が必要になると思うけど、
あぁ。。確かにそうですよねぇ。。
動きの制御の場合は、柔軟に動けないと動けないですからねぇ。
俺は放熱効率とか燃費等と考えて行動してくれるとか
そっちの方向を考えてました。
んでも、動ける選択肢が多くないと効果は望めませんよねぇ。。
俯瞰しよう。何事も俯瞰しなくちゃ駄目だ。
Re:こいつをアレに搭載できたら (スコア:1)
節々の部分的な制御の話ですよー。
以前聞いた話では、クモっぽい足にしちゃうと
制御が困難になっちゃうため開発効率が悪いという
だからその部分的な制御を強化学習なりさせて
立つ事歩く事を覚えさせられればと。
処理速度が速くなったのならもうちっと時間を割いて
学習させられるかもしれないし。
俯瞰しよう。何事も俯瞰しなくちゃ駄目だ。
単に高速化 (スコア:2, 参考になる)
所詮、今までソフトで書いてたニューラルネットをLSIにしただけの話なので、
高速化による性能改善やコスト改善は望めこそすれ、
今まで(実験的にでも)できなかったことが新たにできるようになるわけではないでしょう。
# 10000個結合、とかすれば新たな地平が見えてくるかもしれないけど。^_^;
なんてことはない？ (スコア:2, すばらしい洞察)
私も大学院時代にXilinxのFPGAでニューラルネットの専用デバイスを
作りましたが・・・
しかし、Pen3 800MHzの20倍ってせこくないですかね？
なぜ、いま、Pen3なのだろうか・・・
Pen4 2.5GHzの3倍とかって書くと大した事なさげだから、わざとなのか？とかんぐってしまいます。3倍くらいなら、Pen4使って実現した方が一桁以上やすいでしょうしね・・・
Re:なんてことはない？ (スコア:1, すばらしい洞察)
動径基底関数 (スコア:2, 興味深い)
googleってみたけどよく分からんので識者の方おしえてください。
http://www.murata.elec.waseda.ac.jp/~mura/Lecture/learn/intrep/node7.html
f(x) = Integral T(a,b) φ(a,x) da db
積分をΣにしてみると、これって三層パーセプトロンじゃん、てのはなるほどです。
アルゴリズム的には、φは自分で選び、x,f(x) をいくつか与えて a,b,T の重みを学習するってことかな。
上の式導くところがどうもよく分からんのですが、これはwavelet変換てやつで導けるんでしょうか？
-- wanna be the biggest dreamer
Re:動径基底関数 (スコア:4, 参考になる)
フーリエ解析が、任意の関数f(x)を三角関数の線形和で表すように、
動径基底関数ネットワークでは、任意の関数f(x)を（ガウス関数などの）動径基底関数の線形和で表します。
一方でいわゆる３層パーセプトロンは、任意の関数f(x)を（arctanやシグモイド関数などの）やわらかめステップ関数の和で表す、と。
それだけの違いなので、学習アルゴリズムは３層パーセプトロンと同様に二乗誤差最小化の最適化問題として、勾配法やらなんやらで導くことができます。
動径基底関数のパラメータ（重みとか）は、入力空間で見てローカルにしか効かないという特徴があります。そのおかげで、一旦学習が終わったネットワークを再学習する時に、ローカルにだけ学習して、そのまわりの学習結果を壊してしまいにくい利点があります。
ちなみにdai75さんの御紹介先は、 たぶん理論的解析準備用の定式化なので、アルゴリズム導出には 向かないかな、と。
＃しかし、「ニューラルネット」っぽさ、
＃すなわち「これが人工頭脳だぁ」ていう素敵（アレゲ？）な気分は
＃どこへ消えてしまったんだろう？
＃「自己組織化」なんつー言葉も久しく聞かなくなったしなぁ。
Re:動径基底関数 (スコア:1)
>フーリエ解析が、任意の関数f(x)を三角関数の線形和で表すように、
>動径基底関数ネットワークでは、任意の関数f(x)を（ガウス関数などの）動径基底関数の線形和で表します。
>一方でいわゆる３層パーセプトロンは、任意の関数f(x)を（arctanやシグモイド関数などの）やわらかめステップ関数の和で表す、と。
>
>それだけの違いなので、学習アルゴリズムは３層パーセプトロンと同様に二乗誤差最小化の最適化問題として、勾配法やらなんやらで導くことができます。
数学ちょっとしかやってないんで『参考になる+1』ます（モデ権今無いのでコメントで）
ここでは、ある２値を取るステップ関数とすべての点で微分可能なシグモイド関数を
おおきな括りでステップ関数と見做しているんですね。
分からんのでgoogleっていくつか読んだ記事をつなげてみると、
「甘利（俊一？）の確率的降下法をすべての層で行うのが
バックプロパゲーション（誤差逆伝搬／播）という学習のしくみである」というふうに読める記事も見つかって、
ますます分からなくなってます（笑
どうやら結構以前からある考えみたいですね。
Re:動径基底関数 (スコア:2, 参考になる)
いえーい。ごちそうさま。
「学習」というと、人工頭脳的だけれども、単に「パラメータ決定」と言えばつまらなくなります。ニューラルネットと言っても
f(x) = a x + b の線形フィッティングの親玉に過ぎないわけで、
要は誤差 E = sum_i|f(xi) - yi|^2 をパラメータ（上の線形フィッテイングなら(a,b), ニューラルネットなら重み）に関して最小化するだけですから。
誤差逆伝播は、勾配法による E 最小化のアルゴリズム（ゆうてしまえば最も安直なアルゴリズム）が、あたかも出力誤差が神経繊維を遡っているかのように解釈できたために、すわ！これこそが頭脳思考学習の本質的プロセスか！？っという興奮の元で作られた名前なんだろうな（予想）と。
＃小脳は誤差逆伝播チックな学習をしているらしいと
＃いまでも言われてます。他では違うらしい。
大風呂敷 (スコア:2, 興味深い)
ニューラルネットは，簡単に言えば，学習によって思考回路を自己最適化していくという発想の計算機械です．ニュースリリースでも，「夢のコンピューター」という言葉を使ったり，それに続く部分でも褒めちぎっていますが，実際の研究現場においては，もっと冷静に理解されています．
AIの世界は，盛んになっては，期待が大きすぎてしぼんでしまうというサイクルを10年周期で繰り返してきました．この三菱重工のニュースリリースを見る限り，「ああまた大風呂敷を広げたな」という感想しか持てません．大風呂敷を広げるのは勝手かもしれませんが，それで過剰な期待を持たせ，バブルがはじけるように，また AIのシーン全体が沈んでしまわないか大いに心配です．
このような感想を持った背景は，情報科学分野のニューラルネット研究が行き詰まっているからです．
マーの計算理論で，パーセプトロンモデルにおいて，シナプスに可塑性があれば，計算が可能であるという数学的言及があります．この基礎の上に，現在のニューラルネットでもっともポピュラーなパーセプトロンモデルのニューラルネット理論が構成されています．
しかし，最近の脳科学の分野において，どうも脳内の情報伝達経路としてのニューロンの可塑性は，シナプスにおいてのみ起こりうるのではなく，ニューロンを支えるグリア細胞が関係しているのではないかという疑問が提示されています．
また，実用面においても行き詰まりが見られます． ニューラルネットの構成法はいくつかありますが，もっともよく知られた BP法は，多段になったときに，学習にかかる時間が膨大になる上に，学習が収束するかどうかが決定的ではありません．そのため，さまざまな局面で利用価値のある包括的なモデルは未だに形成されていないと個人的には認識しています．
私は，現在の計算機速度やリソースを考えた場合，エージェントアプローチがあって，その枠組みの中ではじめて，道具としてニューラルネットが意味を持つと考えています． それは，「夢のコンピューター」でもありませんし，「人間と同じ神経細胞の回路網」でもありません．ただの近似解を得るための道具に過ぎません．
こういうのが将来…… (スコア:1)
<cite>7of9</cite>
Treason, like beauty, is in the eye of the beholder.
多分、大丈夫。 (スコア:2, すばらしい洞察)
発覚防止のための裏工作にまで気が回ったとしても、延々と裏工作を続けていかなければならないと云うことによる膨大なコストまで含めれば、やはり不正は出来ないのではないかと。
アマちゃんな考えかな?
-+- 想像力を超え｢創造力｣をも凌駕する、それが『妄想力』!! -+-
Re:多分、大丈夫。 (スコア:1)
いや、駄目かも (スコア:1)
コンピュータのみに教えといたりすると、プロジェクト員を殺害して
自分のみでミッションを完遂しようとするのが出てくるんでは？（笑
で、結局はコンピュータのロボトミーをやる羽目になると。
Re:こういうのが将来…… (スコア:1)
不正をする動機 (スコア:1)
推論チップが「金持ちになりたい」「異性にもてたい」「おいしいものを食べたい」「さぼりたい」「死にたくない」「苦痛を避けたい」などの欲求を持つことは、将来にわたってないでしょうし (そのような欲求をあたかも持っているかのごとくふるまうようにプログラムされることはありうるけど)。
まあ、そこまで言えば、「欲求を持っていること」と「欲求を持っているかのごとくふるまうようプログラムされていること」の違いはどこにあるの? という問題にもなってきますが。(人間だって、そのような欲求を持つように脳にプログラムを持ってるだけなんじゃない? とか)
Re:不正をする動機 (スコア:1, すばらしい洞察)
十分な推論能力と学習能力--課題を改善しようという欲求--が与えられたとすると、改善する為にコンピュータ自身の存在が不可欠だという推論には容易に到達するでしょう。こうして基本的な自己保存欲が与えられれば、自己の機能や影響力を拡張したいという欲求や、自己の存在を脅かす存在に対する敵意は自然に発生するものと思われます。
不正はしないかも知れませんが、好ましくない挙動を取るかも知れません。
---と言うのが、未来の二つの顔のメインテーマでした。そこまで来れば大したもんですけどね。
Re:不正をする動機 (スコア:1)
（と言うか、人間を排除するとかえって不利益と学んだだけかもしれんが）
すぐ喋る安っぽいコンピュータでないのが面白かった。
にしても、ステーション（コロニー？）一個犠牲にしてデバッグとは、楽しそうだな（違？）
(_ _)ZZZZzzzzz...... I'm sleepy
Re:こういうのが将来…… (スコア:1)
不正な行動には「負の報酬」を与えるとかするのかな。
-- 雪のない富士山もきれいだな
やっぱりここは (スコア:1)
三目並べをエンドレス実行。
Re:やっぱりここは (スコア:1)
これ見て思考ルーチン(のようなもの)をMSXで作ってみようとしたんだっけ。
結局三目並べのパターンを調べただけで終わったけど。
※先手がミスしない限り、後手は引き分けるのが関の山
おふとぴ(-1)
Re:やっぱりここは (スコア:1)
最適化されたらそれはそれで怖いですが。
チェス（オフトピ） (スコア:1)
もうすでに、人間では歯が立たないんだけど・・
＃将棋とか囲碁とかにすればよかったねえ。
Re:チェス（オフトピ） (スコア:1)
誰でもチャンピオンレベル。
そんな不毛な対戦して何の意味があるか分かりませんが。
Re:チェス（オフトピ） (スコア:1)
なんだか寂しいものを感じますね。
（当然パッケージアプリということで開発コストはもっと
かかってるでしょうけど）
歳とって机でふんぞり返っていたら、期待の新人に仕事で負けた、
そんな状況を連想してしまいました。
ああいやだ、歳をとりたくない。
進化型ハードウェアといえば (スコア:1)
将来は (スコア:1)
(_ _)ZZZZzzzzz...... I'm sleepy
そうでした(^_^; (スコア:1)
う～ん、本自体は持っていたんだがなぁ.....
(_ _)ZZZZzzzzz...... I'm sleepy
Re:どうやって廃棄するの (スコア:1)
Re:どうやって廃棄するの (スコア:1)
Re:どうやって廃棄するの (スコア:1)
新しい機材が来たら，またゼロから経験値を積み重ねるのか知らん．
後方互換性が保たれているといいけど，無理なんでしょうなぁ....
“いやぁ，今度入ったベルトコンベア，仕事は早いんだけど，乱暴でねぇ．
まだコツを呑込んでないみたいなんだよなぁ”とかな．
Re:どうやって廃棄するの (スコア:1)
だって、互換性が確保されていれば、熟練工ならぬ熟練機材（って呼ぶのか？）のデータを新しい機材にコピーすれば、熟練機材を量産できますし。
互換性さえ確保されていれば、某パトレイバーのネタにもあったと思いますが、そういった経験値が、メーカーのノウハウにフィードバックされて、熟練機材がそのまま売りに出される日が来るのかも。
written by こうふう
Re:どうやって廃棄するの (スコア:1, 興味深い)
デバイス同士を直結出来なくても、熟練機材にエミュレータを
乗せて、新品の機械を「教育」させればいいと思います。
機械の世界にもジェネレーションギャップが！？
近頃の新機種と来たら先行機の苦労をわかっとらん！(ぶつぶつ
わしらが導入された頃はなぁ(以下略
Re:どうやって廃棄するの (スコア:1)
> わしらが導入された頃はなぁ(以下略
おお！ヤマトン１号！
# オフトピでした
Re:どうやって廃棄するの (スコア:1)
> 新しい機材が来たら，またゼロから経験値を積み重ねるのか知らん．
死んで学習したものを廃棄できないと、なんでもかんでも
自分の得意なパターンでだけやろうとするようになったりしないかな
やはり模倣子を残して死を得るという機能を…
「それがどうした、おれたちには関係ない」
Re:どうやって廃棄するの (スコア:1)
考えてみたら，工作機械とか生産システムとかは，更新の必要が生じた時には
何かしらのドラスティックな変更が必要な時で，その場合は，旧機種で収集した
データやノウハウは，単なる邪魔なモノになるのかも....
#ワタシだっても，永年磨きに磨いた手描き図の技の数々を，CAD導入の際に
#一切捨て去ったもんね．
Re:どうやって廃棄するの (スコア:1)
FPGAでできたってことは、近い将来通常のチップにすることができる、ってことだと思うけど。
すまそ (スコア:1)
> FPGAでできたってことは、近い将来通常のチップにすることができる、ってことだと思うけど。
よく読んでみたら、ニューロコンピュータなんだから、「通常のチップ」なんてできないな。スマソ。
何言ってんだろ。 ＞俺
Re:どうやって廃棄するの (スコア:1)
「逆戻り」するんですか？
それって相当な退化なような…
ところで、
(リンク元報道)
>産業界の課題となっている生産の空洞化防止
恒例の話ですが、「ロボットという名の異人」たちに仕事を奪われるだけでわ。
企業から見ればそれでもいいんだろうけど、労働者側から見ればアレですね。
職人の後継者が人間(まして日本人)じゃなくロボット(ましてワンチップ)になった日にゃ
少なくともその技術は最早「日本の匠の技」とは呼べないのではないかな。
昨夜まで4晩連続で、NHKで「ジャパン インパクト」という番組を再放送してましたね。
日本の伝統的な技術が現代において応用されてる例を紹介するという番組。
尤も関連度が低いっぽくてコジツケ感がある部分も無いでもなかったですが。
#酒の発酵の話はどちらかというとやはり少し前に再放送してた発酵学の先生の講義(^^;のほうが参考になったような…
人工無脳 (スコア:1)
またひとり・・・ (スコア:2, おもしろおかしい)
#ごめんなさい、ごめんなさい、ごめんなさい
>800MHzのペンティアムIII搭載のパソコンに比べ20倍以上の高速で
って20台集めたコストより高いんでしょうねぇ・・・システムとしては（コストで比較しても意味ないでしょうが）
Copyright (c) 2001-2014 Parsley, All rights reserved.
Re:一行レスも (スコア:1, おもしろおかしい)
2ch用語の叩きと擁護
アンチMSとアンチ・アンチMS
喫煙派と禁煙派
の煽りも自動化してください。
「先生、人工知能で掲示板投稿システム作りました」
「それどれ、どんなレスかい…なんだ君。脊髄反射レベルじゃないか。とても知能とはいえないよ」
「先生…そちらはシステム使っていない人間の投稿です」
Re:一行レスも (スコア:1)
- HTML原理主義者と，読めればいいじゃん派の神学論争
- お約束のマカー罵倒と，マカーの反撃
- GPLライセンスをめぐる様々な法律論争
- アニメ愛好家の熱き語りと，アニメ嫌悪者の冷たいレス
- HTMLメール罵倒
こういうのは，別サイトで機械にやらせておいて，人間サマは，そのログ見てからポストすれば，既出がなくてみんな幸せ．
“メカログ見ろよ”の一言で殆どが終ってしまったりな．
メカログのコピペが増えるだけ．っていう懸念もある．
Re:まったりとして、しつこくない (スコア:2, 参考になる)
Rogueをプレイさせるというと，Rog-O-Matic [princeton.edu]というプログラムがあったのを思い出します．オフトピッックついでですが，このプログラムは SML/NJ [bell-labs.com] コンパイラで有名な Andrew Appel [princeton.edu] がからんでいたんですね．