パスワードを忘れた? アカウント作成
1241 story

テラへ-クラスタマシンの性能報告が続々と 37

ストーリー by wakatono
まだまだ続く飽くなき性能への挑戦 部門より

oltio 曰く,"Top500という 高性能計算機の計算能力ランキングリストの締切が10月1日にあったせいか、 ここ数日の間にいくつかの企業・研究所などから、計算機性能の向上を 伝えるプレスリリースが相次いでいる。"

"NECが今回発売を発表した SX-6は、最大8テラFLOPSをうたっている。 産総研生命情報科学センターのMagiシステムはPentiumIII933MHz を1040個使用して、 654ギガFLOPSというニュースがBizTechで流れている。 来年3月で終了するRWCP のSCoreIII(前回36位,547ギガFLOPS)は、 今回Top500合せでの数値はまだプレスが出ていない。 最終成果展示発表会 の準備で忙しかったのだろうか?

身内ながら、 東工大松岡研では今回AthlonMP256個使用で331.7ギガFLOPSを達成。 写真を見るとわかるが、最大の障害は“熱”だった。 組み立て工程では学生が何人も徹夜し、故障ノードがボロボロ出る。 手作りPCクラスターってのはやはり大変なようで。"

ぐんぐん上がる処理性能、どこまで上がるのだろうか…その終わりはまだ、見えない…

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by seldon (5637) on 2001年10月05日 1時37分 (#26948)
    写真を見るとわかるが、最大の障害は“熱”だった。
    そりゃケース開けっぱなして扇風機でかき回してたのでは熱が問題になるでしょうね。
    前方吸気、後方排気で、CPUの発熱がケース内を回らずに直ちに外へ排出されるような、熱設計をちゃんとしたケースを使って、前面に空調の冷気を当てて、後方から排気された熱を室外に逃がす(or空調の空気取り入れ口に戻す)ような形でちゃんとやれば、256プロセッサぐらいで熱が問題になる事はあんまり無いんじゃないかなぁ?
    データセンターなんか、その何倍ものCPUをラックにパンパンに詰めて運用してる所もあるんだから。
    手作りPCクラスターってのはやはり大変なようで。
    PC自体も手作りという前提だったら、そういう熱設計に優れたケースがリーズナブルな価格で手に入るかどうかでしょうね。
    価格だけ考えれば、下手に自作するよりメーカ製の安いサーバマシン買ったほうが安かったりして...

    ところで、これおいくら?(^^;

  • CPUだけとかならともかく、そこまで冷やしちゃうと HDDのモータとか動かない部品が出るんじゃない?

  • 東工大松岡研PrestoIIIスペック表から拝見した勝手な計算ですが....
     TyanTygerMP 30000円
     AthlonMP1.2Gx2 44000円
     DDRメモリ(128+256) 16000円
     HDD 15000円
     電源付ケース 8000円
     NIC1枚 2000円
     NICもう1枚 Myricom Myrinet2000 15万円(この値段であってるか自信無し)
    合計265000x128=3392万0000円
    LANケーブル・ネットワーク機器・扇風機(笑)を入れると、もう+α

    電気代の方は、
    AthlonMPであることを考慮して控えめに見積もってもDual1ノードで150W。
    128ノードなら19200W。
    24時間年中無休で稼働させたら電気代は年間420万円(1KW=25円換算)。

    手作りPCクラスタは人件費除けば、費用対効果は凄いですけど、
    その分、電気代が重く感じる...

    で、これで何をされるんでしょう?

    生命情報科学研究センターの、
    Magi Cluster
     手前から半分が Caspar(分子情報科学)
     奥半分が Balthazar(細胞情報科学)
     奥半分が Melchior(アルゴリズム、数理モデル・知識表現)
    は、なんともはや(笑)
  • Myricom Myrinet2000ってなんだろう?何故こんなに高額なんだ?

    と思ったのでGoogleで調べてみました。
    http://www.hpc.co.jp/Parallel/Myrinet2k.htm
    http://www.myri.com/
    もう、ただただあっけに取られるばっかりです。(笑
    --
    φωφ)/
  • by take0m (4948) on 2001年10月05日 16時22分 (#27121) 日記
    ここにもリリースされています。こっちは、HPのデスクトップPCを225台つないで、Linuxでクラスターです。500位に入ったというからすごい・・・

    1台あたりのスペックは、Pen3の733に256Mメモリに、15GBのHDDだそうだ。今なら、5、6万で自作できそうだなぁ。

    この記事によると、同様の取り組みを行っているグループが世界で60くらいあるそうで。考えることはみんな一緒だなぁ。でも60もPCでスパコン作り出したら、それはもうスパコンじゃあないような気もするなぁ。

    でも、人件費考えたら、スパコン買った方が安いのではないだろうか・・・
  • by take0m (4948) on 2001年10月06日 15時08分 (#27262) 日記
    そう、SXもリースですよね。
    スパコンといえども、数年でゴミ状態になる現状を考えると、もしそのスパコンで計算する処理が非常に経済的に意味のあるものであれば、そういうことかとね。
    50人で12ヶ月で開発したら、600人月じゃないですかぁ。人件費だけで6億円ですよ。それなら、同じ人件費掛けて作ったマシンを、複数の企業に販売してコストを分散させているメーカー製のほうが、下手すりゃ安い場合もあるのかなぁと・・・
    特に自作マシンの設計製造中は、何も意味のある計算をできないところが、+のはずがマイナスばかりで、12億くらいの損失になっちゃう気がしているのですよ。
    もちろん、作ることに意味のある、理学と工学の学際的なプロジェクトならそれがBESTなんでしょうけどね。これうちの学校でもやっていましたね。工学部が自作スパコン設計して、理学部が利用するみたいなの。
  • ここはやっぱり「液体窒素」でしょう。(^^;
    マシン全体を漬けこめば、マシン速度の究極を得られるかも。

    お値段も究極になりそうですが(^^;;;

  • 特別損失に計上されたスクウェアの映画ですが。
    #個人的には、面白かったし、DVDでたら買うよ。
    1000台程のレンダリングマシンで3年間かけて作ったそうですが、マシンはどこかのオークションに出されるのかな?

    #日本では速いマシンって、当たらない天気予報ぐらいにしか使われてない(暴言)にくらべれば、ファイナルファンダジーの製作に使われたマシンは歴史に残したい!名前はなんていうのかな?
  • CPUも77Kとかに下げちゃうと動かないのじゃ?

    それはともかく結露で大変とか。
  • by WindKnight (1253) on 2001年10月05日 10時21分 (#27013) 日記
    これだけ電熱器の数があると、配置はともかく、冷房の出力や
    天井の高さから考えないといけないと思ふ。

    CPUだけでなく、NICやチップセットの発熱量も馬鹿にな
    らないので、MB選びも重要なポイントかな。

    AthlonMPを選んだ時点で、こうなることは眼に見えていたよう
    な気もするけど。(笑)
  • by sinkope (230) on 2001年10月05日 10時24分 (#27014) 日記
    NECが654GFLOPSっていうリリースもありますね。
    "Magi"ってのは何に由来した名前なんでしょ?(手品氏?)
  • Re:PCクラスタ繋がりで (スコア:1, おもしろおかしい)

    by Anonymous Coward on 2001年10月05日 10時57分 (#27020)
    Magiの占拠は産総研CBRCの占拠と同義だからな 
  • いや、あくまでも冗談だったんですが(^^;

    CPUだけとかならともかく、そこまで冷やしちゃうと HDDのモータとか動かない部品が出るんじゃない?

    HDDは使わずに、オールソリッドステート(死語?)で……ダメ?

    CPUも77Kとかに下げちゃうと動かないのじゃ?
    それはともかく結露で大変とか。

     イメージは液冷式というよりも液没式。結露は問題にならないけど液体窒素が絶縁かどうかは確認してません(^^)ゞ
     CPUも特製かな。余談だけど人工衛星や宇宙船のコンピュータはどうやって冷却してるんでしょ? 「アポロ13」では司令船中が結露して、ロケット吹かした瞬間、ざあっと水滴が飛び散るシーンがありました。人工衛星だと冷媒自体に苦労しそう(^^;

  • 「シンプソンズ」に出てくるシンプソン家の末っ子とか?
  • > イメージは液冷式というよりも液没式。
    それって、Cray-2 ?
    #じつはよく知らないので、情報求む
  • by m-aya (3320) on 2001年10月05日 12時32分 (#27051)
    テラクレスタと空目。
  • Magiの由来はエヴァンゲリオンに登場する生体並列コンピュータ「マギ」ではないかと思われる。 これはMELCHIOR,BALTHASAR,CASPERの3台の生体コンピュータからなるシステムで、あけたら脳が入っているというシーンも登場する。
    さらにその元ネタは聖書にあり、イエスの誕生を予言した3賢者の事。
    おそらく、内部的にはMELCHIOR,BALTHASAR,CASPER等のホスト名、あるいは零号機、初号機などのホスト名が使われているのではないかと推測される。
    参照: エヴァンゲリオンの謎
  • やっぱり

      チョコボ

       でしょう。

  • by Anonymous Coward on 2001年10月05日 13時38分 (#27072)
    余談だけど人工衛星や宇宙船のコンピュータはどうやって冷却してるんでしょ?

    国際宇宙ステーションの搭載コンピュータ(無印ペンティアム)には、一面大量のFanが付いているそうです。

    基本的に無重力空間では、空気の対流が無いため熱対策は地上の常識では考えられない問題が出るみたいです。

    人工衛星だと冷媒自体に苦労しそう(^^;

    人工衛星では熱より先に「消費電力問題」で高性能な石は使用出来そうにないです。水冷は水洩れの危険性があり、よほどの事が無い限り採用には消極的じゃないかなぁ~

  • by kt (4556) on 2001年10月05日 13時57分 (#27076)
    それって、Cray-2 ?
    往年の CRAY の冷却に使われていたのは、3Mフロリナートだったと思います。 液浸冷却のベクトル計算機は、一つの神話になりましたね。
  • > イメージは液冷式というよりも液没式。

    高橋敏也さんの「改造バカ一台」という本に、普通のPCマザーを完全不導体の液体に漬け こむ液冷マシンの話がありました。
    ただ、CPU回りで液体が沸騰し、対流も期待できないので冷却効果はあまりなかった、と いうオチだったと思います。

  • でも価格的には間違ってないです...多分。
  • >>余談だけど人工衛星や宇宙船のコンピュータはどうやって冷却してるんでしょ?
    国際宇宙ステーションの搭載コンピュータ(無印ペンティアム)には、一面大量のFanが付いているそうです。

     なんか、トルクで国際宇宙ステーション全体が回転しだしそうですね。

    >>人工衛星だと冷媒自体に苦労しそう(^^;
    人工衛星では熱より先に「消費電力問題」で高性能な石は使用出来そうに
    ないです。水冷は水洩れの危険性があり、よほどの事が無い限り採用には
    消極的じゃないかなぁ~

     ここでの「冷媒」は液体だけじゃなくて、気体や固体も含めたつもりでした。(^^;

     実際には専用のタフで省電力な石を使い、熱伝導や輻射だけで十分冷却できるように設計しているんでしょうね。

  • > (だんだん最初のネタから離れています…)

     そうですね、こりゃいかん(^^;

     元タレコミの東工大松岡研写真を見ると、ほとんど一部屋食いつぶしてますね。

     今後さらに集積率をあげるには、石の選定から始まって部屋(=筐体、システム全体)の設計、システムの設計はもちろん、流体力学と熱力学に基づいた冷却法の選択と設計が必要になるように思えます。

     今後、このようなシステムがどこまで行くのか、楽しみです。

  • この台数になると、ケースはけちらないで
    エアフローが上下に抜けるラックを調達したほうが
    いいんじゃないでしょうかねえ。

    それとセットでデータセンターレベルの空調(下から冷気を供給)
    くらいはやってあげないとかわいそうです。
    --
    _________________________________________ Kinoko, Deep Interactive>>Communication.
  • 超純水じゃダメ?こっちの方が沸点高いし取り扱いやすいから。自動車のラジエータを流用して冷却できないかなあ。
  • by hmr (4234) on 2001年10月06日 9時11分 (#27234) 日記
    スーパーコンピュータとかって普通はリースでしょ
  • by seldon (5637) on 2001年10月06日 16時16分 (#27269)
    # 何か、意図的にメーカ製品と拮抗するような値段になるような条件付けがされてるような気もしますが(^^;
    50人で12ヶ月で開発したら、600人月じゃないですかぁ。人件費だけで6億円ですよ。
    期間12ヶ月はいいとしても、学生が50人もいるような大学の研究室って無いでしょ。
    それに学生に100万/月は払いすぎ:-)

    元ネタのPrestoIIIは全部手作りという事だけど、たとえばIBMとかのメーカ製サーバ使って、xSeries 330の1.26GHzモデル8674-3AJ(\345,000)にSMPのCPU(\170,000)と、Myricom Myrinet2000カード(どれ使ってるかわかんないけど、一番高いので\308,550)を足すと\823,550。
    これ128台で\105,414,400。
    これ「値引き前」金額ね。
    Myricomのカードを安いやつにするとか、大量購入するんだからと言って強引に値引きを迫れば半値とは行かなくても半値近くにはなるんじゃないかなぁ?
    それでも↑でMatさんが出してる見積の2倍にはなるけど、市販のスパコンよりはうんと安いのでは?

  • shutdというこのMagiのためにあつらえたような電源管理ソフトがあります。これは 複数のコンピュータをまあとめてシャットダウンしたりできるのですが、エヴァンゲリオンのMagiそっくりな警告画面を表示する機能がオマケについてます。
    Magiの由来がエヴァンゲリオンなら、このshutdとか Linux用エヴァンゲリオン系ソフト一覧のソフトはみんなインストールされているかも?
  • 液体窒素に液没はETA10 その昔日米半導体摩擦のあおりで東工大に 納品されたから使った人もいるんじゃないかな? 個人的にはメンテナンスの温度サイクルで不良が出そうで 使いたくはないなぁ。これの空冷マシンがマシンサイクル 3倍くらいで売られていたけど、その当時はそっちのほうが 魅力的だった。 今は昔の物語。
    --
    Ea
  • by Anonymous Coward on 2001年10月05日 11時38分 (#27032)
    遂にアスロンクラスタがTop500入り!
    更にびっくりしたのがA7Vなんてホントに普通のマザー使用だとは。

    1ノード1CPUでこれなら今年中には出揃いそうな
    安価Dualマザーが出揃ったらどうなるのか今から楽しみっす。

    #来年辺りデュロンで構成したのがTop500入りしたりして。
    #凄いコスト:パフォーマンス比になりそうだ
  • by Anonymous Coward on 2001年10月05日 14時51分 (#27095)
    実際には専用のタフで省電力な石を使い、熱伝導や輻射だけで十分冷却できるように設計しているんでしょうね。

    多分そうだと思います。以前、軍需向けのVMEボードメーカ(DY4)のサンプルを見た事がありますが、熱伝導方式でしたね。(コンダクション・クールと言っていました)

    基板とChipの間に絶縁加工された金属板(1mm位)を特殊な接着剤で張り付け、ケースに接触させて方熱してましたネ。(だんだん最初のネタから離れています…)

  • by Anonymous Coward on 2001年10月05日 18時24分 (#27147)
     私も一瞬そう読んでしまいました。
     その後数分、「テラヘークラスタ」と読んでました。新種のクラスタシステムかと...(^^;
  • by Anonymous Coward on 2001年10月05日 19時00分 (#27155)
    そして、イロウルに汚染されるのであった。
  • by Anonymous Coward on 2001年10月06日 3時15分 (#27225)
    > で、これで何をされるんでしょう?
     
    1.ベンチマーク
    2.何もしない
    3.各研究室が数台ずつちょっと早いコンピュータとして所有

    そもそもあそこに特定のシステム向けに最適化された並列化プログラミングできる人が
    いるかっていうと・・・・
  • by Anonymous Coward on 2001年10月07日 2時25分 (#27315)

    他にも PAPIA というシステムがあります.こいつも並列マシンで 写真がこれ です.なにやら扉に描いてあります. さらに,内緒でこんなページ もあります.まぁ,こういうのが好きな方がいらっしゃると言うことですね.

    ちなみに,PAPIA自体はまぁ真っ当なものです

typodupeerror

皆さんもソースを読むときに、行と行の間を読むような気持ちで見てほしい -- あるハッカー

読み込み中...