スラッシュドット・ジャパン

#1300054 [slashdot.jp]の方も書かれていますが、計算にはSETI@homeのように分散処理に適した計算と
そうではない計算があります。
分散処理に適した計算は、
1. 計算が、相互にほとんど関係ない多数の部分に分割できる。
2. 各部分の計算が小規模
です。1により計算機間の通信がほとんど存在しないため、相互の通信が遅くてもかまわなくなり、2により
計算を実行する個々の計算機はそれほど大規模でなくても良くなります。
SETI@homeの場合、異なる観測点、異なる観測時間のデータセットが多数あり、それぞれに対しFFTを
行い強いシグナルを見つけ出すという計算ですが、当然異なるデータセット間には直接の関係がなく
それぞれ独立しており、かつ個々の計算は（ちょっとデータを加工する必要はありますが）単なるFFT
ですので小規模な計算機でも実行できます。

一方、分散に適さない計算はこの逆であり、
1' 幾つもの計算が相互に関係している。
2' 各部分の演算が大規模
などの場合になります。1'ですと例えば気候関連の計算などで地球をメッシュに分割して計算しますが、
個々のメッシュの変化が隣接するメッシュに影響を与えますので、メッシュ単位で分割して
分散処理で高速化、などはできないわけです。ただし、前提条件の違うものを多数並列化はできます。
いくつかの異なるパラメータに対しそれぞれ気候がどう変化するかの計算、などです。これなら
10台の計算機で10個のパラメータを試しても、1台で1個のパラメータを計算させた場合と必要時間が
変わりません。（ただし個々のパラメータに対しての計算は高速化されません）
2'に関しては、例えば1つの計算に100GBやら200GBのメモリを必要とするような計算（結構ある）は
それぞれの計算に膨大なメモリがいるわけですから、そうそう分散させられません。何せ個々の
分散先にそれだけの容量が要求されますから。

流体の計算は分散処理といっても隣のノードとの同期が重要です。
簡単に言えば1step計算したら隣のノードと計算結果を交換し、次のstepを計算する、
これの繰り返しです。

SETI@homeのようにある程度の長さの処理を単独のノードで計算できるようなものとは設計が違って当然です。

ノード間をLANでつないでもどうかなぁ、というレベルなのに、
家庭にあるPCがどんなに高速なものでも1Gbpsもでない通信速度では話にならないでしょう。