統計的手法を使って良い結果を得ようとする場合、サンプル数で精度を稼ぐ方法とより良い手法の選択をする方法が考えられると思いますが、この辺のトレードオフを説明しても理解してもらえないことが多いので、ちょっとたとえ話を考えてみました。

一定額の元手から年10万円を稼がないといけないというシチュエーションを想定します。
元手が10万円しかないのであれば、運と技と手間が必要でリスクは高いですが価格変動の大きそうな株の短期的な売買をするというような手を思いつきます。もし100万円あればリスクの高めな投資信託等を利用すれば、それなりの確率で目標が達成できるかと思います。 1000万円の場合は国債を買って寝ていればokのはずです。1億もあれば、その辺の銀行で定期預金にすれば十分でしょうか。普通預金でも十分かもしれません。

このような感じで、入力(統計処理のサンプル or 元手)が大きければ大きいほど安易な手法で安定して同じ結果を出すことができるようになると考えられます。また、ソフトウェア等の場合、失敗してもリアルマネーが無くなるわけではなく、開発者のリソースが捻出できる限り手法の選択や実装の詳細をリトライすれば良い成果が出てくることもあるかと思います。
まあ、自分的に最重要なのは、リスクを取ったり工夫したりするのは疲れるからそんなにやりたくないというところですね :-)