人工知能に関する心配ってーと、思いつくところでは

・機構が複雑すぎて理解が難しい（正常なのかのテストや事故時の解析の難易度が高い）
・ヒトを模倣すること（ヒトだと誤解されること）によるトラブル
・道徳や人間性を理解しない決断について納得できない

などなど思いつくところですが、結局のところ2番目以降は仕様の問題ですよね。
悪魔ほどの知能がなくとも、無慈悲な判断機械は常に”人類の敵”だ。
（むしろ何らかの人間的な交渉の余地があるだけ悪魔の方がマシだ）

んだからして、

・そういう細かいことはさておき、知能ってのは人類固有のものなので機械による模倣は気持ちが悪い

という感情論もあるんだろうなぁ。

個人的には、それらとは別に「ネットに放たれた自己学習プログラムを崇拝する宗教」とかが発生して、
プログラム自身はやくたいもないことを呟いてるだけなのに人間がそこに勝手な意味を見いだして社会を脅かす、とかの方が（制御のしようがないという意味で）怖いなぁ。