Googleの先にあるものの妄想

you tubeを適当に見ていたらGoogleの音声検索の動画があった。



前からGoogleの音声検索の存在は、噂程度で知ってたけど、あらためてびっくり。やはり、どうやってるのかが気になったのでググってみると、音声をサーバー側で処理しているそうだ。やっぱりGoogleだからユーザーが使った音声データをどんどんためて、どんどん性能が良くなるみたいなことをしてるんだろう。確率的な処理らしいから、ベイズなのかな。

まえに、これからの時代、HPCの個人利用が現実化してくるんじゃないかと、うだうだいっていたが、これなんかまさにそうだ。もうすでに実現していたっちゅうことだ。

この音声検索を実行するには、端末の計算性能は全然いらない。必要なのはGoogleの持っているサーバーの計算能力とアルゴリズムとサンプルの データの蓄積だ。あとは、ユーザーが貧弱なモバイル機を持っていればよい。

それにしても、これはもうある種の脳が、Googleのサーバーで作られているようなもんだ。従来の単なる情報処理とは呼べないような、関係付けられた 膨大なデータから認識を行うという意味で、ある種、脳型だ。
 
そういえば、話はとぶが、この前Googleのハードやソフトに関するweb記事をみてちょっと面白かった。Googleは、コモディティーサーバーを膨大な数つなげて、検索に必要な処理を行っているらしい。これは、コモディティー化の恩恵を活用しているという点では、今のHPCの主流のクラスタと似ている。自分は気づいていなかったが、実はGoogleは、コモディティー化を活用して成りあがった企業なのだ。

しかし、Googleのサーバーと、普通のHPCコモディティークラスターとちょっと違う点は、故障対策についての考え方で、基本的に壊れてもいいように、安いハードで冗長性を持たせることで、実現してるそうだ。それをスケールアウトっていってたかな。個々のサーバーがそれぞれ情報を冗長化する。それで大規模並列で実行する。

これは、脳の情報処理と非常に似ているところがある。神経細胞ひとつが単一の情報を表現するんじゃなくて、神経細胞集団が冗長にひとつの情報をコードしているといわれている。神経細胞は毎日、結構な数が死んでいるが、それでもあまり困らないのは冗長性があるからだろう。それで、やはり大規模並列で処理を実行している。

別にGoogleが脳にヒントを得て、スケールアウトの方法に行きついたわけではないだろうが、Googleも脳も、ある種の認識処理を目指した結果、似たような構造や仕組みに行きつくいているようで、なんとも面白い。

Googleを見て、先の将来どのようなことが起きるかを考えるのは意味があるだろうし面白そうだ。

今ですら、Googleにあるサーバーに対して、世界のどの人間も検索能力では勝てない。人間を超えた知性に似たものが、もう毎日無くてはならないものとして働いているのだ。この"知性"は、これからまだまだ拡大するだろう。音声認識、言語認識、画像認識、動画認識、もう、本当、脳みたいだな。すでにあるかもしれないが、脳にはない感覚に関する領野（＝サーバー群）や高次情報処理領野ができていくだろう。

そうすると、ますます、Googleのサーバー群でしか処理できない情報というのがでてくるに違いない。一体どこまでその進化が続くのか想像できないが、計算機の進化、ネットの成長はまだ10年は最低続くだろうし、この手の認識系のサービスはまだはじまったばかりで、当面は進化は続くだろう。とりあえず、あと10年後には100倍の計算リソースを使って、より高度な認識か、もっと進んだなにかをやっているはずだ。

認識系が発展してなにができるのか、具体的にわからないが、たぶんできてしまえば使い道はいくらでもある。認識のサービスは、知的労働をやってくれるようなもんなんだから。ロボットは認識系の、恐らく最も有望な適用方面だが、そのロボット産業がこれから発展するのは間違いないから、その需要も莫大にある。


今は、Googleのような認識に近い情報処理を行う、巨大な脳型処理機構（といっていいか知らないけど）は、ほぼ一つしかない。そういう企業が、今後もGoogleしかないんじゃあ、いろいろ問題だ。多分、そうはならなくて、Googleに対抗する異なる巨大な情報処理機構を形成する組織が作られていくはずだ。そして、それら情報処理機構間での相互作用、競争、戦争が問題になってくんじゃなかろうか。

そうするとより優れた認識処理を実行するということが、一つの価値基準になっていくだろう。そういう未来が来たら、きっと真の脳型情報処理が必要とされるのじゃないかと思う。

いつそんな未来が現れるのか。もちろん、永遠に来ねえよってことはあるけどもさあ。でも、あと10年でひょっとしてとは思うな。5年じゃ無理だな。5年後には、モバイルとクラウドの波が最高潮に達しているくらいだろうか。そうした状況に乗じて、新しいサービス企業が出始めるだろう。そこらへんで、Googleに対抗できる組織がでてくると面白いことになりそうだ。

はーい、妄想おつ

絵画という内部表象の記録

昔、自分の青い時代に、ピカソの絵と発言が並べて書いてある本を買って読んだことがある。あの本まだどっかにあるだろうな。今も当時も、全然、芸術とかわかってないんだけど。

絵のことはわかるような、わからないような感じだったんだけど、ピカソの言葉には今でもよく覚えている印象的なものがいくつかあった。そのひとつに、あいまいにしか覚えていないが、

”いつか、私の絵を科学者（脳科学か、心理学者だったか？）がみて感謝するときがくるだろう”

みたいなことがあった（はず）。ピカソは脳内の表象的なものを出力しているにすぎないみたいなことを確か言っていて、当時、（ピカソの）絵って、そういうもんなんだなあと、すこし納得したような気がした。でも、まあ、科学者がピカソに感謝なんかすることにはならねえだろうと思っていた。

と、最近、ミラーニューロンの本を読んでいて、アフォーダンスのことを考えていたら、たまたまピカソのことを思い出して、ピカソの絵画に描かれている、ゆがんだり、デフォルメされたりしてる、非現実的な描写は、ある種、アフォーダンスのようなものを、ピカソなりに描いていることなんだなとふと思い至った。きっと彼は、現実世界の描画する対象に対して、彼の脳が持ついろいろなアフォーダンスを、彼なりのルールで表現したのではないだろうか。彼は、ひょっとすると、かなりそういう脳の中の情報表現、アフォーダンスを直接見る能力をもっていたのかもしれない。

それにしても、昔はまさか自分が神経科学関連に進むとは思っておらず、こういう形で、ピカソの言葉を実感する日が来るとは想像だにしなかったなあ。

アフォーダンスという概念は、普通の人にとって、多分なんかまったく理解しがたいという感じはなく、誰でも脳内に持っていて、普段無意識に使っているから、考えてみればわからなくもないというものだろう。でも、それを、科学を知らない、芸術家が自分の内なる世界を観察して、考察することで、独自に見いだして、自らの方法で表現したというのは、偉い。ピカソはやはり偉大だ。

ピカソの絵を研究対象とするまでの境地に、まだ自分は到達していないが、それどもちょっと、なにか納得したので、感謝したい気持ちだ。世の中、なにがどうつながるかわからなくて、面白いな。

GTX480/470登場

数日前、GTX480/470の正式発表があって、ベンチマーク結果なんかも出始めている。
GTX480は、ゲームの性能に関しては、概ね、AMDの1GPUよりいいみたい。

なんか、でも、気づけばAMDのGPUって2.72FLOPS(SP)で、Nvidiaの倍以上あるんだよな。いくら、ピーク性能にすぎないっていっても、倍以上違うのに、ゲームの性能では逆転するもんなんだな。

だとすると、なにが効いているんだろう？3Dの描画のことはよく知らないからなあ…。3Dグラフィクス表示のための特有の固定機能の違いなのか、それとも、汎用的な作りが実行性能を高めるなんてことが起きているのか？キャッシュって効いている？なにがボトルネックになっているかわからないから、なんともいえないか。すくなくとも、ゲームに関する実行性能は、Fermiのほうがよいと。

でも、AMDのGPUでも、うまくはまっちゃう計算って、GPGPUならありそう。

ゲームユーザーは、きっとGPGPU性能なんか望んでいない。今のところなんの足しにもなっていないから。 ゲーム内の物理演算には必要なんてことはあるんだろうけど、まだそこまではやってないみたいだし。最近はAMDのほうが旗色が良いのは、そういうことなんだろう。

一方、GPGPUユーザーは、どう思っているんだろう?確かに倍精度性能とか、ECC対応なんかは、非常に望ましいんだけど、単精度でこれほどの性能差で、いろいろ消費電力とか無理があって、どう思っているんだろう？

個人的には、数倍のハード性能よりも、やっぱりGPGPUのプログラムの開発環境やサポート具合がしっかりしていることが重要だから、やっぱりまだNvidiaというか、CUDAだな。だけど、もし、OpenCLが、どのGPUでも簡単に動いて、簡単に比較できるようになって、AMDのほうが倍以上性能が出て、消費電力も小さいとなったら、もう、わかんないな。とりあえず、1年くらいは様子見かな。

さてさて、GPUの汎用化が吉と出るか凶と出るか、じっくりとみさせていただきますよ～。

ナルト

ナルトが好きだというのはちょっと恥ずかしいってばよ。でも、毎週見ている。

何が面白いかというと、なんか絵がカッコよくて、忍びの技がカッコイイのだ。うーん、小学生と変わらないなw

でも、それだけじゃなくて、もっとこの作品で重要なことがある。それは、復讐にどう立ち向かえばいいのかということを、テーマとして真正面から取り組んでいるのだ。


ナルトの世界では、忍び同士の殺しあいがあり、いろいろ遺恨が残り、それで復讐が連鎖する。ナルトの友達のサスケも復讐に取りつかれて、人生を踏み外している。

ナルトは、自分と境遇の似たサスケを思い、どうすればいいのか、苦悩する。そして、復讐者の気持ちをなんとか理解しようとして、その連鎖を止めようとがんばる。

まだ、物語でナルトが一体どういう答えに行き着くかは語られていない。問題が難しすぎるため、作者が最後に納得できる答えを描けるか心配だが、同時にとても期待もしている。

この作品は、全世界で子供たちに非常に人気がある。復讐の歴史を現実にもっている民族の子供も読んでいるかもしれない。

もし、復讐する側、される側の人間が、この漫画を子供のころにでも読んでいたら、きっとなにかが変わるんじゃないかと思う。もちろん、現実はそんなに生易しくないし、現実に問題を抱えている人間にとっては、この漫画はきれいごと過ぎるように感じるかもしれない。

それでも、本気で復讐という難しい問題に正面から立ち向かっているということが、この漫画から気迫として伝わってくるような気がして、それはひょっとしたら子供の気持にも伝わるんじゃないかと、とても期待している。

戦争放棄を行った国が、漫画で世界に強い影響力を与えられるところにいて、こういうテーマを世界の子供に語りかけているということは、日本ならではの最高のアイデンティティーを発揮しているといえるんじゃないかと、なんとなくぼんやりと本気で思っている。

なんだかよくわからんが、とにかくすごい自信だ!

GPGPU系のあつまりがありましたと。
http://pc.watch.impress.co.jp/docs/news/20100129_345703.html

そんで、とても印象に残ったのがこのスライド。
http://pc.watch.impress.co.jp/img/pcw/docs/345/703/html/ph10.jpg.html

すげー。開発費がなんという右肩上がり。これは、でもそろそろ抑えないと破綻するんじゃまいか…。破壊的イノベーションの破壊される側のようだ。肥大化したハリウッドとかゲーム産業の末期のようだ。

なんでこんなに強気というか、HPCを信じられるんだろう、社長。これまでいくつもの会社がつぶれてきたのを知ったうえで、俺らは違うんだよ?という のは、なんだかよくわからんがすごい自信だw

ひとつの根拠は、ゲームに乗っかっている限り大丈夫ということなんだろうな。 だから、問題はそのゲームに乗るという方法が、これからどうなっていくかというところか。

結局、こうなってくると、HPCの方向性は、ゲーマーの手にかかっているともいえなくもないのか！

別にゲーマーの人を悪く言うつもりは全然ないが、なんかNvidiaにうまいこと使われているような気が…。まあ、どっちも満足できるwin-win状態だからこそ、市場で生き残れるんだから、余計なおせっかいというものだ> 俺

いつか奇跡が起きて、ゲーム向けの収益をGPGPUの収益が逆転するなんてことはあるんだろうか？ひょっとして、そういう秘策がなんかあるんだろうか？社長に聞いてみたいな。

つれづれ石

最近特にモバイルコンピューティングの話が盛り上がってきて、一方、Fermiがそろそろ出るという話だ。その先の流れはどうなっていくのかなあと、ずっともやもやしてる。

モバイル向けに、CPUとGPUは同一ダイで統合されていかざるをえない。モバイルじゃどうせ、重い計算のあてが当面ないし、GPUは適当につんで置けばよくて、必要な場合はクラウドコンピューティングにやってもらえばいい。どうせネットでつながっているんだから。

そうか、モバイル化がすすむということは、その分重い計算をサーバーにオフロードする機会が増えるということで、結果、クラウド需要が伸びることにつながるのかもしれない。要するに、モバイルコンピューティングと、クラウドコンピューティングの2極化が進むことになるのかもしれない。そうやって、クラウド需要が伸びれば、サーバー用のチップの需要ものびて、そっちでハイエンドGPUの需要が出てくるのかも。だから、デスクトップGPUは、別に死なないのかも。なんか、前に他の誰かがいってたことと同じ結論のような…。まあいいか。

だとすると、ハイエンドGPUの縮小版をモバイルに展開するというのは、開発コスト的に有利でよいのかもしれない。でも、モバイルとサーバーって状況が違うから、それぞれに特化させたほうがいいような気もするな。まあそれはいいとして、それより問題なのは、やっぱりCPUだな。GPUをモバイル、ハイエンドで開発するのにあわせて、CPUまで開発しないといけなくなるのは、本当に大変だろうな。

そうすると、結局、Tegra見たいな、適当な低消費CPUと組み合わせていくっていうのが、モバイルでは正解なのかな。一方、ハイエンドGPUのほうは、とにかくぶっこめるだけぶっこんで、300Wとかやればいいのかもしれない。そのかわり、サーバーで使えるように、高信頼性、汎用性がいると。

なんか、そうやって考えると、Nvidiaの今の方針って、完璧な気がするなあ。でも、Fermiのことで世間ではすごい叩かれようだけれどもw

ここで思ったのが、ひょっとしたら、モバイルコ化、クラウド化っていうのは、一見、個人の計算リソースを貧弱にするような気がするけど、実は逆で、誰でもハイエンドの計算リソースにアクセスする機会を作りだして、本当にHPCが個人の使用に降りてくる新しい世界を作り出すのかもしれない。

みんな、ネットブックとかタブレットなのに、画面はSLIマシンよりもリッチなゲームがでているような世界。

そうか、だとすれば注目するのは、モバイルPCの成長に加えて、クラウド型のサービスの成長なのかも。Ｃｈｒｏｍｅ　ＯＳみたいなやつ。

クラウドって言葉はなんか胡散臭いと思っていたけど、なんだかんだで需要があがって、実用的な存在になっちゃうのかも。

この2極化の流れは、これから両方向で極端なところまでいくだろう。モバイルはより省電力で、通信性能に特化して、演算はサーバーにオフロードする方向。サーバーは多数のユーザーからの演算を請け負うのに特化した性能。

まあ、どっかでローカルで重い処理が必要なアプリが発明されたとき、ゆり戻しがくるかもしれないが。

富野監督を超えろ！

あけましておめでとうございます！

昨年の終わりくらいから、来年はどうして行こうかというのが、いまいち自分でつかめず、いろいろ決心しては、心がおれたりしながら、うろうろしていていいモンを見つけた。

http://www.4gamer.net/games/103/G010304/20091221034/

また、富野監督のもんすごいぶっちゃけはっぱかけトーク。

いろいろためになることがあるんだけど、一番、今の自分にとって重要だと思ったのは、常に自分で考えて行かなければならないこと。

あと、わかっていたつもりだが、あらためて重要だと思ったのが、そもそもの部分からやっていかねばならないこと。あたりまえのところでも、そもそも本当なのか、なぜなのか、考えても無駄に思えてもまた繰り返して考えるくらいのことが実は非常に重要だということを、久しぶりに思い出した。

でも、多分、実はこれだけではまだなにかが足りていない。それは、多分全く違う方向、ジャンルのもの。それがなんなのかは、まだよくわからない。それを見つけなければ、富野監督は超えられん！