Lx=d: SundayResearch (Japanese version)

単純な組合せを生成することは前回で述べた．しかし，私の仕事では，GPU という高速ではあるが，メモリサイズが小さい計算機を使う必要がある．ここでの data size は GB の単位であり，64 GB とか 512 GB というのは現在のところ，一台の GPU には収まらない．512 GBは我々の使っている一台の計算機の実メモリにも収まらない．そこで，何十台かの計算機に複数の GPU を搭載して，それを協調して使うわけである．ほとんど全ての我々のクライアントは計算機の台数と性能の関係についての情報を要求する．それは我々のクライアントは特定の問題を解く必要があり，そのためには何台の計算機と何台の GPU を購入する必要があるかを知りたいためである．したがって，計算機を何台使ったかについてプログラムのデータ処理のスループット性能がどうかを見たい．そこで，計算機の台数を新たなパラメータとする． data_size_list = [ 5, 64, 512, ] screen_resolution_list = [ '2560x1440', '3840x2160', ] node_count_list = [ 1, 2, 4, 8, 16, 32, 64, ] しかし，データがメモリに収まらなければ遅いことは確実にわかっているので，テストに際しては計算機の台数は data size によって変化させたい．ループの場合には，不要なものを filter out するということが簡単に思いつく．以下のようなプログラムになるだろう． for d in data_size_list: for s in screen_resolution_list: for n in node_count_list: # FILTER: filter some cases. # assume one node can handle # 64G, but not more if (n * 64 < d): continue item_list = [ d, s, n, ] comb_list.append(it...

numpy and PIL 実際に画像に適用してみた所，1024x1024 の大きさの画像では処理に 6 秒程度，消費するメモリサイズは230MBなのだが，3840x2160の画像を利用すると，2.3GBのメモリと263秒の時間がかかることがわかった．この2つの解像度はpixel の数で言えば 8 倍程度で，メモリの処理が比例しているのは良いとしても，処理の時間がかかりすぎる．また，メモリの消費量自体も多すぎる．私はプログラム中で3つのバッファを使っているだけであり，1024x1024の場合には 10 MB程度，3840x2160 の場合には，72MB程度と思っていた．しかし，30倍ものメモリが消費されている． プロファイルの結果，最内ループの tuple の生成と abs 関数にほとんどの時間がかかっていることがわかった．そこで，この部分を numpy で書くことにした．結果を以下に示す．Intel Core i7-2720 2.20GHz Linux(Kubuntu 12.10, kernel 3.5.0-27), Python 2.7 における結果である． native  230MB, 6.0 seconds for 1024x1024 image numpy 110 MB, 0.21 second for 1024x1024 image native  2300MB, 263 seconds for 3840x2160 image numpy 320 MB, 1.18 second for 3840x2160 image 計算速度は 30 倍から200倍に, メモリサイズも 50% から 15% の消費量と激減している．実は最初の実装では倍程度にしか高速化できなかったので，私は多少失望したのであるが，profile した結果，非0の要素をカウントするための sum関数がほとんどの時間を占めていることに気がついた．この sum 関数は pythonのbuildin のもので，おそらく numpy の data 構造から毎回値を取り出しては計算しているのであろう．これを numpy.sum に変更した所，ほどんどの時間を占めていた sum 関数の消費時間が profile では...

概要: Python の画像 module PIL を使ってみた． Python PIL module Python には画像ファイルを処理するのに便利な Python Imaging Library (PIL) という module がある．今回はファイルフォーマットは異なるが，内容が同一かどうかをテストしたいという状況にあった．たとえば，テストの参照となるファイルは圧縮されているが，それと比較するファイルはそうではないというようなものである．convert などのツールを使うということも考えたが，時には使ったことのないツールを使ってみるのもよいだろうと PIL で画像を比較するツールを書いた．

概要 プログラミングにおいて数学的な object を使うとプログラムが簡単になることがある．今回この考えが上手くいった例に会ったのでそれを示す． 数学的 object とプログラミング プログラムのテストにおいて，異るパラメータの組合せを考えるということはよくあることである．組合せを生成する簡単な方法は，多重ループを使うことである． ここではpython 風の pseudo code を使う．また，実際に動く python のプログラムも公開する． たとえば，2つのパラメータのリストがあった場合，  data_size_list = [ 5, 64, 512, ]  screen_resolution_list = [     '2560x1440', '3840x2160', ] この組合せは，   for d in data_size_list:     for s in screen_resolution_list:       print_comb(d, s) # output のように書いて出力することができる．この方法は簡単であるが，ある特定のリストが不要な場合，プログラムコードを変更する必要がある．それで直積の考えを使って組み合わせを生成することにする [1]．何の積かというと，集合の積である．ここに k 個の集合があり，その要素の全ての組合せを考える時，k 個の集合の直積を考えている．これは再帰的に定義することができる． \(k = 0\), つまり 0 個の集合の直積は一つの空リスト([])である． \(k \geq 0\) の時，       \begin{eqnarray*}       A_1 \times \cdots \times A_k   &=&\left\{(a,t)| a \in A_1, t \in A_2 \times \cdots \times A_k        \right\} \end{eqnarray*} である．二番目の条...