高性能计算

http://forums.nvidia.com/index.php?showtopic=98213
I am running Ubuntu 8.04 with the CUDA 2.0 toolkit and driver version 177.73 with openMPI. With this configuration, everything works fine and I am able to compile and execute mpi code by simply replace g++/gcc with mpic++ in common.mk.

My issue is that when I try to upgrade my driver to version 180.22 (to get support for my new 295 cards) I get immediate segmentation fault with even the most trivial programs (empty int main). This problem happens only when I am compiling with the CUDA template. Other programs which are compiled with only the mpic++ command line run fine and when I go back to driver v177.73, everything works again. This issue occurs with nearly identical software config on 5 different workstation with different mobo/CPU, chipset, and graphics cards. read more

http://www.lam-mpi.org/faq/category11.php3
Table of contents:

1. What exactly is considered a "heterogeneous" cluster?
2. Does LAM/MPI work on heterogeneous clusters?
3. Do different versions of LAM/MPI constitute heterogeneous clusters?
4. How do I install LAM on a heterogeneous cluster?
5. How do I de<lambootde< across a heterogeneous cluster?
6. How do I execute the right binary on each node for each architecture in a heterogeneous system?
7. Can I mix 32 and 64 bit executables in a single parallel MPI job?

[ Return to FAQ ]

1. What exactly is considered a "heterogeneous" cluster?

It is probably easier to define what a "homogeneous" cluster is — a "heterogeneous" cluster is anything that is not a "homogeneous" cluster. read more

1. 说明(可略过)
    由于条件限制,我们作的并行只是应用层的并行(包括现在量化网上关于并行的文章,说的也都是应用层的并行);如果有条件的话,可以考虑组建Beowulf,COW,MOSIX,或其他商业的群集系统. 我们说要在应用层实现并行,主要就是通过一些网络协议(如TCP/IP)实现并行群集系统中各个节点间消息的传递,而MPI为此提供了传递接口. read more

provide the output with -d (debug) parameter as well? With

this parameter you can see the command to start the remote MPDs. You could try

the mpd startup and look if the port is written to stdout.

(1)
no_port 错误

zzm@zzm-desktop:/home/zzm$ mpdboot -n 2 -f /home/zzm/
mpd.hosts

mpdboot_zzm-desktop (handle_
mpd_output 420):
from
mpd
on zzm-desktop,
invalid
port
info:


no_port

导致此错误的原因有很多个，下面是我发现的几个： read more

linux用户管理：http://hi.baidu.com/hengcheng/blog/item/9b1ee7d3008ddddba8ec9a0a.html
快速设置：http://blog.sina.com.cn/s/blog_4a8aac9701000at0.html
ps3集群：http://cluster.qubits.ch/
Client statistics by OS：http://fah-web.stanford.edu/cgi-bin/main.py?qtype=osstats
用八台PS3组成工作站：http://www.equn.com/forum/thread-15145-1-1.html
把Cell超级计算机搬回家：http://www.infoq.com/cn/news/2008/12/Supercomputer-at-Home
PS3Cluster Guide：http://www.ps3cluster.umassd.edu/
linux编程blog：http://oss.lzu.edu.cn/modules/lifetype/index.php read more

zz from: http://oss.lzu.edu.cn/modules/lifetype/index.php?op=ViewArticle&articleId=427&blogId=6

在PS3+YDL上安装集群

             falcon <zhangjinw@gmail.com>
             2007-6-5

说明：刚接触集群，这里仅仅是一个操作笔记。里头可能有很多错误，欢迎指正。另外，转载请注名出处，并保留作者信息。 read more

http://www.pcinlife.com/article/graphics/2008-06-04/1212575164d532.html

猫猫观点：cuda即显卡加速程序端口，他 的优点就是用c语言作为基础，这点很符合中国的现状，中国多数电脑编程高手都懂得c语言的意思，这也是cuda这个接口伟大的地方，但是由于目前显卡 gpgpu的先天的不足，目前还没有功能模块化线程增强指令，所以，提高利用gpgpu的利用率变成了各个编程高手绞尽脑汁的问题，此外windows目 前有很多程序并不能利用到gpgpu的处理能力而实现加速，因此猫猫的另一个观点就是如何无缝连接windows程序所能调用的资源，让整个 windows的系统环境都能得益于gpgpu的加速能力而获得整体的效率提升，这时候gpgpu就已经普及了！希望这个补丁能尽早出来，让 windows环境用户受益！ read more

zzfrom:http://bbayou.blogbus.com/logs/38290786.html

为什么要监控系统的平均负载？
     有时我们会感觉到系统响应很慢，但是又找不到原因，这时要查平均负载，是否有大量的进程在排队等待  
1,平均负载是什么?
           特定时间间隔内运行队列中的平均进程数，好象还不够明白：就是进程队列的长度，有多少个进程在排队等待运行
2,什么是"进程队列"?
           一个进程满足以下条件就会位于进程队列中
                  1,它没有在等待I/O操作的结果
                  2,它没有主动进入等待状态(即没有调用wait)
                  3,它没有被停止
3,如何查看平均负载?
  最简单的命令是uptime
  例子：
  [lhd@localhost ~]$ uptime
  00:44:22 up  1:17,  3 users,  load average: 8.13, 5.90, 4,94
4,显示的内容是什么意思?
          load average:    8.13,5.90,4,94
          显示的是过去的1,5,15分钟内进程队列中的平均进程数量
5,如何衡量当前系统是否负载过高?
        如果每个cpu(可以按CPU核心的数量计算)上当前活动进程数不大于3，则系统性能良好，
        不大于4，表示可以接受
        如大于5，则系统性能问题严重
        上面例中的8.13,如果有2个cpu核心,则8.13/2=4.065,   此系统性能可以接受
        建议设置严格的报警值为: CPU核心的数量
        比如：CPU核心数量为2，则设置报警值为2
        (这样设置是合理的，因为毕竟不是每个应用都支持多CPU及多核心)
6,查看平均负载的命令
                 有5个可用:
                 tload    能够绘制出负载变化的图形
                 uptime   同时显示开机以来的时间
                 w        同时显示出已登录的用户
                 top      这个对资源占用太高，不建议使用
                 cat /proc/loadavg   通过/proc系统信息得到平均负载
注意：如果你要持续的观察平均负载，建议用 watch uptime  或 watch cat /proc/loadavg
备注：关于watch:每隔一定时间执行指定的程序，并全屏显示结果。时间默认是2秒 read more

用户指南：user guide
数组描述符：Array Descriptor for In-core Dense Matrices
数据分配实例：Example
性能模型：Parallel Efficiency
估计执行时间：Estimate Execution Time

http://bbs3.chinaunix.net/thread-1626322-2-1.html
http://stackoverflow.com/questio … g-on-64-bit-windows

In the Unix world, there were a few possible arrangements for the sizes of integers and pointers for 64-bit platforms. The two mostly widely used were ILP64 (for DEC Alpha, one of the first 64-bit machines) and LP64 (for almost everything else). The acronynms come from ‘int, long, pointers are 64-bit’ and ‘long, pointers are 64-bit’. read more

http://www.pygtk.org/pygtksourceview/index.html
最近用pygtk在写一个半可视化的ui编辑器. 其中要嵌入一个小编辑器给用户写一小段lua代码。
虽然是个小部件，用个textview糊弄一下就好，但做为一个有爱而又爱折腾的人，加上语法高亮简直是一定的事情。 read more

http://www.playstation.com/ps3-openplatform/manual.htmlStep 5: Install the Linux operating system

Insert a bootable installation disc for the Linux operating system in the PS3? system. The initial steps to install Linux may vary depending on the Linux distribution.

For example, for Fedora 10, you will need to type “linux noselinux video=720p” from the command line of the boot loader. Other Linux operating systems may only require pressing the Enter key. If both “linux32”and “linux64” appear on the installation menu, select “linux64” because the PS3? system can execute only a 64-bit Linux kernel. For additional information on installing Linux, refer to the instructions provided with the distribution, or refer to the website for the associated community. read more

1.md_sim
mpicc -o p.out md_sim.c /home/duanple/CBLAS/lib/LINUX/cblas_LINUX.a /home/duanple/BLAS/blas_LINUX.a data_partition.o processor_test.o

2.线性方程族求解

mpicc -o hete hete_solver.c /home/duanple/CBLAS/lib/LINUX/cblas_LINUX.a /home/duanple/BLAS/blas_LINUX.a -static

4.scalapack实例程序scaex
mpif90 -lg2c -o /home/duanple/scalapack/scalapack-1.8.0/TESTING/xdscaex pdscaex.o pdscaexinfo.o pdlaread.o pdlawrite.o  /home/duanple/scalapack/scalapack-1.8.0/libscalapack.a /home/duanple/scalapack/BLACS/LIB/blacsF77init_MPI-LINUX-0.a /home/duanple/scalapack/BLACS/LIB/blacs_MPI-LINUX-0.a /home/duanple/scalapack/BLACS/LIB/blacsF77init_MPI-LINUX-0.a /home/duanple/scalapack/lapack-3.2.1/lapack_LINUX.a /home/duanple/scalapack/lapack-3.2.1/blas_LINUX.a /home/duanple/intel/ict/3.0.1/mpi/3.0/lib/libmpi.a read more

这个算是我看到的一个对整个配置过程说的比较全面的文章。
http://www.diybl.com/course/6_system/linux/Linuxjs/20090824/171053.html

前段时间帮同学在linux下配了一个集群环境，参考了一些网上的文章，就把过程写出来，做个参考吧。其实在我们的环境下ssh已经是配置好的，但是我还是把网上看到的写下来，而且这个配置过程我试过，没有什么问题。 read more

一.用这两个进行编译
gfortran -c pdlaread.f
mpif90 -c pdlaread.f
然后用nm pdlaread.o进行查看，发现fortran函数gfortran加了一个下划线 而mpif90则加了两个。
这也是之前出现下面的错误的原因。
一个解决方案，使用gfortran编译成目标文件，仅用mpif90进行链接。但是用mpif90链接时却出现另一个错误
usr/local/bin/mpif90: line 294: eval: -o: 无效的选项。所以也不可行，需要进行寻找方法。 read more

转载请注明作者：phylips@bmy 出处： http://duanple.blog.163.com/blog/static/70971767200911735313192/

一.mpich安装步骤
#./configure –prefix=/usr/local/mpich-gcc –rsh=/usr/bin/ssh
#make
#make install
其中prefix后面的是安装的目录，安装完成后就可以看到。

(卸载mpi是进入到/usr/local/mpich-gcc/sbin/mpiuninstall.) read more

1.购买cell处理器ps3
安装操作系统，安装编程环境cellsdk
利用该编程环境编译mpi库，blas库，lapack，blacs，scalapck库
这些库放到intel上的异构编程环境下，编写并行程序，将生成的可执行程序放到ps3上，与intel上的运行

测试普遍的blas库和ibm提供的面向cell的blas库的效率差异 read more

1.话说scalapck还是可以运行在异构平台上的，虽然效率目前未知，但是设计时有考虑这个异构的问题，证据如下
http://netlib.org/scalapack/scalapack_install.pdf 其中的2.4 Run the PBLAS Test Suite
Testing instructions with MPICH on a network of workstations
Then, to run the executable, you will use the command mpirun. For example,
      mpirun -np <number of processes> <executable>
    where <executable> is replaced by xspblas1tst, and so on. If the network of work-
stations is heterogeneous, you will need to specify the -p4pg option and supply a text file
containing the names of the machines and the locations of the executables to which you will
spawn tasks. Refer to the mpirun manpage for complete details. read more

LAPACK:内含BLAS
错误：
spstrf.f: In subroutine `spstrf’:
spstrf.f:102: warning:
         INTRINSIC          MAX, MIN, SQRT, MAXLOC
                                            ^
Reference to unimplemented intrinsic `MAXLOC’ at (^) (assumed EXTERNAL)
spstrf.f:102:
         INTRINSIC          MAX, MIN, SQRT, MAXLOC
                                            ^
Invalid declaration of or reference to symbol `maxloc’ at (^) [initially seen at (^)]
spstrf.f:204:
                        ITEMP = MAXLOC( WORK( (N+J):(2*N) ), 1 )
                                        1          2
Invalid token at (2) in expression or subexpression at (1)
spstrf.f:291:
                        ITEMP = MAXLOC( WORK( (N+J):(2*N) ), 1 )
                                        1          2
Invalid token at (2) in expression or subexpression at (1) read more

1.相同源代码，串行程序版本
1.1编译过程，利用我们自己编写的脚本，自动生成针对两种平台上的目标程序
源代码：solve.c
演示过程：solve.c位于test/目录下
首先，进入test目录，下面运行我们编写的脚步程序
该脚步首先读取配置文件信息，发现cell平台的配置信息，因此首先生成cell 平台上的目标文件
生成cell 平台上的目标文件：
该脚步程序首先针对源代码进行automake，然后脚步设置环境变量，对生成的makefile修改，使得最后的结果可以
#makefile
PROGRAM_ppu :=  solve
IMPORTS =  $(SDKLIB_ppu)/libblas.so  \
            -lspe2 -lm -lnuma
LDFLAGS += -Wl,-rpath  $(SDKLIB_ppu)
include /opt/cell/sdk/buildutils/make.footer
makefile实际执行的命令为：
/opt/cell/toolchain/bin/ppu32-gcc -o solve  solve.c  -Wl,-rpath  /opt/cell/sysroot/usr/lib    -L/opt/cell/sysroot/opt/cell/sdk/usr/lib -R/opt/cell/sdk/usr/lib  -m32 -Wl,-m,elf32ppc /opt/cell/sysroot/usr/lib/libblas.so -lspe2 -lm -lnuma read more