Difference between revisions of "Cluster der kan alt"

From Teknologisk videncenter
Jump to: navigation, search
(Lab environment på lokale maskiner)
(Test af head installation på fysisk maskine)
 
(45 intermediate revisions by 3 users not shown)
Line 1: Line 1:
{{TOCright}}
+
{{TOCright}}  
=Introduktion=
 
At udvikle et [[Ubuntu]] cluster installationsmetode og implementere den fysisk således at programmer kan afvikles.
 
  
=metode=
+
= Introduktion =
Installationsmetoden udvikles på [[ESXi]] og implementeres på de fysiske servere.
 
  
=Mål=
+
At udvikle et [[Ubuntu]] cluster installationsmetode og implementere den fysisk således at programmer kan afvikles.
*En master
 
*minimum to noder
 
*automatiseret installation af noder. (Så godt som muligt)
 
*automatiseret oprettelse af brugere [[LDAP]] eller [[NIS Ubuntu|NIS]]
 
*[[MPI]]  
 
  
== Lab environment på lokale maskiner  ==
+
= metode =
  
'''OPDATE EFTERÅRET 2013''' Under udvikling
+
Installationsmetoden udvikles på [[ESXi]] og implementeres på de fysiske servere.
  
Lab environment er bygget op omkring VMware Workstation som virtualiseringsplatform og Ubuntu-Server 12.04.3 64Bit (ubuntu-12.04.3-server-amd64.iso) som cluster og nodes OS.
+
= Mål =
  
Denne guide viser hvordan man opbygger et virtuelt Linux/Ubuntu cluster environment, som så senere kan implementeres på det fysiske cluster.
+
*En master
 +
*minimum to noder
 +
*automatiseret installation af noder. (Så godt som muligt)
 +
*automatiseret oprettelse af brugere [[LDAP]] eller [[NIS Ubuntu|NIS]]
 +
*[[MPI]]
  
==Udvikling fase 1==
+
==Lab environment on local PC==
#Installer [[ESXi]]
+
 
#[[/Ubuntu Master|Installer Ubuntu Master]]
+
'''LAST UPDATE AUTUMN 2014 (pre-course edits)''' Comments, corrections and additions welcome! :-)
#[[/DHCP server|Installer og konfigurer DHCP server]]
+
 
#[[/DNS Server|Installer og konfigurer DNS server]]
+
This lab environment is build upon the virtual platform VMware Workstation and Ubuntu-Server 14.04.1 64Bit (ubuntu-14.04.1-server-amd64.iso) as cluster and nodes OS. Ubuntu server can be downloaded [http://www.ubuntu.com/download/server| here]
#[[/Routning og NAT|Routening og NAT gennem Master]]
+
 
#[[/LDAP eller NIS| LDAP eller NIS til user login på noder]]
+
This guide will guide you though how to build a virtual Linux/Ubuntu cluster lab environment on your local machine. This environment can later be implemented on the real cluster.
#[[/Tilføjelse af ny klient| Tilføjelse af ny klient]]
+
 
#[[/PXE installation af noder|PXE installation af noder]]
+
*[[/Oprettelse af master og nodes maskiner|Create master and nodes machine]]
#[[/NFS Server | NFS Server til netværk shares ]]
+
'''Master installation and configuration'''
#[[/apt-cacher installation|apt-cacher installation]]
+
#[[/Installation af master|Install master]]
#[[/Auto SSH | Auto SSH login på noder uden at skrive pass]]
+
#[[/Install DHCP server|Install and configure DHCP server]]
#[[/Kickstart fil til installation af noder|Kickstart fil til installation af noder]]
+
#[[/Install DNS server|Install and configure DNS server]]
#[[/Overvågning med MRTG|Overvågning med MRTG]]
+
#[[/Routing NAT and NIS|Configure Routing, NAT and NIS]]
#[[/dsh|Distributed Shell dsh]]
+
#[[/PXE and Kickstart|PXE and Kickstart configuration]]
#[[/mpi|Installation af openMPI og MPICH]]
+
#[[/Configure NFS server, Apt cacher and SSH auto login|Install and configure NFS server, apt-cacher and SSH auto login]]
#[[installation af OpenCV]]  
+
#[[/Multi Router Traffic Grapher|Install and configure Multi Router Traffic Grapher - MRTG]] - doesn't work properly
#[[InfiniBand]]  
+
#[[/DSH and MPI|Install and configure DSH and OpenMPI]]
=== Test af head installation på fysisk maskine===
+
#[[/OpenCV|Install and configure OpenCV]]
#[[/Installation af head node|Installation af head node]]
+
'''Nodes installation and configuration'''
#[[/Installation af CUDA|Installation af CUDA]]
+
 
#[http://www.raben.com/content/opencv-installation-ubuntu-1204 Installation of OpenCV]
+
== Udvikling fase 1 ==
 +
 
 +
#Installer [[ESXi]]  
 +
#[[/Ubuntu Master|Installer Ubuntu Master]]  
 +
#[[/DHCP server|Installer og konfigurer DHCP server]]  
 +
#[[/DNS Server|Installer og konfigurer DNS server]]  
 +
#[[/Routning og NAT|Routening og NAT gennem Master]]  
 +
#[[/LDAP eller NIS|LDAP eller NIS til user login på noder]]  
 +
#[[/Tilføjelse af ny klient|Tilføjelse af ny klient]]  
 +
#[[/PXE installation af noder|PXE installation af noder]]  
 +
#[[/NFS Server|NFS Server til netværk shares ]]  
 +
#[[/apt-cacher installation|apt-cacher installation]]  
 +
#[[/Auto SSH|Auto SSH login på noder uden at skrive pass]]  
 +
#[[/Kickstart fil til installation af noder|Kickstart fil til installation af noder]]  
 +
#[[/Overvågning med MRTG|Overvågning med MRTG]]  
 +
#[[/dsh|Distributed Shell dsh]]  
 +
#[[/mpi|Installation af openMPI og MPICH]]  
 +
#[[Installation af OpenCV]]  
 +
#[[InfiniBand]]
 +
 
 +
=== Test af head installation på fysisk maskine ===
 +
 
 +
#[[/Installation af head node|Installation af head node]]  
 +
#[[/Installation af CUDA|Installation/testing af CUDA]]  
 +
#[http://www.raben.com/content/opencv-installation-ubuntu-1204 Installation af OpenCV]
 +
#[[/makefile script |Makefile]]
 +
 
 +
== Udvikling fase 2 ==
  
==Udvikling fase 2==
 
 
#Tilpasning af SW og konfigurationsfiler til noder
 
#Tilpasning af SW og konfigurationsfiler til noder
==Udvikling fase 3==
+
 
 +
== Udvikling fase 3 ==
 +
 
 
#Installation af [[SAN]]
 
#Installation af [[SAN]]
==Udvikling fase 4==
+
 
 +
== Udvikling fase 4 ==
 +
 
 
#Installation af fysiske maskiner
 
#Installation af fysiske maskiner
=Netværk=
+
 
*Qlogic switch
+
= Netværk =
**Telnet eller http: til 172.16.4.11 (username '''admin''' password '''adminpass''')
+
 
*3550 Gb switch
+
*Qlogic switch  
 +
**Telnet eller http: til 172.16.4.11 (username '''admin''' password '''adminpass''')  
 +
*3550 Gb switch  
 
**Telnet til 172.16.4.88 password '''cisco'''
 
**Telnet til 172.16.4.88 password '''cisco'''
=Hastighed=
 
Infinibands hastighed er 4.38 Gbits/sec
 
=Harddisk partitionering=
 
På det rigtige cluster er partitioneringen lavet som følger:
 
;/: ext4 5GB
 
;/tmp: ext4 10GB
 
;/var: ext4 15GB
 
;/boot: ext4 2GB
 
;/usr: ext4 50GB
 
;swap: swap 2xRAM
 
;/home: ext4 resterende plads - 10GB
 
  
=Links=
+
= Hastighed =
*[[Weekend Projekt - Test Cluster]]
+
 
*[[NIS Ubuntu]]
+
Infinibands hastighed er 4.38 Gbits/sec
*[http://coen.boisestate.edu/ece/files/2013/05/Rasp.-Pi.pdf RPi Cluster] -> [http://www.youtube.com/watch?v=i_r3z1jYHAc YouTube Video]
+
 
 +
= Harddisk partitionering =
 +
 
 +
På det rigtige cluster er partitioneringen lavet som følger:
 +
 
 +
;/
 +
:ext4 5GB
 +
;/tmp
 +
:ext4 10GB
 +
;/var
 +
:ext4 15GB
 +
;/boot
 +
:ext4 2GB
 +
;/usr
 +
:ext4 50GB
 +
;swap
 +
:swap 2xRAM
 +
;/home
 +
:ext4 resterende plads - 10GB
 +
 
 +
= Links =
 +
 
 +
*[[Weekend Projekt - Test Cluster]]  
 +
*[[NIS Ubuntu]]  
 +
*[http://coen.boisestate.edu/ece/files/2013/05/Rasp.-Pi.pdf RPi Cluster] -> [http://www.youtube.com/watch?v=i_r3z1jYHAc YouTube Video]
 +
 
 
[[Category:Cluster]]
 
[[Category:Cluster]]

Latest revision as of 10:52, 4 November 2014

Introduktion

At udvikle et Ubuntu cluster installationsmetode og implementere den fysisk således at programmer kan afvikles.

metode

Installationsmetoden udvikles på ESXi og implementeres på de fysiske servere.

Mål

  • En master
  • minimum to noder
  • automatiseret installation af noder. (Så godt som muligt)
  • automatiseret oprettelse af brugere LDAP eller NIS
  • MPI

Lab environment on local PC

LAST UPDATE AUTUMN 2014 (pre-course edits) Comments, corrections and additions welcome! :-)

This lab environment is build upon the virtual platform VMware Workstation and Ubuntu-Server 14.04.1 64Bit (ubuntu-14.04.1-server-amd64.iso) as cluster and nodes OS. Ubuntu server can be downloaded here

This guide will guide you though how to build a virtual Linux/Ubuntu cluster lab environment on your local machine. This environment can later be implemented on the real cluster.

Master installation and configuration

  1. Install master
  2. Install and configure DHCP server
  3. Install and configure DNS server
  4. Configure Routing, NAT and NIS
  5. PXE and Kickstart configuration
  6. Install and configure NFS server, apt-cacher and SSH auto login
  7. Install and configure Multi Router Traffic Grapher - MRTG - doesn't work properly
  8. Install and configure DSH and OpenMPI
  9. Install and configure OpenCV

Nodes installation and configuration

Udvikling fase 1

  1. Installer ESXi
  2. Installer Ubuntu Master
  3. Installer og konfigurer DHCP server
  4. Installer og konfigurer DNS server
  5. Routening og NAT gennem Master
  6. LDAP eller NIS til user login på noder
  7. Tilføjelse af ny klient
  8. PXE installation af noder
  9. NFS Server til netværk shares
  10. apt-cacher installation
  11. Auto SSH login på noder uden at skrive pass
  12. Kickstart fil til installation af noder
  13. Overvågning med MRTG
  14. Distributed Shell dsh
  15. Installation af openMPI og MPICH
  16. Installation af OpenCV
  17. InfiniBand

Test af head installation på fysisk maskine

  1. Installation af head node
  2. Installation/testing af CUDA
  3. Installation af OpenCV
  4. Makefile

Udvikling fase 2

  1. Tilpasning af SW og konfigurationsfiler til noder

Udvikling fase 3

  1. Installation af SAN

Udvikling fase 4

  1. Installation af fysiske maskiner

Netværk

  • Qlogic switch
    • Telnet eller http: til 172.16.4.11 (username admin password adminpass)
  • 3550 Gb switch
    • Telnet til 172.16.4.88 password cisco

Hastighed

Infinibands hastighed er 4.38 Gbits/sec

Harddisk partitionering

På det rigtige cluster er partitioneringen lavet som følger:

/
ext4 5GB
/tmp
ext4 10GB
/var
ext4 15GB
/boot
ext4 2GB
/usr
ext4 50GB
swap
swap 2xRAM
/home
ext4 resterende plads - 10GB

Links