Difference between revisions of "Cluster der kan alt"

From Teknologisk videncenter
Jump to: navigation, search
(→‎Test af head installation på fysisk maskine)
 
(70 intermediate revisions by 9 users not shown)
Line 1: Line 1:
−
{{TOCright}}
+
{{TOCright}}  
−
=Introduktion=
 
−
At udvikle et [[Ubuntu]] cluster installationsmetode og implementere den fysisk senest den 26. april 2012 således programmelet udviklet kan afvikles.
 
  
−
=metode=
+
= Introduktion =
−
Installationsmetoden udvikles på [[ESXi]] og implementeres på de fysiske servere.
 
  
−
=Mål=
+
At udvikle et [[Ubuntu]] cluster installationsmetode og implementere den fysisk således at programmer kan afvikles.
−
*En master
+
 
−
*minimum to noder
+
= metode =
−
*automatiseret installation af noder. (Så godt som muligt)
+
 
−
*automatiseret oprettelse af brugere [[LDAP]] eller [[NIS Ubuntu|NIS]]
+
Installationsmetoden udvikles på [[ESXi]] og implementeres på de fysiske servere.
−
*[[MPI]]  
+
 
−
==Udvikling fase 1==
+
= Mål =
−
#Installer [[ESXi]]
+
 
−
#[[/Ubuntu Master|Installer Ubuntu Master]]
+
*En master  
−
#[[/DHCP server|Installer og konfigurer DHCP server]]
+
*minimum to noder  
−
#[[/DNS Server|Installer og konfigurer DNS server]]
+
*automatiseret installation af noder. (Så godt som muligt)  
−
#[[/Routning og NAT|Routening og NAT gennem Master]]
+
*automatiseret oprettelse af brugere [[LDAP]] eller [[NIS Ubuntu|NIS]]  
−
#[[/LDAP eller NIS| LDAP eller NIS til user login på noder]]
+
*[[MPI]]
−
#[[/PXE installation af noder|PXE installation af noder]]
+
 
−
#[[/NFS Server | NFS Server til netværk shares ]]
+
==Lab environment on local PC==
−
#[[/apt-cacher installation|apt-cacher installation]]
+
 
−
#[[/Kickstart fil til installation af noder|Kickstart fil til installation af noder]]
+
'''LAST UPDATE AUTUMN 2014 (pre-course edits)''' Comments, corrections and additions welcome! :-)
−
#[[/Overvågning med MRTG|Overvågning med MRTG]]
+
 
−
#[[/dsh|Distributed Shell dsh]]
+
This lab environment is build upon the virtual platform VMware Workstation and Ubuntu-Server 14.04.1 64Bit (ubuntu-14.04.1-server-amd64.iso) as cluster and nodes OS. Ubuntu server can be downloaded [http://www.ubuntu.com/download/server| here]
 +
 
 +
This guide will guide you though how to build a virtual Linux/Ubuntu cluster lab environment on your local machine. This environment can later be implemented on the real cluster.
 +
 
 +
*[[/Oprettelse af master og nodes maskiner|Create master and nodes machine]]
 +
'''Master installation and configuration'''
 +
#[[/Installation af master|Install master]]
 +
#[[/Install DHCP server|Install and configure DHCP server]]
 +
#[[/Install DNS server|Install and configure DNS server]]
 +
#[[/Routing NAT and NIS|Configure Routing, NAT and NIS]]
 +
#[[/PXE and Kickstart|PXE and Kickstart configuration]]
 +
#[[/Configure NFS server, Apt cacher and SSH auto login|Install and configure NFS server, apt-cacher and SSH auto login]]
 +
#[[/Multi Router Traffic Grapher|Install and configure Multi Router Traffic Grapher - MRTG]] - doesn't work properly
 +
#[[/DSH and MPI|Install and configure DSH and OpenMPI]]
 +
#[[/OpenCV|Install and configure OpenCV]]
 +
'''Nodes installation and configuration'''
 +
 
 +
== Udvikling fase 1 ==
 +
 
 +
#Installer [[ESXi]]  
 +
#[[/Ubuntu Master|Installer Ubuntu Master]]  
 +
#[[/DHCP server|Installer og konfigurer DHCP server]]  
 +
#[[/DNS Server|Installer og konfigurer DNS server]]  
 +
#[[/Routning og NAT|Routening og NAT gennem Master]]  
 +
#[[/LDAP eller NIS|LDAP eller NIS til user login på noder]]
 +
#[[/Tilføjelse af ny klient|Tilføjelse af ny klient]]  
 +
#[[/PXE installation af noder|PXE installation af noder]]  
 +
#[[/NFS Server|NFS Server til netværk shares ]]  
 +
#[[/apt-cacher installation|apt-cacher installation]]
 +
#[[/Auto SSH|Auto SSH login på noder uden at skrive pass]]  
 +
#[[/Kickstart fil til installation af noder|Kickstart fil til installation af noder]]  
 +
#[[/Overvågning med MRTG|Overvågning med MRTG]]  
 +
#[[/dsh|Distributed Shell dsh]]  
 
#[[/mpi|Installation af openMPI og MPICH]]  
 
#[[/mpi|Installation af openMPI og MPICH]]  
−
=== Test af head installation på fysisk maskine===
+
#[[Installation af OpenCV]]
−
#[[/Installation af head node|Installation af head node]]
+
#[[InfiniBand]]
−
#[[/Installation af CUDA|Installation af CUDA]]
+
 
 +
=== Test af head installation på fysisk maskine ===
 +
 
 +
#[[/Installation af head node|Installation af head node]]  
 +
#[[/Installation af CUDA|Installation/testing af CUDA]]  
 +
#[http://www.raben.com/content/opencv-installation-ubuntu-1204 Installation af OpenCV]
 +
#[[/makefile script |Makefile]]
 +
 
 +
== Udvikling fase 2 ==
  
−
==Udvikling fase 2==
 
 
#Tilpasning af SW og konfigurationsfiler til noder
 
#Tilpasning af SW og konfigurationsfiler til noder
−
==Udvikling fase 3==
+
 
 +
== Udvikling fase 3 ==
 +
 
 
#Installation af [[SAN]]
 
#Installation af [[SAN]]
−
==Udvikling fase 4==
+
 
 +
== Udvikling fase 4 ==
 +
 
 
#Installation af fysiske maskiner
 
#Installation af fysiske maskiner
  
−
=Links=
+
= Netværk =
−
*[[Weekend Projekt - Test Cluster]]
+
 
−
*[[NIS Ubuntu]]
+
*Qlogic switch
 +
**Telnet eller http: til 172.16.4.11 (username '''admin''' password '''adminpass''')
 +
*3550 Gb switch
 +
**Telnet til 172.16.4.88 password '''cisco'''
 +
 
 +
= Hastighed =
 +
 
 +
Infinibands hastighed er 4.38 Gbits/sec
 +
 
 +
= Harddisk partitionering =
 +
 
 +
På det rigtige cluster er partitioneringen lavet som følger:
 +
 
 +
;/
 +
:ext4 5GB
 +
;/tmp
 +
:ext4 10GB
 +
;/var
 +
:ext4 15GB
 +
;/boot
 +
:ext4 2GB
 +
;/usr
 +
:ext4 50GB
 +
;swap
 +
:swap 2xRAM
 +
;/home
 +
:ext4 resterende plads - 10GB
 +
 
 +
= Links =
 +
 
 +
*[[Weekend Projekt - Test Cluster]]  
 +
*[[NIS Ubuntu]]  
 +
*[http://coen.boisestate.edu/ece/files/2013/05/Rasp.-Pi.pdf RPi Cluster] -> [http://www.youtube.com/watch?v=i_r3z1jYHAc YouTube Video]
 +
 
 
[[Category:Cluster]]
 
[[Category:Cluster]]

Latest revision as of 11:52, 4 November 2014

Introduktion

At udvikle et Ubuntu cluster installationsmetode og implementere den fysisk således at programmer kan afvikles.

metode

Installationsmetoden udvikles på ESXi og implementeres på de fysiske servere.

Mål

  • En master
  • minimum to noder
  • automatiseret installation af noder. (Så godt som muligt)
  • automatiseret oprettelse af brugere LDAP eller NIS
  • MPI

Lab environment on local PC

LAST UPDATE AUTUMN 2014 (pre-course edits) Comments, corrections and additions welcome! :-)

This lab environment is build upon the virtual platform VMware Workstation and Ubuntu-Server 14.04.1 64Bit (ubuntu-14.04.1-server-amd64.iso) as cluster and nodes OS. Ubuntu server can be downloaded here

This guide will guide you though how to build a virtual Linux/Ubuntu cluster lab environment on your local machine. This environment can later be implemented on the real cluster.

Master installation and configuration

  1. Install master
  2. Install and configure DHCP server
  3. Install and configure DNS server
  4. Configure Routing, NAT and NIS
  5. PXE and Kickstart configuration
  6. Install and configure NFS server, apt-cacher and SSH auto login
  7. Install and configure Multi Router Traffic Grapher - MRTG - doesn't work properly
  8. Install and configure DSH and OpenMPI
  9. Install and configure OpenCV

Nodes installation and configuration

Udvikling fase 1

  1. Installer ESXi
  2. Installer Ubuntu Master
  3. Installer og konfigurer DHCP server
  4. Installer og konfigurer DNS server
  5. Routening og NAT gennem Master
  6. LDAP eller NIS til user login på noder
  7. Tilføjelse af ny klient
  8. PXE installation af noder
  9. NFS Server til netværk shares
  10. apt-cacher installation
  11. Auto SSH login på noder uden at skrive pass
  12. Kickstart fil til installation af noder
  13. Overvågning med MRTG
  14. Distributed Shell dsh
  15. Installation af openMPI og MPICH
  16. Installation af OpenCV
  17. InfiniBand

Test af head installation på fysisk maskine

  1. Installation af head node
  2. Installation/testing af CUDA
  3. Installation af OpenCV
  4. Makefile

Udvikling fase 2

  1. Tilpasning af SW og konfigurationsfiler til noder

Udvikling fase 3

  1. Installation af SAN

Udvikling fase 4

  1. Installation af fysiske maskiner

Netværk

  • Qlogic switch
    • Telnet eller http: til 172.16.4.11 (username admin password adminpass)
  • 3550 Gb switch
    • Telnet til 172.16.4.88 password cisco

Hastighed

Infinibands hastighed er 4.38 Gbits/sec

Harddisk partitionering

På det rigtige cluster er partitioneringen lavet som følger:

/
ext4 5GB
/tmp
ext4 10GB
/var
ext4 15GB
/boot
ext4 2GB
/usr
ext4 50GB
swap
swap 2xRAM
/home
ext4 resterende plads - 10GB

Links

Retrieved from "http://mars.merhot.dk/w/index.php?title=Cluster_der_kan_alt&oldid=28470"