Komputasi paralel adalah teknik komputasi yang dilakukan
secara bersama-sama dengan memanfaatkan beberapa komputer indpenden karena
diperlukan kapasitas yang besar baik untuk mengolah dat dalam jumlah besar atau
tuntutan proses komputasi yang banyak.
Tujuan utama penggunaan komputasi paralel :
1. Untuk permasalahan yang
besar, terkadang sumber daya komputasi yang ada sekarang belum cukup mampu
untuk mendukung penyelesaian terhadap permasalahan tersebut
2. Adanya sumber daya
non-lokal yang dapat digunakan melalui jaringan atau internet
3. Penghematan biaya
pengadaan perangkat keras, dengan menggunakan beberapa mesin yang murah sebagai
alternatif penggunaan satu mesin yang bagus tapi mahal, walaupun menggunakan n
buah prosesor
4. Adanya keterbatasan
kapasitas memori pada mesin untuk komputasi serial.
Arsitektur memori pada
komputer paralel, yaitu shared memory dan distributed memory
1. Shared memory :
arsitektur ini menyediakan global addressing sehingga berbagai prosesor
mempunyai cara pengaksesan memori yang seragam.
Berdasarkan frekuensi
akses, ada dua jenis shared memory :
Uniform Memory Access
(UMA) : setiap prosesor memiliki hak pengaksesan yang seragam dengan prosesor
lain
Non Uniform Memory
Access (NUMA) : tidak semua prosesor memiliki hak yang sama dalam mengakses
memori
2.
Distributed memory : arsitektur ini mempunyai karakteristik di mana
setiap prosesor memiliki memorinya masing-masing, sehingga eksekusi instruksi
dapat berjalan secara independen antara satu prosesor dengan yang lain.
Prosesor akan menggunakan jaringan ketika membutuhkan akses ke memori non
lokal. Akses ini sepenuhnya menjadi tanggung jawab penulis program.
Kelebihan dari arsitektur ini adalah terjaganya skalabilitas ketika terjadi
penambahan prosesor. Sedangkan kekurangannya adalah penulis program harus
berurusan dengan detail komunikasi data antara prosesor dan memori non lokal.
