Pemrograman paralel adalah abstraksi arsitektur komputer paralel yang mana lebih mudah mengekspresikan algoritma dan komposisinya dalam program komputer. Pada umumnya, masalah-masalah besar dalam komputasi sering kali dapat dibagi menjadi masalah yang lebih kecil, sehingga dapat diselesaikan pada saat yang bersamaan. Misalnya, permodelan, simulasi dan memahami fenomena dunia yang kompleks dan nyata pada jam sibuk lalu lintas sampai dengan formasi galaksi.
Alasan utama menggunakan pemrograman paralel adalah dapat menghemat waktu dan uang; dapat menyelesaikan masalah yang lebih besar/kompleks; dapat menyediakan concurrency; dapat menggunakan sumber daya non-lokal pada komputasi grid; dan dapat memanfaatkan performa perangkat keras paralel. Agar bisa berhasil dalam komputasi paralel, berikut tips-tips yang dapat diikuti:
- Belilah mesin komputer yang lebih cepat
Pertama, lihatlah berapa banyak biaya untuk membuat program paralel. Jika akan memakan waktu dua bulan coding, misalnya, maka dapatkah Anda membeli mesin yang lebih cepat yang akan memberikan speedup yang diinginkan? Setelah Anda mencapai batas kecepatan mesin, maka Anda harus melakukan beberapa paralelisasi.
- Mulailah dari yang kecil
Jangan coba membuat semuanya secara paralel sekaligus, tetapi bekerjalah pada potongan kode program yang kecil-kecil.
- Mulai dari nol? Gunakanlah roda orang lain
Jika Anda mulai dari nol, lihatlah apa yang telah dilakukan oleh orang lain. Belajarlah dari orang lain. Jangan menemukan roda kembali!
- Temukanlah cara logging/debugging aplikasi Anda
Pastikanlah Anda memiliki cara untuk menelusuri apa yang sedang dilakukan oleh aplikasi Anda. Jika perlu, belilah beberapa perangkat lunak yang akan melakukan tracing.
- Lihatlah letak kode program yang sedang berjuang
Periksalah perilaku runtime aplikasi Anda. Hotspot yang ditemukan seharusnya menjadi bagian paralel.
- Tuliskanlah versi algoritme yang paralel
Cobalah menulis ulang algoritme yang cocok dengan paradigma paralel.
- Berhentilah saat sudah cukup baik
Ketika Anda berpikir bahwa jalannya program sudah cukup baik, berhentilah. Tetapkan tujuan – ketika Anda mencapainya, maka Anda sudah selesai.
- Berhati-hatilah, Anda berjalan di atas telur-telur, dan beberapa telur adalah ranjau darat
Berhati-hatilah dengan kode paralel. Beberapa error bisa merusak program. Gunakanlah tool yang bagus untuk memeriksa setiap data race dan error yang lain.
- Dapatkanlah load-balancing yang benar
Setelah Anda membuat program paralel, pastikanlah semua thread melakukan pekerjaan dengan jumlah yang sama.
Baca juga Delapan Aturan Pemrograman Paralel untuk Multicore
