Teknologi virtualisasi yang berkembang saat ini dapat menggabungkan sumber daya yang ada seperti komputer, sistem operasi dan media penyimpanan untuk digunakan secara virtual pada suatu infrastruktur cloud computing. Selain itu teknologi virtualisasi saat ini juga memungkinkan perangkat jaringan bekerja secara virtual dan tidak lagi bergantung dengan perangkat fisiknya. Seiring meningkatnya pertumbuhan cloud computing menyebabkan peningkatan jumlah trafik serta permintaan pada layanan cloud server, sehingga beban yang diterima oleh server menjadi semakin besar.
Oleh sebab itu, salah satu solusi untuk membagi beban kerja server adalah dengan menggunakan load balancer. Load balancer adalah sebuah perangkat yang biasa digunakan sebagai pengatur beban trafik dalam suatu jaringan di sejumlah server menggunakan teknik load balancing. Load balancing adalah teknik untuk mendistribusikan beban trafik pada dua atau lebih jalur koneksi secara seimbang, agar trafik dapat berjalan optimal, memaksimalkan throughput dan menghindari overload pada salah satu jalur koneksi.
Pada tugas akhir ini telah diimplementasikan dan dianalisa load balancer as a service di dalam cloud environment OpenStack. Dari hasil penelitian yang dilakukan diketahui bahwa kinerja server dengan menggunakan load balancing lebih baik dibandingkan dengan single server, karena beban kerja dan beban trafik tidak lagi dilayani oleh satu server lagi melainkan beban dibagi ke tiga buah server dan pada sistem load balancing terdapat health monitor yang dapat mengurangi jumlah antrian. Pada penelitian ini juga diketahui, algoritma yang paling baik digunakan untuk load balancing adalah least connection, karena dapat meminimalisir jumlah frame drop serta terjadi penurunan CPU Utilization sebesar 17 %.