Pertumbuhan pada bidang telekomunikasi saat ini berkembang sangat pesat, hal ini disebabkan karena kebutuhan user yang menginginkan layanan telekomunikasi yang cepat dengan cakupan yang luas. Radio Over Fiber (RoF) merupakan solusi yang ditawarkan karena menyediakan layanan dengan bandwidth yang besar dan cakupannya yang luas karena mengkombinasikan antara jaringan seluler dengan jaringan fiber optik. fiber optik menyediakan bandwidth yang besar dan redaman yang kecil dan jaringan radio menyediakan cakupan yang luas sehingga dengan mengkombinasikan teknologi ini dapat memenuhi kebutuhan user.
Pada penelitian ini membuat sistem RoF untuk layanan 4G dan 5G untuk mempersiapkan peralihan pada jaringan seluler dari 4G menuju 5G. Sistem RoF untuk jaringan 4G menggunakan frekuensi 2.3 GHz dengan bit rate 10 Gbps, sedangkan sistem RoF untuk jaringan 5G menggunakan frekuensi 3.5 GHz dan 60 GHz dengan bit rate 10 Gbps. Teknik modulasi yang digunakan yaitu 4-Quardature Amplitude Modulation (QAM) dengan menggunakan modulator optik Lithium Nitrobate (LiNb) Mach Zehnder Modulator. Pada simulasi menggunakan jarak lintasan optik 30 Km, 45 Km, dan 60 Km.
Hasil performansi sistem RoF dengan jarak terjauh 60 Km mendapatkan nilai Q-factor sebesar 6.017 dan BER sebesar 9.463x10-10 pada sistem RoF menggunakan frekuensi 2.3 GHz. Pada sistem RoF menggunakan frekuensi 3.5 GHz mendapatkan nilai Q-factor sebesar 6.199 dan BER sebesar 2.823x10-10. Pada sistem RoF menggunakan frekeunsi 60 GHz mendapatkan nilai Q-factor sebesar 6.363 dan BER sebesar 9.758x10-11. Hasil dari ketiga skema masih memenuhi standar nilai Q-factor sebesar 6 dan nilai BER 10-9.
Kata kunci : RoF, QAM, Q-factor, BER.