Dalam beberapa tahun ini, malware menimbulkan ancaman yang sangat serius dan terus berkembang membuat deteksi malware menjadi perhatian utama. Pencegahan dan penanggulangan malware dapat dilakukan melalui deteksi signature dan perilaku malware tersebut. Malware yang semakin berevolusi dapat menghindari proses pencocokan signature dengan memodifikasi dirinya secara dinamis, sehingga sulit bagi system untuk mempertahankan diri dari infeksi malware. Dengan mengamati perilaku malware ada beberapa informasi yang didapat salah satunya berupa fitur API call yang dapat merepresentasikan tujuan dari malware. Beberapa penelitian terkait telah dilakukan untuk mendeteksi serangan malware, dan memiliki akurasi yang bagus. Namun, kebanyakan penerapan deteksi tersebut dibangun diatas arsitektur pembelajaran yang dangkal. Diantara metode deep learning yang digunakan, Autoencoder merupakan metode yang sangat jarang digunakan. Autoencoder merupakan salah satu arsitektur dalam deep learning yang digunakan untuk mereduksi data. Oleh karena itu, pada tugas akhir ini, Convolutional Neural Network Autoencoder (CNN-AE) digunakan sebagai metode pembelajaran deteksi malware. Akurasi deteksi yang berhasil dicapai oleh model CNN-AE adalah 97.14 %.
Kata kunci : deep learning, malware, api call, autoencoder, convolutional neural network