Model deep learning (DL) menunjukkan akurasi yang unggul dalam menganalisis sinyal EKG untuk mendeteksi infark miokard. Namun, pendekatan ini sering dianggap sebagai "black box" yang sulit dipahami oleh tenaga medis. Penelitian ini mengevaluasi penerapan explainable AI (XAI), yakni Grad-CAM dan LRP, dalam meningkatkan interpretabilitas model DL berbeda untuk deteksi infark miokard menggunakan sinyal EKG. Hasil menunjukkan bahwa Grad-CAM memberikan penjelasan spasial yang konsisten dengan atribusi positif serta lebih sederhana, sementara LRP dapat memberikan atribusi positif maupun negatif, membedakan relevansi antar-lead, serta tidak tergantung pada resolusi spasial dari layer internal model. Kemudian, kombinasi Grad-CAM untuk analisis temporal dan LRP untuk analisis relevansi lead memberikan interpretasi model yang paling komprehensif dan direkomendasikan untuk evaluasi relevansi klinis model DL. Terakhir, dari tiga jenis model konvolusional yang diuji coba, arsitektur InceptionTime ditemukan merupakan model terbaik, dengan akurasi tertinggi serta utilisasi lead tertinggi.