Internet of Things (IoT) merupakan inovasi teknologi yang menghubungkan perangkat fisik melalui internet untuk bertukar data secara otomatis, meningkatkan efisiensi di berbagai bidang seperti rumah pintar dan sistem keamanan. Namun, pertumbuhan perangkat yang terhubung juga meningkatkan risiko serangan siber. Salah satu ancaman yang sering terjadi adalah serangan Denial of Service (DoS), yang membanjiri jaringan dengan lalu lintas berlebih sehingga mengganggu komunikasi antarperangkat. Serangan ini kerap memanfaatkan protokol MQTT, yang umum digunakan karena ringan dan efisien. Penelitian ini bertujuan untuk mendeteksi serangan DoS pada perangkat IoT berbasis MQTT menggunakan algoritma XGBoost, dengan optimasi fitur melalui metode Particle Swarm Optimization (PSO). Masukan sistem berupa data trafik MQTT, dan keluarannya adalah klasifikasi apakah data tersebut normal atau serangan. Data diperoleh melalui simulasi secara langsung untuk merepresentasikan kondisi nyata. Hasil penelitian menunjukkan bahwa model mampu mendeteksi serangan dengan precision 95.76% - 98.84%, recall 99.97% - 99.99%, F1-score 97.72% - 99.40%, dan akurasi rata-rata 99.94%. Model juga tidak melakukan kesalahan pada trafik normal. Dengan demikian, metode ini terbukti efektif dalam mendeteksi serangan DoS dan dapat menjadi solusi andal untuk meningkatkan keamanan jaringan pada infrastruktur IoT.
Kata kunci : DoS, IoT, MQTT, Machine Learning, Particle Swarm Optimization, XGBoost.