Serangan phishing merupakan salah satu bentuk kejahatan siber yang terus meningkat dan memanfaatkan situs web palsu untuk memperoleh informasi pribadi pengguna. Deteksi secara manual sulit dilakukan karena situs phishing sering kali memiliki tampilan dan alamat yang menyerupai situs legitimate. Oleh karena itu, diperlukan sistem deteksi otomatis yang mampu mengidentifikasi URL phishing secara cepat dan akurat. Penelitian ini bertujuan untuk merancang dan mengimplementasikan sistem deteksi URL phishing berbasis algoritma Extreme Gradient Boosting (XGBoost) yang dilengkapi dengan Explainable Artificial Intelligence (XAI) menggunakan metode TreeSHAP agar hasil prediksi dapat dijelaskan kepada pengguna. Metodologi penelitian meliputi pengumpulan dataset URL phishing dan legitimate, prapemrosesan data, ekstraksi fitur berdasarkan karakteristik URL, pelatihan model XGBoost, evaluasi model, serta implementasi model ke dalam aplikasi berbasis web. Evaluasi dilakukan menggunakan empat skenario pembagian data, yaitu 80:20, 70:30, 60:40, dan 50:50 dengan metrik accuracy, precision, recall, F1-score, confusion matrix, dan Receiver Operating Characteristic- Area Under the Curve (ROC-AUC). Hasil pengujian menunjukkan bahwa performa model relatif stabil pada seluruh skenario, dengan accuracy sebesar 86,15%–86,21% dan ROC-AUC sebesar 89,04%–89,08%. Skenario 80:20 dipilih sebagai model akhir karena menghasilkan accuracy tertinggi sebesar 86,21%, dengan nilai precision 0,95, recall 0,72, dan F1-score 0,82 pada kelas phishing, serta precision 0,82, recall 0,97, dan F1-score 0,89 pada kelas legitimate. Selain evaluasi menggunakan data uji dari dataset, pengujian terhadap URL nyata menunjukkan bahwa sistem masih memiliki keterbatasan dalam melakukan generalisasi, khususnya terhadap URL legitimate yang memiliki path, subdomain, atau Top-Level Domain (TLD) yang kurang terwakili dalam data pelatihan. Implementasi TreeSHAP berhasil memberikan penjelasan mengenai kontribusi fitur terhadap hasil prediksi melalui visualisasi, sehingga keputusan model menjadi lebih transparan dan mudah dipahami oleh pengguna. Evaluasi tanggapan masyarakat umum juga menunjukkan bahwa sistem dapat digunakan dan dipahami oleh pengguna, meskipun masih terdapat masukan untuk meningkatkan akurasi, kemudahan antarmuka, dan pengembangan fitur sistem. Secara keseluruhan, penelitian ini berhasil menghasilkan prototipe sistem deteksi URL phishing berbasis web yang mampu melakukan klasifikasi secara real-time serta memberikan penjelasan menggunakan XAI, tetapi peningkatan kualitas dan keberagaman data pelatihan serta penambahan karakteristik selain URL masih diperlukan untuk meningkatkan kemampuan generalisasi sistem pada kondisi nyata.