KLASIFIKASI MALWARE BERBASIS GAMBAR DENGAN COMPACT CONVOLUTIONAL TRANSFORMER

Abstrak

Banyaknya trafik Internet yang disusupi malware mengganggu aktivitas di Internet. Malware yang tidak terdeteksi dapat melumpuhkan sistem dan membocorkan data penting. Untuk mencegah hal tersebut, diperlukan model klasifikasi yang andal. Compact Convolutional Transformer (CCT) merupakan salah satu arsitektur pembelajaran mendalam yang menggabungkan algoritma encoder layer dari Vision Transformer dan konvolusi tradisional, serta dirancang untuk melakukan klasifikasi dengan efektif meskipun dilatih pada dataset kecil. Namun, ketika diujikan menggunakan gabungan dataset MalImg dan kelas benign dari DikeDataset, ditemukan bahwa model ini mengalami gejala overfitting. Untuk mengatasi hal tersebut, penelitian ini mengusulkan modifikasi pada arsitektur CCT dengan menambahkan mekanisme average pooling di akhir bagian feature extractor, paralel dengan sequence pooling. Hasil dari kedua pooling kemudian di-concatenate sebelum masuk ke lapisan klasifikasi. Eksperimen dilakukan dalam berbagai skenario termasuk pelatihan penuh tanpa early stopping. Hasilnya menunjukkan bahwa modifikasi CCT dengan average pooling mampu mengurangi overfitting dan meningkatkan akurasi, ditandai dengan jumlah epoch sebelum konvergensi yang lebih panjang (8+ epoch) dengan early stopping, peningkatan akurasi evaluasi sebesar 3,35% dengan early stopping, serta 5,72% tanpa early stopping. Selain itu, peningkatan performa tersebut terbukti signifikan secara statistik berdasarkan uji t Welch terhadap akurasi evaluasi dengan nilai p 5,83×10⁻⁶ dan rata-rata loss validasi dengan nilai p 7,54×10⁻⁷ (p < 0,05). Namun setelah diterapkan stratifikasi dan bobot kelas, hasil akurasi evaluasi modifikasi CCT menurun 1,74% dari hasil CCT baseline serta peningkatan loss validasi signifikan dengan nilai p 0,0009 (p < 0,05), menunjukkan bahwa hasilnya sensitif terhadap keseimbangan dataset