Optimasi Klasifikasi Sentimen Menggunakan Random Forest dengan Preprocessing K-Means Clustering dan SMOTE
DOI:
https://doi.org/10.26418/jp.v10i3.84514Keywords:
Analisis Sentimen, Random Forestl, K-Means Clustering, SMOTE, Preprocessing DataAbstract
Salah satu topik penelitian terkini dalam bidang pengolahan informasi adalah opinion mining atau analisis sentimen dimana didalamnya terdapat pekerjaan utama yaitu klasifikasi sentimen pada data teks. Penelitian ini bertujuan mengoptimalkan proses klasifikasi sentimen dengan mengatasi tantangan-tantangan umum seperti ketidakseimbangan kelas dan kualitas data input dengan mengusulkan metode baru untuk meningkatkan kinerja mesin klasifikasi yang digunakan. Data yang digunakan untuk mengevaluasi metode yang diusulkan adalah satu topik yang diperbincangkan di media sosial Twitter yaitu terkait kebijakan peralihan mobil listrik di Indonesia. Jumlah data yang dikumpulkan adalah tweet berbahasa Indonesia dimulai pada tanggal 01 Januari 2019 hingga 27 Februari 2023 dengan jumlah data yang diperoleh adalah 7.745 data tweet. Penelitian ini mengikuti model penelitian data science CRISP-DM, dimulai dengan observasi topik, pengumpulan data, pelabelan, dan preprocessing data. Data yang telah diberi label dibagi menjadi data train dan data test, kemudian melalui tahap ekstraksi fitur menggunakan TF-IDF (Term Frequency-Inverse Document Frequency). Model Random Forest diterapkan untuk klasifikasi sentimen, dan teknik SMOTE (Synthetic Minority Over-sampling Technique) digunakan untuk menangani ketidakseimbangan kelas. Hasil eksperimen menunjukkan bahwa kombinasi preprocessing K-Means Clustering dan SMOTE secara signifikan meningkatkan kinerja model klasifikasi sentimen. Model Random Forest menghasilkan akurasi sebesar 98,47% dengan 5-fold cross validation, dan setelah penambahan teknik SMOTE, akurasi meningkat menjadi 99,55%.
References
F. V. Sari and A. Wibowo, “Analisis sentimen pelanggan toko online Jd. Id menggunakan metode Naive Bayes Classifier berbasis konversi ikon emosi,†Simetris J. Tek. Mesin, Elektro dan Ilmu Komput., vol. 10, no. 2, pp. 681–686, 2019.
J. E. Sembodo, E. B. Setiawan, and Z. A. Baizal, “Data crawling otomatis pada twitter,†in Indonesian Symposium on Computing (Indo-SC), 2016, pp. 11–16.
Y. A. V. Gunawana, N. A. S. ERa, I. B. M. Mahendraa, and I. Made, “Analisis Sentimen Ulasan Aplikasi Transportasi Online Menggunakan Multinomial Naive Bayes dan Query Expansion Ranking,†J. Elektron. Ilmu Komput. Udayana p-ISSN, vol. 2301, p. 5373, 2022.
J. Hartmann, J. Huppertz, C. Schamp, and M. Heitmann, “Comparing automated text classification methods,†Int. J. Res. Mark., vol. 36, no. 1, pp. 20–38, 2019.
M. B. A. Darmawan, F. Dewanta, and S. Astuti, “Analisis Perbandingan Algoritma Decision Tree, Random Forest, dan Naive Bayes untuk Prediksi Banjir di Desa Dayeuhkolot,†TELKA-Jurnal Telekomun. Elektron. Komputasi dan Kontrol, vol. 9, no. 1, pp. 52–61, 2023.
A. Miftahusalam, A. F. Nuraini, A. A. Khoirunisa, and H. Pratiwi, “Perbandingan Algoritma Random Forest, Naive Bayes, dan Support Vector Machine Pada Analisis Sentimen Twitter Mengenai Opini Masyarakat Terhadap Penghapusan Tenaga Honorer,†in Seminar Nasional Official Statistics, 2022, vol. 2022, no. 1, pp. 563–572.
A. F. Anjani, D. Anggraeni, and I. M. Tirta, “Implementasi Random Forest Menggunakan SMOTE untuk Analisis Sentimen Ulasan Aplikasi Sister for Students UNEJ,†J. Nas. Teknol. Dan Sist. Inf., vol. 9, no. 2, pp. 163–172, 2023.
A. Harjadinata and Y. Sibaroni, “Multi-Aspect Sentiment Analysis on Tiktok Using Random Forest Classifier and Word2Vec,†in 2022 1st International Conference on Software Engineering and Information Technology (ICoSEIT), 2022, pp. 261–266.
S. N. Adhan, G. N. A. Wibawa, D. C. Arisona, I. Yahya, and R. Ruslan, “Analisis Sentimen Ulasan Aplikasi Wattpad di Google Play Store dengan Metode Random Forest,†AnoaTIK J. Teknol. Inf. dan Komput., vol. 2, no. 1, pp. 6–15, 2024.
A. S. Neogi, K. A. Garg, R. K. Mishra, and Y. K. Dwivedi, “Sentiment analysis and classification of Indian farmers’ protest using twitter data,†Int. J. Inf. Manag. Data Insights, vol. 1, no. 2, p. 100019, 2021.
H. Hassani, C. Beneki, S. Unger, M. T. Mazinani, and M. R. Yeganegi, “Text mining in big data analytics,†Big Data Cogn. Comput., vol. 4, no. 1, pp. 1–34, 2020, doi: 10.3390/bdcc4010001.
L. Hickman, S. Thapa, L. Tay, M. Cao, and P. Srinivasan, “Text Preprocessing for Text Mining in Organizational Research: Review and Recommendations,†Organ. Res. Methods, vol. 25, no. 1, pp. 114–146, 2022, doi: 10.1177/1094428120971683.
V. Gupta and A. Rastogi, “Survey on Classification of Clustering Technique,†IJARCCE, vol. 6, no. 4, pp. 753–760, 2017, doi: 10.17148/ijarcce.2017.64141.
N. Wijayanti, E. N. Kencana, and I. W. Sumarjaya, “SMOTE: potensi dan kekurangannya pada survei,†E-Jurnal Mat., vol. 10, no. 4, p. 235, 2021.
M. Y. Khan, A. Qayoom, M. S. Nizami, M. S. Siddiqui, S. Wasi, and S. M. K.-R. Raazi, “Automated Prediction of Good Dictionary EXamples (GDEX): A Comprehensive Experiment with Distant Supervision, Machine Learning, and Word Embedding-Based Deep Learning Techniques,†Complexity, vol. 2021, no. 1, p. 2553199, 2021.
A. Wandani, F. Fauziah, and A. Andrianingsih, “Sentimen Analisis Pengguna Twitter pada Event Flash Sale Menggunakan Algoritma K-NN, Random Forest, dan Naive Bayes,†J-SAKTI (Jurnal Sains Komput. dan Inform., vol. 5, no. 2, pp. 651–665, 2021.
Y. Afrillia, L. Rosnita, D. Siska, M. Rigayatsyah, and others, “Analisis Sentimen Ciutan Twitter Terkait Penerapan Permendikbudristek Nomor 30 Tahun 2021 Menggunakan TextBlob dan Support Vector Machine,†G-Tech J. Teknol. Terap., vol. 6, no. 2, pp. 387–394, 2022.
T. F. Basar, D. E. Ratnawati, and I. Arwani, “Analisis Sentimen Pengguna Twitter terhadap Pembayaran Cashless menggunakan Shopeepay dengan Algoritma Random Forest,†J. Pengemb. Teknol. Inf. dan Ilmu Komput., vol. 6, no. 3, pp. 1426–1433, 2022.
F. A. Larasati, D. E. Ratnawati, and B. T. Hanggara, “Analisis Sentimen Ulasan Aplikasi Dana dengan Metode Random Forest,†J. Pengemb. Teknol. Inf. Dan Ilmu Komput., vol. 6, no. 9, pp. 4305–4313, 2022.
G. Khanvilkar and D. Vora, “Sentiment analysis for product recommendation using random forest,†Int. J. Eng. Technol., vol. 7, no. 3, pp. 87–89, 2018, doi: 10.14419/ijet.v7i3.3.14492.
T. Ahmed Khan, R. Sadiq, Z. Shahid, M. M. Alam, and M. Mohd Su’ud, “Sentiment Analysis using Support Vector Machine and Random Forest,†J. Informatics Web Eng., vol. 3, no. 1, pp. 67–75, 2024, doi: 10.33093/jiwe.2024.3.1.5.
S. S. N. Syamsi, A. I. Hadiana, and Y. H. Chrisnanto, “Covid-19 Sentiment Analysis Using Random Forest Classification,†Enrich. J. Multidiscip. Res. Dev., vol. 1, no. 6, pp. 309–321, 2023, doi: 10.55324/enrichment.v1i6.53.
S. Khomsah, “Sentiment analysis on youtube comments using word2vec and random forest,†Telemat. J. Inform. dan Teknol. Inf., vol. 18, no. 1, pp. 61–72, 2021.
