Klasifikasi Hoax Berita Politik Menggunakan Algoritma Long Short-Term Memory (LSTM) dengan Penambahan Fitur Embedding Global Vector (GloVe)
DOI:
https://doi.org/10.26418/jp.v10i2.76042Keywords:
Long Short-Term Memmory (LSTM), Klasifikasi, Word Embedding, Global Vector (GloVe), Politik, Berita, Indonesia, SMOTEAbstract
Berita online telah berkembang sangat pesat terutama pada waktu yang mendekati pesta politik. Tingginya volume dokumen teks dipicu oleh aktivitas dari berbagai sumber berita. Karena banyaknya jumlah berita yang tertampung ke dalam website, terkadang berita yang diposting tidak sesuai dengan kenyataan atau dapat disebut berita hoax. Deteksi berita hoax menjadi penting agar pengguna tidak terjebak informasi palsu yang terkandung dalam berita hoax. Untuk itu diperlukan sebuah sistem cerdas yang dapat mendeteksi berita hoax bertema politik secara otomatis. Penelitian ini mengevaluasi Teknik deep learning menggunakan LSTM dengan penambahan fitur Word Embedding Global Vector (GloVe) dan membandingkan hasil dari penelitian sebelumnya yang menggunakan beberapa algoritma deep learning tanpa penambahan fitur. Peneliti menggunakan dataset yang terdiri dari 1300 dokumen berita hoax dan 8234 dokumen berita valid. Karena jumlah komposisi antara kelas hoax dan valid tidak seimbang, maka peneliti menerapkan teknik Synthetic Minority Over-Sampling Technique (SMOTE) untuk meningkatkan representasi kelas minoritas. Hasil empiris menunjukan bahwa akurasi klasifikasi dari LSTM dengan fitur tambahan word embedding GloVe didapatkan akurasi sebesar 99.8%, dimana mampu mengungguli hasil penelitian sebelumnya dengan akurasi 95.1% yang tanpa penggunaan word embedding. Peningkatan performa ini tidak lepas dari penambahan fitur word embedding GloVe sebagai inisialisasi bobot untuk lapisan embedding dalam model LSTM, dimana mampu memberikan representasi yang lebih baik pada kata-kata dalam dataset.References
E. A. Sosiawan and R. Wibowo, “Kontestasi Berita Hoax Pemilu Presiden Tahun 2019 di Media Daring dan Media Sosial,†J. Ilmu Komun., vol. 17, no. 2, p. 133, 2020, doi: 10.31315/jik.v17i2.3695.
Kominfo, “Kementerian Komunikasi dan Informatika.†2023. [Online]. Available: https://www.kominfo.go.id/content/detail/49914/siaran-pers-no123hmkominfo062023-tentang-sampai-mei-2023-kominfo-identifikasi-11642-konten-hoaks/0/siaran_pers
L. Li, L. Xiao, W. Jin, H. Zhu, and G. Yang, “Text Classification Based on Word2vec and Convolutional Neural Network: 25th International Conference, ICONIP 2018, Siem Reap, Cambodia, December 13–16, 2018, Proceedings, Part V,†2018, pp. 450–460. doi: 10.1007/978-3-030-04221-9_40.
J. Lilleberg, Y. Zhu, and Y. Zhang, “Support vector machines and Word2vec for text classification with semantic features,†Proc. 2015 IEEE 14th Int. Conf. Cogn. Informatics Cogn. Comput. ICCI*CC 2015, pp. 136–140, 2015, doi: 10.1109/ICCI-CC.2015.7259377.
R. Rossi, A. Lopes, and S. Rezende, “Optimization and label propagation in bipartite heterogeneous networks to improve transductive classification of texts,†Inf. Process. Manag., vol. 52, 2015, doi: 10.1016/j.ipm.2015.07.004.
A. Joulin, E. Grave, P. Bojanowski, and T. Mikolov, “Bag of tricks for efficient text classification,†15th Conf. Eur. Chapter Assoc. Comput. Linguist. EACL 2017 - Proc. Conf., vol. 2, pp. 427–431, 2017, doi: 10.18653/v1/e17-2068.
D. Shen et al., “Baseline needs more love: On simple word-embedding-based models and associated pooling mechanisms,†ACL 2018 - 56th Annu. Meet. Assoc. Comput. Linguist. Proc. Conf. (Long Pap., vol. 1, pp. 440–450, 2018, doi: 10.18653/v1/p18-1041.
K. Kowsari, D. E. Brown, M. Heidarysafa, K. Jafari Meimandi, M. S. Gerber, and L. E. Barnes, “HDLTex: Hierarchical Deep Learning for Text Classification,†Proc. - 16th IEEE Int. Conf. Mach. Learn. Appl. ICMLA 2017, vol. 2017-Decem, pp. 364–371, 2017, doi: 10.1109/ICMLA.2017.0-134.
J. Pennington, R. Socher, and C. Manning, “Glove: Global Vectors for Word Representation,†in EMNLP, 2014, vol. 14, pp. 1532–1543. doi: 10.3115/v1/D14-1162.
A. Nurdin, B. Anggo Seno Aji, A. Bustamin, and Z. Abidin, “Perbandingan Kinerja Word Embedding Word2Vec, Glove, Dan Fasttext Pada Klasifikasi Teks,†J. Tekno Kompak, vol. 14, no. 2, p. 74, 2020, doi: 10.33365/jtk.v14i2.732.
H. Imaduddin, L. A. Kusumaningtias, and F. Y. A’la, “Application of LSTM and GloVe Word Embedding for Hate Speech Detection in Indonesian Twitter Data,†Ing. des Syst. d’Information, vol. 28, no. 4, pp. 1107–1112, 2023, doi: 10.18280/isi.280430.
M. G. Adrian, S. S. Prasetyowati, and Y. Sibaroni, “Effectiveness of Word Embedding GloVe and Word2Vec within News Detection of Indonesian uUsing LSTM,†vol. 7, pp. 1180–1188, 2023, doi: 10.30865/mib.v7i3.6411.
B. P. Nayoga, R. Adipradana, R. Suryadi, and D. Suhartono, “Hoax Analyzer for Indonesian News Using Deep Learning Models,†Procedia Comput. Sci., vol. 179, no. 2020, pp. 704–712, 2021, doi: 10.1016/j.procs.2021.01.059.
M. J. Denny and A. Spirling, “Text Preprocessing For Unsupervised Learning: Why It Matters, When It Misleads, And What To Do About It,†Polit. Anal., vol. 26, no. 2, pp. 168–189, 2018, doi: 10.1017/pan.2017.44.
S. Khomsah and A. S. Aribowo, “Text-Preprocessing Komentar Youtube Dalam Bahasa Indonesia,†Rekayasa Sist. dan Teknol. Inf. , vol. 1, no. 3, pp. 648–654, 2017.
K. V. Ghag and K. Shah, “Comparative analysis of effect of stopwords removal on sentiment classification,†in 2015 International Conference on Computer, Communication and Control (IC4), 2015, pp. 1–6. doi: 10.1109/IC4.2015.7375527.
A. F. Hidayatullah, “The influence of stemming on Indonesian tweet sentiment analysis,†Int. Conf. Electr. Eng. Comput. Sci. Informatics, vol. 2, no. August, pp. 127–132, 2015, doi: 10.11591/eecsi.v2i1.791.
A. Z. Arifin, P. A. D. . Mahendra, and H. T. Ciptaningtyas, “ENHANCED CONFIX STRIPPING STEMMER AND ANTS ALGORITHM FOR CLASSIFYING NEWS DOCUMENT IN Representation of Textual,†5thInternational Conf. Inf. Commun. Technol. Syst., no. January 2009, pp. 149–158, 2009.
D. Effrosynidis, S. Symeonidis, and A. Arampatzis, “A comparison of pre-processing techniques for twitter sentiment analysis,†Lect. Notes Comput. Sci. (including Subser. Lect. Notes Artif. Intell. Lect. Notes Bioinformatics), vol. 10450 LNCS, no. September, pp. 394–406, 2017, doi: 10.1007/978-3-319-67008-9_31.
M. Faiq, A. Putro, and E. B. Setiawan, “Analisis Sentimen Terhadap Kebijakan Pemerintah dengan Feature Expansion Metode GloVe pada Media sosial Twitter,†e-Proceeding Eng. Vol.9, No.1 Februari 2022, vol. 9, no. 1, pp. 54–66, 2022.
D. Selivanov, “GloVe Word Embeddings,†2020. https://text2vec.org/glove.html (accessed Nov. 04, 2023).
Y. Cai, Y. Li, and Z. Zheng, “Oversampling Method for Imbalanced Classification,†Comput. Informatics, vol. 34, no. 5, pp. 1017–1037, 2015.
P. Winar Cahyo and U. Saidata Aesyi, “Perbandingan LSTM dengan Support Vector Machine dan Multinomial Naïve Bayes pada Klasifikasi Kategori Hoax,†J. Transform., vol. 20, no. 2, pp. 23–29, 2023, [Online]. Available: https://journals.usm.ac.id/index.php/transformatika/■page23
Aditya, Christian Sri Kusuma. "Sentiment analysis regarding the impact of Covid-19 on education in Indonesia with the naïve bayes classifier." AIP Conference Proceedings. Vol. 2927. No. 1. AIP Publishing, 2024.
Setyarini, Dela Ananda, et al. "Stroke Prediction with Enhanced Gradient Boosting Classifier and Strategic Hyperparameter." MATRIK: Jurnal Manajemen, Teknik Informatika dan Rekayasa Komputer 23.2 (2024): 477-490.
