Evaluasi Teknik Preprocessing terhadap Kinerja Multinomial Naïve Bayes dalam Klasifikasi Pertanyaan Insincere

Authors

  • Khadijah Fahmi Hayati Holle Universitas Islam Negeri Maulana Malik Ibrahim http://orcid.org/0000-0002-6991-1748
  • Rizha Alfianita Universitas Islam Negeri Maulana Malik Ibrahim
  • Hikmatul Maulidia Putri Universitas Islam Negeri Maulana Malik Ibrahim

DOI:

https://doi.org/10.26418/justin.v12i4.82758

Keywords:

Klasifikasi pertanyaan, Pertanyaan Insincere, Quora, Multinomial Naïve Bayes, Preprocessing Text

Abstract

Platform komunitas tanya-jawab atau Community Question Answering (CQA) telah menjadi sumber informasi yang penting namun menghadapi tantangan, salah satunya adalah adanya pertanyaan insincere. Pertanyaan insincere ini mengacu pada pertanyaan yang tidak tulus dan sering didasarkan pada asumsi keliru, yang dapat mengganggu kenyamanan pengguna dan menyebabkan penyebaran informasi yang menyesatkan. Oleh karena itu, diperlukan deteksi pertanyaan insincere. Penelitian ini bertujuan untuk mengevaluasi pengaruh teknik preprocessing teks terhadap kinerja algoritma Multinomial Naïve Bayes (MNB) dalam mengklasifikasikan pertanyaan insincere. Data yang digunakan terdiri dari 4000 pertanyaan dari Quora, dengan masing-masing 2000 pertanyaan berlabel insincere dan 2000 berlabel sincere. Pembobotan kata dilakukan menggunakan TF-IDF. Terdapat 4 skenario pengujian yang berfokus pada variasi tahap preprocessing untuk mengetahui pengaruh preprocessing terhadap akurasi sistem. Skenario tersebut adalah MNB dengan stemming, MNB dengan lemmatization, MNB tanpa stemming, dan MNB dengan stemming tanpa stopword removal. Pengujian dilakukan menggunakan teknik k-Fold Cross Validation. Hasil uji coba menunjukkan bahwa skenario MNB dengan stemming tanpa stopword removal memberikan hasil terbaik dengan akurasi 83%, presisi 78%, recall 94%, dan F1-score 85%. Sehingga dapat disimpulkan bahwa pemilihan teknik pemrosesan teks yang tepat sangat penting untuk meningkatkan kinerja teks, khususnya dalam mendeteksi pertanyaan insincere pada platform CQA.

References

F. Riahi, Z. Zolaktaf, M. Shafiei, and E. Milios, “Finding expert users in community question answering,†in Proceedings of the 21st International Conference on World Wide Web, New York, NY, USA: ACM, Apr. 2012, pp. 791–798. doi: 10.1145/2187980.2188202.

P. K. Roy, “Multilayer Convolutional Neural Network to Filter Low Quality Content from Quora,†Neural Process Lett, vol. 52, no. 1, pp. 805–821, Aug. 2020, doi: 10.1007/s11063-020-10284-x.

N. Ghasemi, R. Fatourechi, and S. Momtazi, “User Embedding for Expert Finding in Community Question Answering,†ACM Trans Knowl Discov Data, vol. 15, no. 4, Jun. 2021, doi: 10.1145/3441302.

M. Neshati, Z. Fallahnejad, and H. Beigy, “On dynamicity of expert finding in community question answering,†Inf Process Manag, vol. 53, no. 5, pp. 1026–1042, Sep. 2017, doi: 10.1016/j.ipm.2017.04.002.

P. K. Roy, J. P. Singh, A. M. Baabdullah, H. Kizgin, and N. P. Rana, “Identifying reputation collectors in community question answering (CQA) sites: Exploring the dark side of social media,†Int J Inf Manage, vol. 42, pp. 25–35, Oct. 2018, doi: 10.1016/j.ijinfomgt.2018.05.003.

D. Y. Kim, X. Li, S. Wang, Y. Zhuo, and R. K. W. Lee, “Topic enhanced word embedding for toxic content detection in Q&A sites,†in Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining, ASONAM 2019, Association for Computing Machinery, Inc, Aug. 2019, pp. 1064–1071. doi: 10.1145/3341161.3345332.

N. E. Febriyanty, M. A. Hariyadi, and C. Crysdian, “Hoax Detection News Using Naïve Bayes and Support Vector Machine Algorithm,†International Journal of Advances in Data and Information Systems, vol. 4, no. 2, pp. 191–200, Oct. 2023, doi: 10.25008/ijadis.v4i2.1306.

E. Fitri, F. R. Lumbanraja, and A. Ardiansyah, “KLASIFIKASI ABSTRAK JURNAL KOMPUTASI MENGGUNAKAN METODE TEXT MINING DAN ALGORITMA SUPPORT VECTOR MACHINE,†Jurnal Pepadun, vol. 1, no. 1, pp. 83–88, Dec. 2020, doi: 10.23960/pepadun.v1i1.13.

F. Shofiya, D. Arifianto, M. Kom, H. Azizah, A. Faruq, and M. Pd, “PERBANDINGAN ALGORITMA SUPPORT VECTOR MACHINE (SVM) DAN MULTINOMIAL NAIVE BAYES (MNB) DALAM KLASIFIKASI ABSTRAK TUGAS AKHIR (STUDI KASUS: FAKULTAS TEKNIK UNIVERSITAS MUHAMMADIYAH JEMBER),†2020.

M. Rivest, E. Vignola-Gagné, and É. Archambault, “Article-level classification of scientific publications: A comparison of deep learning, direct citation and bibliographic coupling,†PLoS One, vol. 16, no. 5, p. e0251493, May 2021, doi: 10.1371/journal.pone.0251493.

A. Rahman and A. Doewes, “Online News Classification Using Multinomial Naive Bayes.†[Online]. Available: www.kompas.com

A. Prayoga Permana, K. Ainiyah, and K. Fahmi Hayati Holle, “Analisis Perbandingan Algoritma Decision Tree, kNN, dan Naive Bayes untuk Prediksi Kesuksesan Start-up,†2021. [Online]. Available: https://www.kaggle.com/manishkc06/startup-success-prediction.

Y. Romadhoni and K. F. H. Holle, “Analisis Sentimen Terhadap PERMENDIKBUD No.30 pada Media Sosial Twitter Menggunakan Metode Naive Bayes dan LSTM,†Jurnal Informatika: Jurnal Pengembangan IT, vol. 7, no. 2, pp. 118–124, May 2022, doi: 10.30591/jpit.v7i2.3191.

C. Dewi, R. C. Chen, H. J. Christanto, and F. Cauteruccio, “Multinomial Naïve Bayes Classifier for Sentiment Analysis of Internet Movie Database,†Vietnam Journal of Computer Science, vol. 10, no. 4, pp. 485–498, Nov. 2023, doi: 10.1142/S2196888823500100.

K. Ainiyah and K. F. H. Holle, “Analisis Sentimen Terhadap Permendikbud Ristek Nomor 30 Tahun 2021 pada Media Sosia Twitter Menggunakan Metode Lexicon-Based dan Multinomial Naïve Bayes,†Jurnal Ilmiah Informatika, vol. 7, no. 1, pp. 29–40, Jun. 2022, doi: 10.35316/jimi.v7i1.29-40.

A. Sabrani, I. W. Gede Putu Wirarama Wedashwara, and F. Bimantoro, “METODE MULTINOMIAL NAÃVE BAYES UNTUK KLASIFIKASI ARTIKEL ONLINE TENTANG GEMPA DI INDONESIA (Multinomial Naïve Bayes Method for Classification of Online Article About Earthquake in Indonesia).†[Online]. Available: http://jtika.if.unram.ac.id/index.php/JTIKA/

C. P. Chai, “Comparison of text preprocessing methods,†Nat Lang Eng, vol. 29, no. 3, pp. 509–553, May 2023, doi: 10.1017/S1351324922000213.

M. Anandarajan, C. Hill, and T. Nolan, “Text Preprocessing,†in Practical Text Analytics, Advances in Analytics and Data Science, vol. 2, 2019, pp. 45–59. doi: 10.1007/978-3-319-95663-3_4.

N. E. Febriyanty, M. A. Hariyadi, and C. Crysdian, “Hoax Detection News Using Naïve Bayes and Support Vector Machine Algorithm,†International Journal of Advances in Data and Information Systems, vol. 4, no. 2, pp. 191–200, Oct. 2023, doi: 10.25008/ijadis.v4i2.1306.

A. Prayoga Permana, K. Ainiyah, and K. Fahmi Hayati Holle, “Analisis Perbandingan Algoritma Decision Tree, kNN, dan Naive Bayes untuk Prediksi Kesuksesan Start-up,†JISKa, vol. 6, no. 3, pp. 178–188, 2021.

G. A. Dalaorao, A. M. Sison, E. Aguinaldo, and R. P. Medina, “Integrating Collocation as TF-IDF Enhancement to Improve Classification Accuracy,†in 2019 IEEE 13th International Conference on Telecommunication Systems, Services, and Applications (TSSA), 2019, pp. 282–285. doi: 10.1109/TSSA48701.2019.8985458.

A. Nur Khusna and I. Agustina, “Implementation of Information Retrieval Using Tf-Idf Weighting Method On Detik.Com’s Website,†in 2018 12th International Conference on Telecommunication Systems, Services, and Applications (TSSA), 2018. doi: 10.1109/TSSA.2018.8708744.

M. Hanindia, P. Swari, D. Farrel, P. Rachmawan, and C. A. Putra, “Multinomial Optimization of Naïve Bayes Through the Implementation of Particle Swarm Optimization,†Technium: Romanian Journal of Applied Sciences and Technology, vol. 16, pp. 169–175, 2023.

A. Sabrani, I. W. Gede Putu Wirarama Wedashwara, and F. Bimantoro, “Metode Multinomial Naive Bayes untuk Klasifikasi Artikel Online tentang Gempa di Indonesia,†Jurnal Teknologi Informasi, Komputer, dan Aplikasinya, vol. 2, no. 1, pp. 89–100, Mar. 2020, doi: https://doi.org/10.29303/jtika.v2i1.87.

Yuyun, Nurul Hidayah, and Supriadi Sahibu, “Algoritma Multinomial Naïve Bayes Untuk Klasifikasi Sentimen Pemerintah Terhadap Penanganan Covid-19 Menggunakan Data Twitter,†Jurnal RESTI (Rekayasa Sistem dan Teknologi Informasi), vol. 5, no. 4, pp. 820–826, Aug. 2021, doi: 10.29207/resti.v5i4.3146.

W. L. W. Foh, S. L. Ang, C. Y. Lim, A. A. L. Alaga, and G. H. Yeap, “Prediction of Tuberculosis Patients’ Treatment Outcomes Using Multinomial Naive Bayes Algorithm and Class-Imbalanced Data,†in 2023 IEEE IAS Global Conference on Emerging Technologies, GlobConET 2023, Institute of Electrical and Electronics Engineers Inc., 2023. doi: 10.1109/GlobConET56651.2023.10150132.

L. Mayasari and D. Indarti, “Klasifikasi Topik Tweet Mengenai COVID Menggunakan Metode Multinomial Naive Bayes dengan Pembobotan TF-IDF,†Jurnal Ilmiah Informatika Komputer, vol. 27, no. 1, pp. 43–53, 2022, doi: 10.35760/ik.2022.v27i1.6184.

F. W. Sembiring, R. A. Yusda, and S. Santoso, “Analysis Naive Bayes to Selection New Students for Superior Class STMIK Royal,†JURTEKSI (Jurnal Teknologi dan Sistem Informasi), vol. 9, no. 2, pp. 239–248, Mar. 2023, doi: 10.33330/jurteksi.v9i2.2216.

C. Dewi, R.-C. Chen, H. J. Christanto, and F. Cauteruccio, “Multinomial Naïve Bayes Classifier for Sentiment Analysis of Internet Movie Database,†Vietnam Journal of Computer Science, vol. 10, no. 4, pp. 1–14, Aug. 2023, doi: 10.1142/s2196888823500100.

A. Rahman and A. Doewes, “Online News Classification Using Multinomial Naive Bayes,†Online News Classification Using Multinomial Naive Bayes, vol. 6, no. 1, pp. 32–38, 2017.

K. M. Ting, Confusion Matrix. In: Sammut, C., Webb, G.I. (eds) Encyclopedia of Machine Learning. Springer US, 2016. doi: 10.1007/978-1-4899-7502-7.

Downloads

Published

2024-11-02

Issue

Section

Articles