Αναγνώριση προσβλητικού λόγου σε Ελληνικά tweets, με χρήση τεχνικών Βαθιάς Μάθησης - (:unkn) unknown (My University, 2024)
Η συχνή εμφάνιση εχθρικού περιεχομένου στα μέσα κοινωνικής δικτύωσης, έχει δημιουργήσει την ανάγκη για αυτόματη αναγνώριση αυτών των αναρτήσεων, καθώς οι διαχειριστές δεν έχουν το χρόνο να επεξεργαστούν και να τις απορρίψουν. Ο κλάδος της πληροφορικής που ασχολείται με την αναγνώριση του νοήματος σε σώματα κειμένων είναι η τεχνητή νοημοσύνη και πιο συγκεκριμένα ο τομέας Επεξεργασίας Φυσικής Γλώσσας. Οι πρόσφατες εξελίξεις, που βασίζονται στις αρχιτεκτονικές βαθιάς μάθησης όπως οι μετασχηματιστές - transformers, έχουν δώσει τεράστια ώθηση στην κατανόηση της φυσικής γλώσσας. Στην εργασία μου αυτή, χρησιμοποιώ και προσαρμόζω ένα προεκπαιδευμένο μοντέλο μετασχηματιστή, το GreekBERT που με τη σειρά του είναι προσαρμογή του αρχικού BERT σε Ελληνικά κείμενα. Για την εκπαίδευση / προσαρμογή του προεκπαιδευμένου μοντέλου, χρησιμοποιώ ένα επισημασμένο dataset που αποτελείται από αναρτήσεις - tweets στην Ελληνική γλώσσα. Μετά την προεπεξεργασία του dataset, το μοντέλο εκπαιδεύεται με διάφορους συνδυασμούς υπερ παραμέτρων, ώστε να επιτευχθεί το καλύτερο αποτέλεσμα. Το τελικό μοντέλο, το οποίο είναι ελεύθερο προς χρήση για όλους, έχει δημοσιευθεί στην πλατφόρμα Hugging Face.

The frequent appearance of hateful content on social media has created the need for automatic identification of these posts, as moderators do not have the time to process and reject them. The field of computer science that deals with the recognition of meaning in text corpora is artificial intelligence and more specifically the subfield of Natural Language Processing (NLP). Recent developments, based on deep learning architectures such as transformers, have given a huge boost to the understanding of natural language. In this work, I use and adapt a pre-trained transformer model, GreekBERT, which is in turn an adaptation of the original BERT to Greek texts. For the training/adaptation of the pre-trained model, I use a labeled dataset consisting of tweets written in Greek. After preprocessing the dataset, the model is trained with different combinations of hyperparameters in order to achieve the best results. The final model, which is free for everyone to use, has been published on the Hugging Face platform.
Offensive speech detection in Greek tweets, using Deep Learning techniques
Keywords: Ταξινόμηση Κειμένου, Αναγνώριση Εχθρικού Λόγου, Βαθιά Μάθηση, Τεχνητή Νοημοσύνη, Επεξεργασία Φυσικής Γλώσσας, BERT, Νευρωνικά Δίκτυα, Μετασχηματιστές