Πρωτότυπος Τίτλος:
Μέθοδοι που αξιοποιούν πρωτότυπα δείγματα σε δίκτυα μετασχηματιστών για μηχανική μάθηση σε δεδομένα πίνακα
Συγγραφέας:
Κωλέτσης, Παναγιώτης, Σπυρίδων
Επιβλέπων καθηγητής:
Δίου, Χρήστος
Περίληψη:
Η παρούσα πτυχιακή αποσκοπεί στην μείωση της διαφοράς, μεταξύ των μοντέλων
συνόλων από δέντρα απόφασης και των σύγχρονων μοντέλων βαθιάς μηχανικής
μάθησης με εμβάθυνση στις μεθόδους Transformers, για δεδομένα πίνακα. Αφού
μελετήθηκε εκτενώς ο τομέας αυτός χρησιμοποιήθηκε ώς βάση το SAINT, ένα
μοντέλο τύπου Transformer για δεδομένα πίνακα που εφαρμόζει μηχανισμό
προσοχής τόσο σε στήλες όσο και σε γραμμές. Στην συνέχεια, προτείνεται μία
παραλλαγή του μοντέλου αυτού που εφαρμόζει τον μηχανισμό προσοχής, όχι μεταξύ
των γραμμών του συνόλου δεδομένου αλλά με έναν εκπαιδεύσιμο πίνακα που
στοχεύουμε στο τέλος να περιέχει ένα σύνολο αντιπροσωπευτικών ενσωματώσεων
αναφοράς για το μοντέλο. Έπειτα, εξετάζονται τα αποτελέσματα τόσο με τις
προεπιλεγμένες παραμέτρους τους, όσο και με τυχαία αναζήτηση. Και στις 2 αυτές
συγκρίσεις το προτεινόμενο μοντέλο πέτυχε ελαφρώς βελτιωμένες επιδόσεις σε
σχέση με το μοντέλο αναφοράς, με τις κυριότερες να εντοπίζονται στις
προεπιλεγμένες παραμέτρους.
συνόλων από δέντρα απόφασης και των σύγχρονων μοντέλων βαθιάς μηχανικής
μάθησης με εμβάθυνση στις μεθόδους Transformers, για δεδομένα πίνακα. Αφού
μελετήθηκε εκτενώς ο τομέας αυτός χρησιμοποιήθηκε ώς βάση το SAINT, ένα
μοντέλο τύπου Transformer για δεδομένα πίνακα που εφαρμόζει μηχανισμό
προσοχής τόσο σε στήλες όσο και σε γραμμές. Στην συνέχεια, προτείνεται μία
παραλλαγή του μοντέλου αυτού που εφαρμόζει τον μηχανισμό προσοχής, όχι μεταξύ
των γραμμών του συνόλου δεδομένου αλλά με έναν εκπαιδεύσιμο πίνακα που
στοχεύουμε στο τέλος να περιέχει ένα σύνολο αντιπροσωπευτικών ενσωματώσεων
αναφοράς για το μοντέλο. Έπειτα, εξετάζονται τα αποτελέσματα τόσο με τις
προεπιλεγμένες παραμέτρους τους, όσο και με τυχαία αναζήτηση. Και στις 2 αυτές
συγκρίσεις το προτεινόμενο μοντέλο πέτυχε ελαφρώς βελτιωμένες επιδόσεις σε
σχέση με το μοντέλο αναφοράς, με τις κυριότερες να εντοπίζονται στις
προεπιλεγμένες παραμέτρους.
Ημερομηνία κατάθεσης:
2024-10-14
Γλώσσες Τεκμηρίου:
Ελληνικά
Θεματικές Κατηγορίες:
Ηλεκτρονικοί υπολογιστές. Επιστήμη των υπολογιστών
Λοιπά Θέματα:
Μηχανική μάθηση
Λέξεις-κλειδιά:
Δεδομένα Πίνακα, Βελτιστοποίηση Υπερπαραμέτρων, Δίκτυα Μετασχηματιστών
Περιγραφή:
60 σ.,εικ.,πίν.,διαγρ.,σχ.
Άδεια χρήσης:
Αναφορά Δημιουργού – Μη Εμπορική Χρήση – Όχι Παράγωγα Έργα 4.0
