MAMMOth

Η Τεχνητή Νοημοσύνη (TN) χρησιμοποιείται όλο και περισσότερο από επιχειρήσεις, κυβερνήσεις και άλλους οργανισμούς για τη λήψη αποφάσεων, δημιουργώντας ένα μεγάλο φάσμα επιπτώσεων στα άτομα και στην κοινωνία. Οι αξιοσημείωτες ευκαιρίες αυτοματοποίησης σε διάφορους τομείς και στην καθημερινή ζωή, επιφέρουν ταυτόχρονα κινδύνους λόγω των διακρίσεων κατά μειονοτικών και περιθωριοποιημένων πληθυσμιακών ομάδων, επί τη βάσει προστατευόμενων χαρακτηριστικών, όπως το φύλο, η φυλή και η ηλικία. Παρά την εκτενή έρευνα που έχει διεξαχθεί μέχρι σήμερα, οι υφιστάμενες μέθοδοι εφαρμόζονται σε περιορισμένα πλαίσια, υπό πολύ αυστηρές προϋποθέσεις, και δεν αντικατοπτρίζουν την πολυπλοκότητα και τις απαιτήσεις των πραγματικών εφαρμογών.

Για τον λόγο αυτό, το έργο MAMMOth επικεντρώνεται στη μείωση των πολυδιάστατων διακρίσεων σε δεδομένα πίνακα, δικτύου και πολυτροπικών δεδομένων. Το έργο MAMMOth στοχεύει στην αντιμετώπιση των σχετικών επιστημονικών προκλήσεων, αναπτύσσοντας μια καινοτόμο θεμελίωση βασισμένη στη δικαιότερη ΤΝ που παρέχει τα απαραίτητα εργαλεία και τεχνικές για την ανίχνευση και τη μείωση των (πολυδιάστατων) διακρίσεων, εξασφαλίζοντας παράλληλα τη λογοδοσία των συστημάτων ΤΝ, αναφορικά με πολλαπλά προστατευόμενα χαρακτηριστικά και για παραδοσιακά δεδομένα σε μορφή πίνακα αλλά και πιο σύνθετα δεδομένα δικτύου και οπτικά δεδομένα.

Το έργο εμπλέκεται ενεργά με πολυάριθμες κοινότητες ευάλωτων και/ή υποεκπροσωπούμενων ομάδων στην έρευνα για την ΤΝ από την έναρξή του, υιοθετώντας μια προσέγγιση συν-δημιουργίας, ώστε να διασφαλίζεται ότι οι πραγματικές ανάγκες και οι δυσκολίες των χρηστών βρίσκονται στο επίκεντρο της ερευνητικής ατζέντας και καθοδηγούν τις δραστηριότητες του έργου. Το MAMMOth θα εξάγει τόσο μεμονωμένες μεθόδους ανοικτού κώδικα όσο και μια ολοκληρωμένη ανοικτή εργαλειοθήκη για την “αντιμετώπιση της προκατάληψης” που συνδυάζει νέες μεθόδους σε βιβλιοθήκες με εργαλεία τρίτων μερών, τα οποία στοχεύουν στη διασφάλιση της δικαιοσύνης.

Τα εργαλεία του MAMMOth αναπτύσσονται για τους παρακάτω τρεις τομείς ενδιαφέροντος:

1. Λήψη αποφάσεων μέσω αλγορίθμων στον χρηματοοικονομικό τομέα: Στόχος είναι ο εντοπισμός των χαρακτηριστικών που συμβάλλουν στην προκατάληψη της ΤΝ στην αξιολόγηση της πιστοληπτικής ικανότητας και της αποπληρωμής χρέους, καθώς και η ανάπτυξη και εφαρμογή ενός συστήματος λήψης αποφάσεων που μειώνει την προκατάληψη στις χρηματοοικονομικές υπηρεσίες.

2. Λήψη αποφάσεων σε συστήματα επαλήθευσης προσώπου: Στόχος είναι η αντιμετώπιση των ανισοτήτων στην πρόσβαση μειονοτήτων σε διαδικτυακές υπηρεσίες μέσω απομακρυσμένης επαλήθευσης προσώπου, π.χ. στο πλαίσιο διαδικασιών ψηφιακής ταυτοποίησης/επικύρωσης πελατών (KYC).

3. Προκατάληψη στις ακαδημαϊκές συνεργασίες και παραπομπές: Στόχος είναι η διερεύνηση του τρόπου με τον οποίο οι διατομεακές προκαταλήψεις σε μηχανές αναζήτησης, όπως το Google Scholar, επηρεάζουν την ορατότητα των ερευνητών και τη μέτρηση του αντίκτυπου τους στο ακαδημαϊκό δίκτυο.

Η συμμετέχουσα ομάδα του ΕΚΕΤΑ έχει τον ρόλο του Συντονιστή του Έργου και συμβάλλει ενεργά ως ερευνητικός εταίρος. Οι μέθοδοι που αναπτύσσονται περιλαμβάνουν ολοκληρωμένες λύσεις για την αξιολόγηση και τη μείωση προκαταλήψεων σε πολυτροπικά δεδομένα. Πιο συγκεκριμένα, η συμμετέχουσα ομάδα του ΕΚΕΤΑ αναπτύσσει νέους αλγορίθμους για τη μείωση προκαταλήψεων σε δεδομένα με μορφή πίνακα, εικόνες, γράφους αλλά και συνδυασμούς αυτών.

Κοινοπραξία

Centre for Research and Technology Hellas, Greece
Universitaet der Bundeswehr Muenchen, Germany
Complexity Science Hub Vienna, Austria
Alma Mater Studiorum-Universita Di Bologna, Italy
Rijksuniversiteit Groningen, Netherlands
EXUS Software, Greece
Trilateral Research Limited, Ireland
IDnow SAS, France
CSI Center for Social Innovation LTD, Cyprus
Associacio Forum Dona Activa 2010, Spain
VSI Diversity Development Group, Lithuania
IASIS, Greece
Trilateral Research Ltd, United Kingdom