Ανοίγοντας το «μαύρο κουτί» της τεχνητής νοημοσύνης – μια συζήτηση με τη Μένα Ελ Ασάντι

Τα εργαλεία τεχνητής νοημοσύνης δεν είναι «γραμμένα σε πέτρα», οι χρήστες θα πρέπει να διατηρήσουν την ανθρώπινη παρέμβαση σε ορισμένους τομείς, και το βασικό ερώτημα είναι «πώς χρησιμοποιούμε την τεχνητή νοημοσύνη με τον σωστό τρόπο, στο σωστό πλαίσιο» –και όχι αν πρέπει να τη χρησιμοποιούμε. Αυτά είναι μερικά από τα βασικά σημεία που εξήγησε η Δρ. Μένα Ελ Ασάντι (Menna El-Assady), επίκουρη καθηγήτρια στο Τμήμα Επιστήμης Υπολογιστών και επικεφαλής του εργαστηρίου Διαδραστικής Οπτικοποίησης (Interactive Visualization & Intelligence Augmentation Lab, IVIA Lab) στο ETH της Ζυρίχης, ένα από τα κορυφαία διεθνή πανεπιστήμια τεχνολογίας και θετικών επιστημών. Η ίδια μίλησε στο iMEdD, στο περιθώριο του SNF Nostos 2026, φέρνοντας μια κριτική –αλλά σε μεγάλο βαθμό θετική– τεχνική οπτική πάνω στο τεχνολογικό ζήτημα που έχει καθορίσει τη δεκαετία μας.

Χρησιμοποιώντας τη μέθοδο της επεξηγήσιμης τεχνητής νοημοσύνης (explainable AI, XAI), στόχος της είναι η βελτίωση της συνεργασίας ανθρώπου-τεχνητής νοημοσύνης, δηλαδή η προσπάθεια να «γεφυρωθεί» το χάσμα ανάμεσά τους, ώστε μια εργασία να εκτελείται καλύτερα απ’ ότι αν το αναλάμβανε αποκλειστικά η τεχνητή νοημοσύνη ή αποκλειστικά ο άνθρωπος. Αυτό μπορεί να οδηγήσει σε ενίσχυση της νοημοσύνης (intelligence augmentation), καθώς η ανθρώπινη και η τεχνητή νοημοσύνη δεν είναι εξίσου ισχυρές στους ίδιους τομείς. Όταν η συζήτηση στράφηκε στην εργασιακή ρουτίνα των δημοσιογράφων, σημείωσε ότι μέθοδοι όπως η εξόρυξη επιχειρηματολογίας (argumentation mining) μπορούν να προσφέρουν επιπλέον τρόπους ανάλυσης κειμένου, ενώ τόνισε και την ανάγκη για μια μετρημένη προσέγγιση στη χρήση της τεχνητής νοημοσύνης, ενθαρρύνοντας παράλληλα τους οργανισμούς μέσων ενημέρωσης να είναι διαφανείς, όταν δοκιμάζουν νέα εργαλεία, σημειώνοντας επίσης ότι το εργαστήριο IVIA είναι ανοιχτό σε συνεργασίες για την εξεύρεση λύσεων σε αυτά τα νεωτερικά τεχνολογικά προβλήματα.

Τι είναι η «επεξηγήσιμη τεχνητή νοημοσύνη»;

Η επεξηγήσιμη τεχνητή νοημοσύνη μελετά την κατανόηση της εσωτερικής διαδικασίας λήψης αποφάσεων ενός μοντέλου AI. Πρέπει να πληροί δύο κριτήρια: πιστότητα και κατανοησιμότητα. Πρώτον, δεν μπορούμε απλώς να παράγουμε μια εξήγηση που ακούγεται εύλογη αν δεν αντικατοπτρίζει αυτό που πραγματικά συμβαίνει μέσα στο μοντέλο· πρέπει να είναι πιστή [αποτύπωση]. Δεύτερον, πρέπει να είναι κατανοητή στους ανθρώπους που τη βλέπουν.

Αυτά τα δύο βασικά κριτήρια αντιμετωπίζονται συχνά από δύο διαφορετικές κοινότητες. Η κοινότητα της μηχανικής μάθησης εστιάζει έντονα στην πιστότητα –αυτό που ονομάζουμε «επεξηγησιμότητα με επίκεντρο τον αλγόριθμο». Παράγουν εντυπωσιακή δουλειά, αλλά συχνά είναι δύσκολο να την κατανοήσουν οι μη ειδικοί. Αντίθετα, η κοινότητα με επίκεντρο τον άνθρωπο δημιουργεί πολύ εύλογες, εύκολα κατανοητές εξηγήσεις, αλλά συχνά δεν μπορούμε να εγγυηθούμε ότι αντικατοπτρίζουν με ακρίβεια τις εσωτερικές διεργασίες του μοντέλου. Η μεγάλη πρόκληση είναι να γεφυρώσουμε αυτές τις προσεγγίσεις σε ένα κοινό μοντέλο, διασφαλίζοντας ότι οι εξηγήσεις που βλέπουμε είναι και πιστές και κατανοητές.

Πώς μπορούμε να ανοίξουμε το «μαύρο κουτί» της τεχνητής νοημοσύνης, με τρόπο κατανοητό για το ευρύτερο κοινό;

Η προσέγγισή μας ονομάζεται «contextual interactive explainability» («επεξηγησιμότητα με βάση το πλαίσιο και την αλληλεπίδραση»). Στοχεύουμε να εξηγήσουμε τα μοντέλα AI μέσα στο εκάστοτε συγκεκριμένο πλαίσιο και στα συγκεκριμένα κοινά που τα χρησιμοποιούν. Δημιουργούμε διαδραστικά μοντέλα που επιτρέπουν στους ανθρώπους να κάνουν ερωτήσεις σε πραγματικό χρόνο για το τι συμβαίνει. Η βασική πρόκληση είναι να παρέχουμε επεξηγησιμότητα τη σωστή στιγμή, με το σωστό περιεχόμενο και με το σωστό μέσο.

Μια εξήγηση πρέπει να είναι λεκτική ή οπτική; Χρειάζεται να κατανοήσετε τους εσωτερικούς μηχανισμούς του μοντέλου ή απλώς να ξέρετε αν έχει «ψευδείς πληροροφίες» («hallucinations») κατά τη διάρκεια της τρέχουσας εργασίας σας; Η απάντηση σε αυτά τα ερωτήματα απαιτεί κατανόηση των εμπλεκόμενων μερών. Αναπτύσσουμε διαφορετικές μεθόδους επεξηγήσιμης AI για προγραμματιστές μηχανικής μάθησης και για τελικούς χρήστες, προσαρμόζοντας την προσέγγιση ανάλογα με το κοινό.

Πώς σχετίζεται η δουλειά σας με τη δημοσιογραφική κοινότητα και τον κλάδο των ΜΜΕ γενικότερα;

Μέρος της δουλειάς μας αφορά την ενίσχυση του τρόπου με τον οποίο οι άνθρωποι χρησιμοποιούν την τεχνητή νοημοσύνη. Για παράδειγμα, εάν γράφετε ένα κείμενο χρησιμοποιώντας ένα γλωσσικό μοντέλο, μπορεί να μην ξέρετε εάν παράγει «hallucinations». Αναπτύξαμε μια τεχνική –ελέγχους αυτοσυνέπειας (self-consistency checks)– που παράγει μικρές σημειώσεις δίπλα στο κείμενο το οποίο είναι προϊόν AI, υποδεικνύοντας εάν κάποιο στοιχείο μπορεί να είναι κατασκευασμένο.

Σε τεχνικό επίπεδο, αντί να ζητάμε από το μοντέλο να παράγει μόνο ένα αποτέλεσμα, το προτρέπουμε να παράγει 20 ή 100 παραλλαγές του ίδιου ερωτήματος. Στη συνέχεια, αναλύουμε το κείμενο και ελέγχουμε τους διαφορετικούς ισχυρισμούς. Για παράδειγμα, εάν ζητήσετε μια βιογραφία και σε μια εκδοχή αναφέρει ότι το άτομο γεννήθηκε το 1991 και σε μια άλλη το 1998, αυτοί οι ισχυρισμοί είναι λογικά ασύμβατοι. Σημειώνουμε αυτές τις ασυνέπειες, χρησιμοποιώντας μια τεχνική που ονομάζεται «natural language inference» («συμπερασμός φυσικής γλώσσας»). Οι δημοσιογράφοι δεν χρειάζεται απαραίτητα να επαληθεύσουν κάθε στοιχείο από την αρχή· το εργαλείο απλώς επισημαίνει τα λογικά ασύμβατα σημεία για έλεγχο. Το εφαρμόσαμε αυτό απευθείας στην εφαρμογή μας «Relic» στο IVIA Lab.

Τι θα μπορούσαν να προσφέρουν η επεξηγήσιμη τεχνητή νοημοσύνη και η ενίσχυση της νοημοσύνης στη δημοσιογραφική κοινότητα;

Οι δημοσιογράφοι αναλύουν συχνά τεράστιους όγκους κειμένου. Τα τελευταία 15 χρόνια εργάζομαι σε έναν τομέα που ονομάζεται «argumentation mining» («εξόρυξη επιχειρηματολογίας»), χρησιμοποιώντας AI για να εντοπίσω τη δομή των επιχειρημάτων μέσα σε κείμενα και δίκτυα προφορικών δεδομένων. Συνεργαστήκαμε με πολιτικούς επιστήμονες και γλωσσολόγους, για να κατανοήσουμε πώς οι άνθρωποι δομούν τα επιχειρήματά τους —κάτι που ανάγεται στις αριστοτελικές έννοιες του λόγου, του ήθους και του πάθους. Προσπαθήσαμε να κάνουμε αυτές τις ποιοτικές έννοιες μετρήσιμες, κάτι που οδήγησε στα οπτικά διαδραστικά μας εργαλεία.

Είτε συνεργαζόμαστε με δημοσιογράφους, ιατρούς ή αρχιτέκτονες, η προσέγγισή μας είναι να μελετήσουμε τι κάνει ένας πολύ ικανός ειδικός και έπειτα να προσδιορίσουμε πού μπορεί η τεχνητή νοημοσύνη να βοηθήσει αυτή τη διαδικασία και πού μπορεί να την εμποδίσει ή να την παραπλανήσει. Είμαστε πάντα πρόθυμοι να συνεργαστούμε με επαγγελματίες που έχουν όραμα για ένα εργαλείο που δεν υπάρχει ακόμη.

Τα μοντέλα τεχνητής νοημοσύνης χρησιμοποιούν δεδομένα από άρθρα που γράφουν δημοσιογράφοι, και πολλοί δημοσιογράφοι χρησιμοποιούν chatbots, για να απλοποιήσουν διαδικασίες και να κάνουν ερωτήσεις εκεί αντί να ψάχνουν στο Google. Πρόκειται για μια μορφή ενίσχυσης της νοημοσύνης ή για έναν μονόδρομο υπέρ των LLMs;

Αυτό είναι ένα πραγματικά σημαντικό ερώτημα. Η τεχνητή νοημοσύνη προσφέρει απίστευτη χρησιμότητα, αλλά δεν πρέπει να χάνουμε την κριτική μας σκέψη. Υπάρχουν πολλές εργασίες ρουτίνας που αναθέτω με χαρά στην τεχνητή νοημοσύνη. Πρόκειται για χειρωνακτικές, δομημένες και σαφείς εργασίες, όπου τα εισερχόμενα [δεδομένα] και το αποτέλεσμα («input and output») είναι σχετικά τυποποιημένα και το κόστος ενός σφάλματος είναι χαμηλό. Θα ήταν λάθος να μη χρησιμοποιήσουμε την τεχνητή νοημοσύνη για αυτές, καθώς εξοικονομεί τεράστιο χρόνο.

Ωστόσο, υπάρχουν άλλες εργασίες που είναι διφορούμενες, έχουν πολλαπλές λύσεις ή βασίζονται στην προσωπική μας ηθική, το ύφος και την κρίση μας. Το κόστος του λάθους σε αυτές είναι υψηλό, οπότε πρέπει να διατηρήσουμε την ανθρώπινη αυτενέργειά μας («agency»). Εάν αναθέσετε όλη τη λήψη αποφάσεων, το μοναδικό ύφος γραφής σας και ό,τι κάνει τη δουλειά σας διακριτά δική σας, τότε δεν είστε πλέον ο πραγματικός δημιουργός της.

Μια πρόσφατη μελέτη εξέτασε την κατανομή σπάνιων λέξεων στη γραφή, αναδεικνύοντας πώς η τεχνητή νοημοσύνη τείνει να χρησιμοποιεί υπερβολικά ορισμένους όρους, κάνοντας τα κείμενα να μοιάζουν ανιαρά και μονότονα. Εάν μπορείτε να διακρίνετε καθαρά τις εργασίες που πρέπει να αναθέτετε από εκείνες που πρέπει να κρατάτε δικές σας, θα βρείτε έναν σαφή, αποτελεσματικό τρόπο να χρησιμοποιείτε την τεχνητή νοημοσύνη.

Άρα, δεν πρόκειται τόσο για ενίσχυση της νοημοσύνης.

Ακριβώς. Υπάρχει ένα ρητό που κυκλοφορεί: ο πραγματικός κίνδυνος δεν είναι η τεχνητή νοημοσύνη, αλλά η ανθρώπινη ανοησία. Πρέπει να καταλάβουμε ποιες εργασίες να αναθέτουμε και αν χρησιμοποιούμε τα σωστά εργαλεία. Αυτό απαιτεί επανεξέταση των ροών εργασίας μας, ώστε να διασφαλίσουμε ότι αλληλεπιδρούμε σωστά με την τεχνητή νοημοσύνη. Σε πολλά επαγγέλματα, διαπιστώνουμε ότι οι τρέχουσες ροές εργασίας μας είναι ανεπαρκείς.

Σε ορισμένες περιπτώσεις, πρέπει σκόπιμα να απομακρυνόμαστε από την τεχνητή νοημοσύνη. Συχνά συμβουλεύω τους φοιτητές να χρησιμοποιούν AI, για να συντάσσουν πιο γρήγορα email ρουτίνας, αλλά να απομακρύνονται εντελώς από τον υπολογιστή, όταν χρειάζεται να ασχοληθούν με βαθιά, κριτική σκέψη. Η διαμόρφωση των δικών σας σκέψεων πρώτα, σχεδόν πάντα, θα αποδώσει καλύτερα αποτελέσματα από την άμεση προσφυγή στην τεχνητή νοημοσύνη. Το να ξέρετε πότε να τραβήξετε αυτή τη γραμμή είναι η κρίσιμη νέα δεξιότητα που όλοι πρέπει να αποκτήσουμε.

Συμμετέχετε στην Ανεξάρτητη Διεθνή Επιστημονική Επιτροπή των Ηνωμένων Εθνών για την τεχνητή νοημοσύνη, και τον Απρίλιο 2026 αναφερθήκατε στο ζήτημα της προέλευσης («provenance»). Πόσο ρεαλιστικό είναι να μπαίνει υδατογράφημα στο δημοσιογραφικό περιεχόμενο που παράγεται με τεχνητή νοημοσύνη; Και γιατί είναι σημαντικό αυτό;

Μια σημαντική τάση αυτή τη στιγμή είναι το πώς θα τοποθετηθεί υδατογράφημα σε περιεχόμενο παραγόμενο από AI, και υπάρχουν διάφορες τεχνικές. Κάποιοι συνάδελφοι δουλεύουν σε μεθόδους που υπολογίζουν την πιθανότητα ένα συγκεκριμένο μοντέλο να έχει παραγάγει μια ακολουθία λέξεων. Ωστόσο, αυτό έχει μια σημαντική επιφύλαξη: εάν περάσετε από αυτούς τους ελέγχους ένα πολύ κοινό κείμενο, όπως το Σύνταγμα των ΗΠΑ, θα το επισημάνουν ως 100% παραγόμενο από AI απλώς επειδή το κείμενο είναι έντονα απομνημονευμένο από τα μοντέλα.

Παρόλο που η υδατογράφηση δεν είναι η κύρια ειδικότητά μου, γίνεται ολοένα και πιο ζωτικής σημασίας η επαλήθευση της συγγραφικής προέλευσης. Ακόμη πιο σημαντικό είναι να καταπολεμήσουμε την παραπληροφόρηση, για να διατηρήσουμε την εμπιστοσύνη του κοινού στη δημοσιογραφία και στους θεσμούς που βασίζονται σε γεγονότα. Η απώλεια αυτής της εμπιστοσύνης θα ήταν ένα τεράστιο κοινωνικό ζήτημα.

Το κοινό δεν εμπιστεύεται τη δημοσιογραφία, ενώ ταυτόχρονα η χρήση chatbots αυξάνεται. Επίσης, δεν εμπιστευόμαστε και τόσο την τεχνητή νοημοσύνη, σύμφωνα με διάφορες δημοσκοπήσεις. Πώς μπορούμε να βγούμε από αυτόν τον κύκλο;

Θα απαντήσω υπό το πρίσμα της επιστήμης, και μπορούμε να το συνδέσουμε με τη δημοσιογραφία. Στην επιστήμη, η δημοσίευση ενός peer-reviewed άρθρου είναι θεμελιώδης διαδικασία. Αντιμετωπίζουμε, όμως, αυτή τη στιγμή μια κρίση: δημοσιεύεται καθημερινά συντριπτικός αριθμός άρθρων, και υπάρχουν πολύ λίγοι κριτές. Έχει γίνει σχεδόν αδύνατο να παρακολουθήσουμε την αιχμή της επιστήμης. Θέλουμε να διατηρήσουμε το μοντέλο του peer review, αλλά πρέπει να επανεξετάσουμε τον τρόπο εφαρμογής του.

Για παράδειγμα, θα μπορούσαμε να εισαγάγουμε «ζωντανά άρθρα» («live papers») που ενημερώνονται συνεχώς με νέα αποτελέσματα αντί να αποτελούν στατικά τελικά προϊόντα, και θα έπρεπε να συζητάμε τις αποτυχίες με την ίδια ανοιχτότητα όπως τις επιτυχίες. Το μοντέλο επιστημονικής δημοσίευσης πρέπει να εξελιχθεί, γιατί δεν είναι πλέον βιώσιμο.

Για τη δημοσιογραφία, θα έθετα το ερώτημα: ποιες είναι οι αντίστοιχες δομές που χρειάζονται επανεξέταση; Θέλουμε οι δημοσιογράφοι να επικεντρωθούν κυρίως στην ερευνητική δημοσιογραφία και στην τεκμηρίωση γεγονότων —κάτι που είναι πιο κρίσιμο από ποτέ; Ή θα πρέπει να επικεντρωθούν στη διαμόρφωση επιχειρημάτων, στη διάρρηξη των θαλάμων αντήχησης (echo chambers) και στη δημιουργία μιας κοινής πραγματικότητας; Σε μια εποχή όπου η τεχνητή νοημοσύνη και τα μέσα κοινωνικής δικτύωσης απομονώνουν τους ανθρώπους σε θαλάμους αντήχησης, έχουμε τα τεχνολογικά εργαλεία, για να παράγουμε καλύτερη δημοσιογραφία, αλλά πρέπει να είμαστε στοχευμένοι, να έχουμε μελετημένο τρόπο για το πώς θα ανασχεδιάσουμε τον κλάδο.

Εάν συμβουλεύατε ένα μέσο ενημέρωσης που χρησιμοποιεί εντατικά την τεχνητή νοημοσύνη ή ακόμα και δημιουργεί το δικό του εργαλείο, κάτι που έχουν κάνει κάποιοι δημοσιογραφικοί οργανισμοί, ποιο είναι το ένα λάθος που θα τους λέγατε να αποφύγουν, ή το ένα πράγμα που θα τους ενθαρρύνατε να κάνουν;

Θα τους συμβούλευα να ενδυναμώσουν τους δημοσιογράφους τους. Να τους παρέχουν τους πόρους που χρειάζονται για υψηλής ποιότητας ερευνητική δουλειά και να τους εκπαιδεύσουν να χρησιμοποιούν την τεχνητή νοημοσύνη κριτικά. Να μην αγοράζουν απλώς νέα εργαλεία και να τα «ρίχνουν» στο newsroom. Η έμφαση πρέπει να δίνεται στο να μάθουν οι άνθρωποι να κρίνουν κριτικά πότε και πώς να χρησιμοποιούν συγκεκριμένα εργαλεία.

Η ισχυρή μου σύσταση είναι να μην απαγορεύεται εντελώς η χρήση συγκεκριμένων τεχνολογιών. Όταν η διοίκηση απαγορεύει εργαλεία, αναπόφευκτα εμφανίζεται η «σκιώδης AI» (shadow AI), όπου οι άνθρωποι τα χρησιμοποιούν ούτως ή άλλως, αλλά με μη εξουσιοδοτημένο και ανεπιτήρητο τρόπο.

Οι άνθρωποι συχνά αντιμετωπίζουν την τεχνητή νοημοσύνη ως ένα προϊόν [της λογικής] «ή το παίρνεις όπως είναι ή όχι» που υπαγορεύεται από τις μεγάλες εταιρείες τεχνολογίας. Οι επαγγελματίες έχουν, όμως, πολύ περισσότερη αυτενέργεια απ’ όσο συνειδητοποιούν. Δεν είμαι δημοσιογράφος, οπότε δεν ξέρω ακριβώς ποια εργαλεία χρειάζεται ένα newsroom καθημερινά. Αλλά αν οι προγραμματιστές και οι δημοσιογράφοι συνεργαστούν μακροπρόθεσμα, μπορούμε να χτίσουμε εξειδικευμένα εργαλεία που ξεπερνούν κατά πολύ τα έτοιμα εμπορικά προϊόντα.

Οι λέξεις-κλειδιά εδώ είναι ενδυνάμωση και αυτενέργεια. Έχουμε τη δυνατότητα να απαιτούμε καλύτερα εργαλεία αλλά και διαφορετικά είδη μοντέλων τεχνητής νοημοσύνης. Απλώς χρειάζεται να διασφαλίσουμε ότι οι επαγγελματίες αναγνωρίζουν και χρησιμοποιούν αυτή την αυτενέργεια.