Από απλές οδηγίες σε αρχιτεκτονική: O επαναπροσδιορισμός της τεχνητής νοημοσύνης στα newsroom

«Εμείς φωνάζουμε». Αυτό είπε ο Όλε Ράισμαν (Ole Reissmann), Διευθυντής του Τμήματος Τεχνητής Νοημοσύνης στο Der Spiegel, όταν τον ρώτησα την άποψή του για την τεχνητή νοημοσύνη και τα ζητήματα διακυβέρνησης που αυτή εγείρει. «Εμείς (τώρα) σπάμε [την πληροφορία] και την παραδίδουμε σε ένα σύστημα τεχνητής νοημοσύνης που δεν ελέγχουμε και το οποίο μπορεί να φέρει μεροληψίες που αγνοούμε. Το σύστημα την επανασυνθέτει και, στη συνέχεια, προσθέτει σε αυτήν το όνομά μας και το εμπορικό μας σήμα», είπε. «Τι εντύπωση δίνει αυτό; Εμείς φωνάζουμε».

Το Der Spiegel δεν είναι το μόνο που αντιμετωπίζει αυτές τις προκλήσεις. Πολλές άλλες εκδόσεις αντιμετωπίζουν δυσκολίες στην εφαρμογή συστημάτων διακυβέρνησης που θα τις βοηθήσουν να αντιμετωπίσουν τις προκλήσεις που δημιουργεί η ανάπτυξη της τεχνητής νοημοσύνης.

Για αυτό το άρθρο, συνομίλησα με 20 επικεφαλής αιθουσών σύνταξης, ειδικούς και ακαδημαϊκούς από 13 χώρες σε όλο τον κόσμο. Αν και οι ανησυχίες τους ποικίλουν, ένα κοινό θέμα αναδείχθηκε μεταξύ των επικεφαλής που βρίσκονται σε πιο προχωρημένο στάδιο της πορείας τους στον τομέα της τεχνητής νοημοσύνης. Όσο περισσότερο πειραματίζονταν με την τεχνητή νοημοσύνη, τόσο περισσότερο συνειδητοποιούσαν ότι τα πιο σύνθετα ερωτήματα διακυβέρνησης έθεταν πολύ ευρύτερα υπαρξιακά ερωτήματα. Ο Μάρτιν Σούρι (Martin Schori), πρώην Διευθυντής του Τμήματος Τεχνητής Νοημοσύνης στη σουηδική εφημερίδα Aftonbladet και πλέον συνιδρυτής του Hint, ήθελε να μάθει πώς μπορεί η δημοσιογραφία να παραμείνει επίκαιρη όταν ένα μεγάλο γλωσσικό μοντέλο μπορεί να συνοψίσει σχεδόν οποιοδήποτε άρθρο σε τρία βασικά σημεία. Ο Λουκ Μπράντλεϊ-Τζόουνς (Luke Bradley-Jones), ο νέος Διευθύνων Σύμβουλος του Ομίλου The Economist, μου είπε ότι αυτό που τον κρατάει ξύπνιο τη νύχτα είναι η προσπάθεια να κατανοήσει πώς θα είναι η δημοσιογραφία στην εποχή «μετά τις μηχανές αναζήτησης».

Αυτά δεν είναι ζητήματα που αφορούν μόνο την τεχνολογία ή τα επιχειρηματικά μοντέλα, αλλά και την εξουσία και τη λογοδοσία. Σπρώχνουν τους ειδησεογραφικούς οργανισμούς να αναρωτηθούν ποιος είναι ο ρόλος της δημοσιογραφίας στην εποχή της τεχνητής νοημοσύνης. Ποιος ελέγχει στην πραγματικότητα τα συστήματα που καθορίζουν το περιεχόμενο που καταναλώνει το κοινό; Ποιος φέρει την ευθύνη όταν κάτι πάει στραβά; Και πώς μπορούν τα ειδησεογραφικά μέσα να διατηρήσουν την εμπιστοσύνη του κοινού, όταν βασίζονται σε εργαλεία τα οποία ούτε τους ανήκουν ούτε τα κατανοούν πλήρως;

Πολλά μέσα ενημέρωσης ακόμη βρίσκονται σε αρχικό στάδιο όσον αφορά στην αντιμετώπιση αυτών των ζητημάτων. Σύμφωνα με πρόσφατη μελέτη της FT Strategies και της WAN-IFRA, η οποία βασίστηκε σε απαντήσεις από 448 αίθουσες σύνταξης, το 57% δεν διαθέτει προσωπικό ειδικευμένο στην τεχνητή νοημοσύνη, ενώ το 64% εξακολουθεί να παράγει ειδήσεις για μόνο ένα παραδοσιακό κανάλι. Το πιο συνηθισμένο κριτήριο μέτρησης της επιτυχίας της τεχνητής νοημοσύνης ήταν επίσης η αποδοτικότητα, με το 42% να αναφέρει την εξοικονόμηση χρόνου.

1. Πώς προσεγγίζουν οι αίθουσες σύνταξης τη διακυβέρνηση της τεχνητής νοημοσύνης

Αυτή τη στιγμή, διαμορφώνονται τρεις γενικές προσεγγίσεις για τη διακυβέρνηση της τεχνητής νοημοσύνης.

Στο ένα άκρο του φάσματος βρίσκονται οι οργανισμοί στους οποίους η χρήση της τεχνητής νοημοσύνης έχει αναπτυχθεί οργανικά και όχι μέσω μιας επίσημης διαδικασίας διακυβέρνησης. Οι δημοσιογράφοι χρησιμοποιούν εργαλεία όπως το ChatGPT χωρίς να υπάρχουν επίσημες πολιτικές και μηχανισμοί εποπτείας από το μέσο ενημέρωσης, συχνά λόγω έλλειψης πόρων ή υποδομών.

Η δεύτερη προσέγγιση ξεκινά με κατευθυντήριες γραμμές ή αρχές, οι οποίες υποστηρίζονται από διατμηματικές επιτροπές και από την εποπτεία του περιεχομένου που παράγεται από την τεχνητή νοημοσύνη με ανθρώπινη εποπτεία («Human in the Loop»). Μέσα σε αυτήν την ομάδα, ορισμένοι οργανισμοί είναι πιο σαφείς από άλλους όσον αφορά τον ρόλο που παίζουν οι αξίες τους στη διαμόρφωση του τρόπου με τον οποίο σχεδιάζεται η διακυβέρνηση.

Ορισμένοι μεγαλύτεροι οργανισμοί έχουν δημιουργήσει πιο επίσημες δομές. Η YLE (Φιλανδική Τηλεόραση), το BBC και η Τσεχική Τηλεόραση, για παράδειγμα, διαθέτουν ειδικούς επικεφαλής και ομάδες για την Υπεύθυνη Τεχνητή Νοημοσύνη.

Η Τσεχική Τηλεόραση διόρισε τη Βερόνικα Μακούροβα Κρίζοβα (Veronika Macurova Krizova) ως την πρώτη της Διευθύντρια για την Υπεύθυνη Τεχνητή Νοημοσύνη και τη Στρατηγική φέτος τον Ιανουάριο. Είναι δικηγόρος ειδικευμένη στο δίκαιο της πνευματικής ιδιοκτησίας, με το πεδίο αρμοδιοτήτων της να εκτείνεται στους τομείς της διακυβέρνησης, της κατανόησης της τεχνητής νοημοσύνης και της ηθικής χρήσης της τεχνητής νοημοσύνης. Επιπλέον, ενδιαφέρεται ιδιαιτέρως να διερευνήσει πρακτικούς μηχανισμούς που θα μπορούσαν να βοηθήσουν τους δημοσιογράφους να προστατευθούν από τα συνθετικά μέσα ενημέρωσης, την κοινωνική μηχανική και άλλες απόπειρες χειραγώγησης, ένας τομέας που, κατά την άποψή της, δεν καλύπτεται επαρκώς αυτήν τη στιγμή.

Στο BBC, ο Τζέιμς Φλέτσερ (James Fletcher) είναι ο επικεφαλής του τμήματος Υπεύθυνης Τεχνητής Νοημοσύνης για ολόκληρο τον οργανισμό, όχι μόνο για τις ειδήσεις. Η ομάδα του βασίζεται σε τρεις πυλώνες: διακυβέρνηση και διαχείριση κινδύνων, αρχές και πολιτική, καθώς και αξιολόγηση και επιστήμη δεδομένων. Οι συντακτικές αρχές ανήκουν στη Μονάδα Συντακτικής Πολιτικής. Η ομάδα του Φλέτσερ φροντίζει να μην τις υπονομεύει η τεχνητή νοημοσύνη.

«Σκεφτόμαστε πολύ το πώς μπορούμε να το πετύχουμε αυτό τόσο μέσω της εταιρικής κουλτούρας όσο και μέσω της συμμόρφωσης», μου είπε. «Έχουμε ένα εξαιρετικό παράδειγμα στην ευρύτερη συντακτική μας κουλτούρα: στο BBC, χιλιάδες άνθρωποι λαμβάνουν καθημερινά συντακτικές αποφάσεις που ενέχουν αρκετά σημαντικούς κινδύνους. Σε γενικές γραμμές, το κάνουν μόνοι τους και, σε γενικές γραμμές, τα καταφέρνουν, ενώ αν χρειαστούν βοήθεια, μπορούν να απευθυνθούν σε μια κεντρική ομάδα. Αυτό είναι το μοντέλο που θέλουμε να επεκτείνουμε στη διακυβέρνηση της τεχνητής νοημοσύνης ευρύτερα».

Ο Όμιλος JP/Politikens στη Δανία ξεκίνησε το εγχείρημά του για τη διακυβέρνηση το 2019, σε συνεργασία με τέσσερα πανεπιστήμια και με την υποστήριξη του Ταμείου Καινοτομίας της Δανίας. Στόχος ήταν η ανάπτυξη υπεύθυνων συστημάτων τεχνητής νοημοσύνης, με παράλληλη μείωση της εξάρτησης από τις μεγάλες τεχνολογικές πλατφόρμες.

Η πρώτη τους δημιουργία ήταν ένα πλαίσιο διακυβέρνησης που ονόμασαν Πυξίδα Αξιών, για το οποίο έγραψε και η δική μας Μαρίνα Αδάμι (Marina Adami) τον Δεκέμβριο του 2024. Το πλαίσιο αυτό βοηθά τους εκδότες να καθορίσουν τον ρόλο τους στην κοινωνία και τις αξίες τους πριν λάβουν αποφάσεις σχετικά με την τεχνολογία.

Ο Κάσπερ Λίντσκοου (Kasper Lindskow), επικεφαλής του Τμήματος Τεχνητής Νοημοσύνης του Ομίλου JP/Politikens, περιγράφει μια διαδικασία που ξεκινά πριν ακόμη να ληφθεί οποιαδήποτε απόφαση σχετικά με την τεχνολογία: «Η ανάπτυξη ενός προϊόντος τεχνητής νοημοσύνης ξεκινά με τον καθορισμό του ρόλου σου στην κοινωνία ως εκδότη, ανεξάρτητα από την τεχνολογία, ώστε να διασφαλίσεις ότι οι προσπάθειές σου εστιάζουν σε αυτόν τον ρόλο».

Ο Φράνκο Πικάτο (Franco Piccato) είναι Διευθυντής του Chequeado, ενός οργανισμού fact-checking στην Αργεντινή, που ασχολείται με την τεχνητή νοημοσύνη από το 2015. Ο Πικάτο πιστεύει ότι οι ειδησεογραφικοί οργανισμοί πρέπει να ευθυγραμμίζουν τις πρωτοβουλίες τους στον τομέα της τεχνητής νοημοσύνης με την αποστολή τους: «Βιαζόμαστε πολύ να εφαρμόσουμε την τεχνητή νοημοσύνη επειδή είναι η νέα μόδα. Αν όμως μπορούσαμε πρώτα να ακούσουμε το κοινό μας και να δούμε σε ποια σημεία μπορούμε να γίνουμε πιο χρήσιμοι, τότε θα ευθυγραμμίζαμε την αποστολή μας με τις εσωτερικές μας διαδικασίες και τα αποτελέσματα που χρειαζόμαστε για να το εξυπηρετήσουμε καλύτερα».

Η Λάουρα Ζόμερ (Laura Zommer) διηύθυνε το Chequeado για μια δεκαετία, προτού συνιδρύσει το Factchequeado το 2022, μια συνεργασία με τον ισπανικό οργανισμό επαλήθευσης γεγονότων Maldita που απευθύνεται στο ισπανόφωνο κοινό των Ηνωμένων Πολιτειών. Μετέφερε την ίδια φιλοσοφία στον νέο οργανισμό και την επέκτεινε στις προμήθειες.

Το «Chat Migrante» του Factchequeado είναι ένα κλειστό chatbot που βασίζεται σε επιμελημένες επίσημες πηγές και στη δημοσιογραφία του ίδιου του οργανισμού. Κατασκευάστηκε από την Botalite, το τμήμα τεχνολογίας του Maldita, εν μέρει επειδή η ύπαρξη ενός προμηθευτή με έδρα την Ισπανία σήμαινε ότι θα ίσχυαν τα ευρωπαϊκά πρότυπα προστασίας δεδομένων. Το Factchequeado συμφώνησε, επίσης, με τον προμηθευτή να πραγματοποιούνται τακτικές αυτοματοποιημένες δοκιμές, πέραν των δικών του εσωτερικών αξιολογήσεων που διεξάγονται κάθε δύο εβδομάδες.

2. Η ανθρώπινη εποπτεία της τεχνητής νοημοσύνης βρίσκεται υπό πίεση

Ανεξάρτητα από τον τρόπο με τον οποίο οι οργανισμοί προσέγγισαν τη διακυβέρνηση της τεχνητής νοημοσύνης ή από το πού επέλεξαν να δώσουν έμφαση, ένα πράγμα παραμένει σταθερό σε σχεδόν όλες τους μιντιακούς οργανισμούς με τους οποίους μίλησα: η διατήρηση της ανθρώπινης εποπτείας, που εξακολουθεί να θεωρείται η κύρια εγγύηση όσον αφορά το περιεχόμενο που παράγεται από τεχνητή νοημοσύνη.

Ωστόσο, οι δυσκολίες αυτής της προσέγγισης αρχίζουν πλέον να γίνονται εμφανείς. Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται όλο και πιο ικανά, η πρόκληση δεν έγκειται μόνο στην ορθή αξιολόγηση των αποτελεσμάτων που παράγει η τεχνητή νοημοσύνη, αλλά και στον αντίκτυπο που αυτό μπορεί να έχει στους ίδιους τους δημοσιογράφους.

«Η τεχνητή νοημοσύνη δεν μειώνει τον όγκο εργασίας. Τον αυξάνει». Έτσι περιέγραψε πρόσφατα το Harvard Business Review την κατάσταση που επικρατεί σε οργανισμούς που υιοθετούν την τεχνητή νοημοσύνη. Σε ολόκληρο τον κλάδο των ειδήσεων, αυτό το βάρος φαίνεται να πέφτει στις συντακτικές ομάδες, οι οποίες ήταν ήδη υπερβολικά επιβαρυμένες.

Η Άνικα Ρουοράνεν (Annika Ruoranen) ήταν επικεφαλής του τμήματος Υπεύθυνης Τεχνητής Νοημοσύνης στον φινλανδικό δημόσιο ραδιοτηλεοπτικό φορέα YLE, πριν να περάσει στην παροχή συμβουλευτικών υπηρεσιών. Είπε ότι την απασχολούσε το ερώτημα σε ποιον θα έπεφτε το βάρος της διακυβέρνησης στην αίθουσα σύνταξης.

«Αυτό το επίπεδο των μεσαίων στελεχών είναι υπερβολικά φορτωμένο», είπε. «Ασχολούνται με τις καθημερινές εργασίες, εργάζονται για την ποιότητα των άρθρων, και μετά πρέπει να πάω να τους ζητήσω να φροντίσουν και για τη διακυβέρνηση της τεχνητής νοημοσύνης».

Η Σανουτά Ραγκού (Sannuta Raghu), Επικεφαλής Προϊόντων Τεχνητής Νοημοσύνης στο Scroll στην Ινδία και πρώην ερευνήτρια στο Ινστιτούτο Reuters, εκφράζει παρόμοιες απόψεις: «Επειδή υπάρχει αυτό το βαρίδι της τεχνητής νοημοσύνης, πρέπει πλέον να την αξιολογούμε με εξαιρετική λεπτομέρεια… και αυτό προκαλεί κόπωση».

Αυτή η κόπωση οδήγησε το Scroll να επιβάλει όρια στον όγκο των κειμένων που έχουν δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης τα οποία αναμένεται να επιμεληθούν οι εργαζόμενοι.

Από τις 2 Αυγούστου 2026, το άρθρο 50 του Νόμου για την Τεχνητή Νοημοσύνη της Ευρωπαϊκής Ένωσης απαιτεί από τους φορείς που δραστηριοποιούνται στην ΕΕ «να γνωστοποιούν ποια από τα κείμενα που δημοσιεύουν, με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου ενδιαφέροντος, έχουν δημιουργηθεί από τεχνητή νοημοσύνη… με εξαίρεση τα κείμενα που έχουν υποβληθεί σε ανθρώπινη επιμέλεια ή συντακτικό έλεγχο και για τα οποία φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη».

Η Μακούροβα Κρίζοβα (Macurova Krizova) συμμετείχε στις ομάδες εργασίας που διαδραμάτισαν ενεργό ρόλο στην ανάπτυξη του επιχειρησιακού «προτύπου» για τον Κώδικα Πρακτικής της Ευρωπαϊκής Ένωσης Σχετικά με τη Διαφάνεια του Περιεχομένου που Δημιουργείται από Τεχνητή Νοημοσύνη. Ωστόσο, η ίδια εκφράζει σκεπτικισμό ως προς τον τρόπο με τον οποίο αυτές οι εξαιρέσεις θα λειτουργήσουν στην πράξη και θέτει ερωτήματα σχετικά με το πώς θα είναι η ουσιαστική εποπτεία.

«Είναι πολύ εύκολο να μην ανοίξεις τις παραπομπές», μου είπε. «Είναι πολύ εύκολο να κάνεις ακόμα ένα βήμα και να καταλήξεις με ένα σχεδόν έτοιμο τελικό κομμάτι. Γι’ αυτό πιστεύω ότι τα δημόσια μέσα ενημέρωσης είναι πιο σημαντικά παρά ποτέ. Εξακολουθούν να πρεσβεύουν την αξιόπιστη δημοσιογραφία και την υπεύθυνη εργασία των επαγγελματιών, ακόμη και στην εποχή της τεχνητής νοημοσύνης».

3. Γνωστική υποταγή και κολακεία

Εκτός από την πίεση που ασκούν ο φόρτος εργασίας, η κόπωση και οι νέες νομικές απαιτήσεις, οι ερευνητές εκφράζουν επίσης ανησυχίες σχετικά με τον τρόπο με τον οποίο σχεδιάζονται πολλά μοντέλα τεχνητής νοημοσύνης και τις επιπτώσεις που έχει ο σχεδιασμός αυτός στη συμπεριφορά των χρηστών.

Η Μάλα Κουμάρ (Mala Kumar) είναι διευθύντρια του Humane Intelligence, ενός μη κερδοσκοπικού οργανισμού που έχει ως στόχο την εξάλειψη των εμποδίων στην εφαρμογή της τεχνητής νοημοσύνης για το κοινό καλό. Η Κουμάρ ειδικεύεται στην αξιολόγηση μοντέλων τεχνητής νοημοσύνης και έχει αφιερώσει χρόνια στην πραγματοποίηση δοκιμών αμυντικής ικανότητας «red team» σε ορισμένα από τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν οι άνθρωποι καθημερινά.

Το «red team» είναι μια πρακτική που αρχικά χρησιμοποιούνταν για τον έλεγχο συστημάτων με σκοπό την ασφάλεια στον κυβερνοχώρο. Η ομάδα της Μάλα τη χρησιμοποιεί για να διεξάγει δομημένες δοκιμές με σκοπό τον εντοπισμό επιβλαβών ταξινομήσεων που ενδέχεται να υπάρχουν ή όχι, καθώς και για τη βελτίωση των γνώσεων σχετικά με την τεχνητή νοημοσύνη για όλες τις ομάδες.

Μέσα από αυτήν την έρευνα, παρατήρησε μια επαναλαμβανόμενη σχεδιαστική επιλογή σε μερικά από τα πιο διαδεδομένα μοντέλα: «Η OpenAI έχει λάβει, ουσιαστικά, μια σχεδιαστική απόφαση να επικυρώνει πολλά από αυτά που λένε οι άνθρωποι, ακόμα κι αν πρόκειται καταφανώς για κακές ιδέες. Τα μοντέλα Claude και Gemini τείνουν να υιοθετούν μια πολύ πιο ισορροπημένη προσέγγιση όταν διατυπώνουν κάτι. Έτσι, μπορεί να πουν: “Αυτό δεν είναι καλή ιδέα” ή “Να γιατί θα μπορούσε να είναι καλή ή κακή ιδέα”. Θα κάνουν κάτι για να μετριάσουν την ένταση της δήλωσης, κάτι που τουλάχιστον μπορεί να ξυπνήσει τον χρήστη και [να ανακόψει] αυτό το είδος ψύχωσης με την τεχνητή νοημοσύνη, στην οποία έχουν βυθιστεί πολλοί άνθρωποι, όπου λαμβάνουν συνεχώς επιβεβαίωση και τις πληροφορίες που επιθυμούν».

Ο όρος «γνωστική υποταγή» (cognitive surrender) χρησιμοποιήθηκε για πρώτη φορά σε ένα έγγραφο εργασίας του 2026 από τους ερευνητές Στίβεν Σο (Steven Shaw) και Γκίντεον Νέιβ (Gideon Nave) της Σχολής Wharton του Πανεπιστημίου της Πενσιλβάνια.

Ορίζουν τη γνωστική υποταγή ως «τη συμπεριφορική και κινητήρια τάση να μεταθέτει κανείς την κρίση, την προσπάθεια και την ευθύνη στα αποτελέσματα των μοντέλων τεχνητής νοημοσύνης, ιδίως όταν τα αποτελέσματα αυτά παρουσιάζονται με ευχέρεια, αυτοπεποίθηση ή με ελάχιστη δυσκολία».

Τρεις μελέτες στις οποίες συμμετείχαν 1.372 άτομα έδειξαν ότι οι άνθρωποι υιοθετούσαν τα αποτελέσματα της τεχνητής νοημοσύνης ακόμη και όταν αυτά ήταν σκόπιμα λανθασμένα, και κατέδειξαν ότι η εμπιστοσύνη αυξανόταν ανεξάρτητα από τις περιστάσεις.

Αν και η έρευνα αυτή βρίσκεται ακόμη στα αρχικά της στάδια, ορισμένοι επικεφαλής αιθουσών σύνταξης αρχίζουν να περιγράφουν παρόμοιες συμπεριφορές στην πραγματικότητα. Ο Ιμπραήμ Σέχου (Ibrahim Shehu), Διευθυντής Σύνταξης και Αρχισυντάκτης του Media Trust Group στη Νιγηρία, εκφράζει την ανησυχία του για όσα παρατηρεί στη δική του αίθουσα σύνταξης. «Νιώθω ότι [η τεχνητή νοημοσύνη] σκοτώνει την ανθρώπινη δημιουργικότητα», είπε. «Πολλοί νέοι στην αίθουσα σύνταξης δεν σκέφτονται πολύ, δεν είναι δημιουργικοί. Όλοι θέλουν να χρησιμοποιούν αυτό το εργαλείο για να ολοκληρώνουν γρήγορα τις εργασίες τους».

Οι ανησυχίες του Σέχου επεκτείνονται και στην εμπιστοσύνη του κοινού. «[Το θέμα είναι] η αυθεντικότητα… [Εάν] τα ρεπορτάζ σας τα κάνουν οι μηχανές, υπάρχει ο φόβος ότι μπορεί τελικά να χάσουμε το κοινό μας», είπε. Ως εκ τούτου, διερευνά τρόπους για να ενθαρρύνει την πρωτότυπη σκέψη και να αποθαρρύνει την υπερβολική εξάρτηση από εργαλεία τεχνητής νοημοσύνης, συμπεριλαμβανομένης της πιθανής χρήσης συστημάτων ανίχνευσης τεχνητής νοημοσύνης.

4. Η τεχνητή νοημοσύνη ως εργαλείο για τον περιορισμό της μεροληψίας

Σε αυτό το άρθρο που έγραψα το 2025, περιέγραψα μια σειρά προκαταλήψεων που μπορεί να εμφανιστούν στα δεδομένα, στα μοντέλα και σε όλο τον κύκλο ζωής της μηχανικής μάθησης, παραθέτοντας παραδείγματα για το πώς οι συντακτικές ομάδες τις μετριάζουν. Αυτές οι ανησυχίες και τα παραδείγματα εξακολουθούν να ισχύουν και σήμερα.

Έναν χρόνο αργότερα έμεινα κατάπληκτος από το πόσες συντακτικές ομάδες χρησιμοποιούν την τεχνητή νοημοσύνη για να εντοπίσουν τις μεροληψίες στη δική τους δημοσιογραφία. Ο Ντέιβιντ Κάσγουελ (David Caswell), ο οποίος παρέχει συμβουλές σε επικεφαλής αιθουσών σύνταξης σε ολόκληρο τον κλάδο, πιστεύει ότι ενδέχεται να υπάρχουν ορισμένες μεροληψίες που είναι πιο δύσκολο να αλλάξουν από εκείνες που εντοπίζονται στα συστήματα τεχνητής νοημοσύνης.

Αναπολώντας την περίοδο που εργαζόταν στο BBC κατά τη διάρκεια του δημοψηφίσματος για την ΕΕ στο Ηνωμένο Βασίλειο, λέει: «Μας ξέφυγε το Brexit… η μισή χώρα έβραζε από οργή ενάντια στο κατεστημένο. Και κανένας μέσα στην αίθουσα σύνταξης δεν το κατάλαβε, γιατί ζούσαμε όλοι σε μια συγκεκριμένη αστική περιοχή».

Ο Σούρι, όταν ακόμα εργαζόταν στην Aftonbladet, είχε περιγράψει τα πειράματα που εξέταζαν ποιοι εκπροσωπούνται στην ειδησεογραφική κάλυψη:

«Εάν δεις τα στοιχεία, διαπιστώνεις ότι οι γυναίκες δεν διαβάζουν και πολλά από τα… άρθρα μας για την πολιτική. Και… μπορεί στη συνέχεια να καταλήξεις στο συμπέρασμα ότι στις γυναίκες δεν αρέσει η πολιτική. Δεν νομίζω ότι αυτή είναι η απάντηση. Πιθανότατα… οι γυναίκες δεν ελκύονται από τον τρόπο με τον οποίο καλύπτουμε την πολιτική».

Οι ίδιες τεχνικές που μπορούν να αναδείξουν τη μεροληψία στη λήψη αποφάσεων στις αίθουσες σύνταξης μπορούν να βοηθήσουν να αποκαλυφθεί πώς η μεροληψία ενδέχεται να αναδύεται μέσα στα ίδια τα συστήματα τεχνητής νοημοσύνης. Όπως εξήγησε ο Τζέιμς Φλέτσερ από το BBC, «υπάρχουν κάποια πράγματα που μπορείς να διαπιστώσεις μόνο σε μεγάλη κλίμακα· ορισμένοι τύποι μεροληψίας αποτελούν ένα σαφές παράδειγμα. Εάν εξετάζεις μόνο ένα κείμενο, δεν μπορείς να καταλάβεις αν στη μετάφραση χρησιμοποιούνται περισσότερες ανδρικές αντωνυμίες από γυναικείες. Εάν κοιτάξεις, όμως, 10.000 κείμενα, μπορείς».

Πρόκειται για μια αρχή που θα αποκτά όλο και μεγαλύτερη σημασία, καθώς οι αίθουσες σύνταξης υιοθετούν συστήματα με μεγαλύτερη αυτονομία. «Άλλο πράγμα είναι να υπάρχει ανθρώπινη εποπτεία σε μια μεμονωμένη περίπτωση», δήλωσε ο Κάσπερ Λίντσκοου. «Και εντελώς άλλο είναι να υπάρχει ανθρώπινη εποπτεία κατά τη διάρκεια της επεξεργασίας των αποτελεσμάτων, εκεί όπου μπορείς να διακρίνεις μοτίβα. Αυτό είναι κάτι που αξίζει να προσθέτουμε, πάντα, αλλά θα γίνεται και όλο και πιο απαραίτητο καθώς η παραγωγική τεχνητή νοημοσύνη βελτιώνεται και διαδραματίζει έναν ολοένα και πιο κεντρικό ρόλο στην αίθουσα σύνταξης».

5. Ποιο είναι το επόμενο βήμα για τη διακυβέρνηση της τεχνητής νοημοσύνης

Δεν μπορούν να απαντηθούν όλα τα μεγάλα ερωτήματα της διακυβέρνησης από μεμονωμένες αίθουσες σύνταξης. Έτσι, αρχίζουν να σχηματίζονται συμμαχίες, ενώ οι κυβερνήσεις και οι ρυθμιστικές αρχές αρχίζουν να δίνουν μεγαλύτερη προσοχή στο θέμα. Η συμμαχία Spur, που σήμερα περιλαμβάνει πάνω από 30 μέσα ενημέρωσης, αποτελεί ένα παράδειγμα πρωτοβουλίας η οποία επιδιώκει τη θέσπιση προτύπων και την ανάπτυξη κοινής υποδομής, με στόχο τη δημιουργία πιο δίκαιων σχέσεων μεταξύ εκδοτών και πλατφορμών τεχνητής νοημοσύνης.

Για τις συντακτικές ομάδες που βρίσκονται στα αρχικά στάδια της πορείας τους στον τομέα της τεχνητής νοημοσύνης, η διακυβέρνηση εξακολουθεί να ξεκινά από την αποστολή, τις αξίες και τις συντακτικές αρχές. Η ανθρώπινη εποπτεία παραμένει ένα σημαντικό μέτρο ασφαλείας, αλλά είναι εξίσου σημαντικό να αναγνωρίζουμε τα όριά της και να σχεδιάζουμε συστήματα που δεν βασίζονται στην ανθρώπινη ικανότητα για τον εντοπισμό κάθε σφάλματος.

Ορισμένοι οργανισμοί κινούνται ήδη προς αυτήν την κατεύθυνση. Η Σανουτά Ραγκού, Επικεφαλής του Τμήματος Τεχνητής Νοημοσύνης του Scroll στην Ινδία, έχει αναλάβει την εφαρμογή του «News Atom», ενός πλαισίου που ανέπτυξε κατά τη διάρκεια της υποτροφίας της στο Ινστιτούτο Reuters. Αυτό ταξινομεί τα συστατικά στοιχεία της δημοσιογραφίας σε επίπεδο πρότασης με μεταδεδομένα που διατηρούν την προέλευση, την αναφορά πηγής και το συντακτικό πλαίσιο. Για τη Ραγκού, αυτές οι αποφάσεις σχετικά με τις υποδομές αποτελούν θέμα διακυβέρνησης:

«Αυτή η αναδιάρθρωση σε επίπεδο υποδομών αποτελεί κατά κάποιον τρόπο μια οδηγία διακυβέρνησης από μόνη της, γιατί αφού έτσι αποθηκεύεις τα δεδομένα σου, έτσι τα βλέπεις».

Το IPTC, ο παγκόσμιος οργανισμός τυποποίησης για τα μέσα ενημέρωσης, συνεργάζεται πλέον με τη Σανουτά, προκειμένου να διερευνήσει αν το News Atom, στο σύνολό του ή σε μια νέα, αναθεωρημένη έκδοσή του, θα μπορούσε να καταστεί πρότυπο δεδομένων.

Άλλοι επιδιώκουν να ασκήσουν επιρροή πέρα από τα δικά τους συστήματα. Ο Όλε Ράισμαν μού είπε ότι αυτός είναι ο λόγος για τον οποίο το Der Spiegel προχωρά πέρα από την αδειοδότηση περιεχομένου και συνεργάζεται άμεσα με εταιρείες, μεταξύ των οποίων και η Google, σχετικά με τον τρόπο με τον οποίο η δημοσιογραφία του παρουσιάζεται, αποδίδεται και αναπαρίσταται μέσα σε προϊόντα τεχνητής νοημοσύνης. Το περιοδικό The Economist πειραματίζεται, επίσης, με εκδόσεις των δημοσιογραφικών του άρθρων που έχουν σχεδιαστεί ειδικά για τεχνητή νοημοσύνη.

Οι φορείς που, σύμφωνα με τον Όλε, «φωνάζουν», δεν περιορίζονται πλέον μόνο στο να κρούουν τον κώδωνα του κινδύνου. Δοκιμάζουν νέες υποδομές, νέες συνεργασίες και νέες μορφές επιρροής στα συστήματα που θα διαμορφώσουν το μέλλον της δημοσιογραφίας. Εάν η διακυβέρνηση θέλει να συμβαδίσει με την ολοένα και πιο αυτόνομη τεχνητή νοημοσύνη, θα πρέπει να προχωρήσει πέρα από τις πολιτικές και τις αρχές και να εξετάσει πώς μπορεί να ενσωματωθεί στην ίδια την αρχιτεκτονική.