AEGIS: Σουηδοί ερευνητές προτείνουν πλαίσιο ελέγχου για τους αλγορίθμους ιατρικής τεχνητής νοημοσύνης

Ερευνητές του Karolinska Institutet στη Σουηδία παρουσίασαν το AEGIS, ένα πλαίσιο που στοχεύει να ελέγχει τις αλλαγές και να παρακολουθεί την απόδοση των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται στην Ιατρική. Η μελέτη δημοσιεύθηκε στις 13 Οκτωβρίου 2026 στο επιστημονικό περιοδικό npj Digital Medicine.

Το ερώτημα που επιχειρεί να απαντήσει είναι πρακτικό: τι γίνεται όταν ένας αλγόριθμος, που εγκρίθηκε ως αξιόπιστος, λειτουργεί σε συνθήκες διαφορετικές από εκείνες για τις οποίες σχεδιάστηκε και ποιος αποφασίζει αν μια νέα έκδοσή του είναι αρκετά ασφαλής για τους ασθενείς.

Γιατί ένας αλγόριθμος μπορεί να χάσει την ακρίβειά του

Η απόδοση ενός συστήματος ΤΝ εξαρτάται από τα δεδομένα εκπαίδευσής του και από το περιβάλλον χρήσης. Τα νοσοκομεία δεν λειτουργούν σε σταθερές συνθήκες: ο εξοπλισμός ανανεώνεται, οι διαγνωστικές πρακτικές αλλάζουν και τα χαρακτηριστικά των ασθενών μεταβάλλονται.

Ένα μοντέλο που αναλύει μαγνητικές τομογραφίες μπορεί, για παράδειγμα, να κληθεί να επεξεργαστεί εικόνες από άλλο μηχάνημα ή με νέο πρωτόκολλο απεικόνισης. Ένα σύστημα που αξιολογεί ασθενείς σε μονάδα εντατικής θεραπείας μπορεί να εφαρμοστεί σε πληθυσμό με διαφορετικά χαρακτηριστικά από εκείνον των αρχικών δεδομένων. Τέτοιες μεταβολές, γνωστές στην επιστήμη των δεδομένων ως data drift, δεν σημαίνουν απαραίτητα λάθη, αποτελούν όμως ένδειξη ότι η απόδοση χρειάζεται επανεξέταση.

Όπως εξηγεί ο Farhad Abtahi, επικεφαλής της κεντρικής μονάδας SMAILE στο Τμήμα Κλινικής Επιστήμης, Παρέμβασης και Τεχνολογίας του Karolinska Institutet και κύριος υπεύθυνος επικοινωνίας της μελέτης, τα περισσότερα ιατροτεχνολογικά προϊόντα που βασίζονται στην ΤΝ είναι «κλειδωμένα» μετά την έγκρισή τους και δεν μαθαίνουν από νέα δεδομένα. Κάθε βελτίωση απαιτεί επανεκπαίδευση και επικύρωση.

Πώς λειτουργεί το AEGIS

Το πλαίσιο υποστηρίζει δύο αποφάσεις: αν μια νέα έκδοση ενός μοντέλου μπορεί να τεθεί σε χρήση και αν το μοντέλο που ήδη λειτουργεί χρειάζεται πιο προσεκτικό έλεγχο. Για τον σκοπό αυτό συνδυάζει την ενσωμάτωση νέων δεδομένων και την επανεκπαίδευση, την παρακολούθηση της απόδοσης και την εφαρμογή προκαθορισμένων κανόνων.

Σύμφωνα με τη δημοσίευση, προβλέπονται τέσσερις πιθανές αποφάσεις για μια νέα έκδοση: έγκριση, έγκριση υπό όρους, παραπομπή για κλινική επανεξέταση ή απόρριψη. Παράλληλα, υπάρχει ανεξάρτητος μηχανισμός συναγερμού, που ενεργοποιείται όταν εντοπίζονται ενδείξεις ότι το σύστημα σε χρήση χρειάζεται έλεγχο. Έτσι εξετάζονται ταυτόχρονα δύο κίνδυνοι: η εγκατάσταση μιας νέας έκδοσης που δεν πληροί τις απαιτήσεις και η συνέχιση χρήσης ενός παλαιότερου μοντέλου με αμφισβητούμενη αξιοπιστία.

Το AEGIS δεν αποτελεί αυτόνομη αρχή έγκρισης. Πρόκειται για εργαλείο υποστήριξης αποφάσεων, οι οποίες εξακολουθούν να υπάγονται στις αρμοδιότητες των κατασκευαστών και στις ισχύουσες κανονιστικές διαδικασίες.

Το ρυθμιστικό πλαίσιο σε ΗΠΑ και ΕΕ

Η ανάγκη ελέγχου των αλλαγών έχει ήδη αναγνωριστεί από τις ρυθμιστικές αρχές. Στις ΗΠΑ ο FDA προβλέπει τη χρήση προκαθορισμένου σχεδίου ελέγχου αλλαγών (Predetermined Change Control Plan, PCCP). Σύμφωνα με τις οδηγίες του, οι κατασκευαστές μπορούν να περιγράφουν εκ των προτέρων συγκεκριμένες τροποποιήσεις ενός προϊόντος και τον τρόπο ελέγχου και εφαρμογής τους. Αν το σχέδιο εγκριθεί, οι προβλεπόμενες αλλαγές γίνονται χωρίς νέα υποβολή για καθεμία.

Στην Ευρωπαϊκή Ένωση, ο κανονισμός για τα ιατροτεχνολογικά προϊόντα προβλέπει υποχρεώσεις παρακολούθησης μετά τη διάθεση στην αγορά. Το άρθρο 72 του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη (AI Act) θεσπίζει απαιτήσεις παρακολούθησης για συστήματα ΤΝ υψηλού κινδύνου, με βάση το εφαρμοστέο πλαίσιο και τις μεταβατικές προθεσμίες. Το AEGIS επιχειρεί να καλύψει ένα πρακτικό κενό, προσφέροντας οργανωμένη διαδικασία αξιολόγησης που μπορεί να στηρίξει την εφαρμογή αυτών των απαιτήσεων.

Η χρήση της ΤΝ στα ευρωπαϊκά συστήματα υγείας

Η ανάγκη για αποτελεσματικό έλεγχο αυξάνεται καθώς διευρύνεται η χρήση της ΤΝ. Σύμφωνα με έκθεση του Παγκόσμιου Οργανισμού Υγείας που δημοσιεύθηκε τον Απρίλιο του 2026, το 74% των κρατών-μελών της ΕΕ δήλωσε ότι χρησιμοποιεί τεχνητή νοημοσύνη για διαγνωστικούς σκοπούς, μεταξύ άλλων στην ιατρική απεικόνιση, στην ανίχνευση ασθενειών και στην υποστήριξη κλινικών αποφάσεων.

Η ίδια έκθεση καταγράφει ότι το 63% των χωρών χρησιμοποιεί chatbots για την επικοινωνία και την υποστήριξη των ασθενών, ενώ το 81% εμπλέκει ήδη ενδιαφερόμενους φορείς στη διαμόρφωση της διακυβέρνησης της ΤΝ στην Υγεία. Τα στοιχεία συγκεντρώθηκαν από τον Ιούνιο του 2024 έως τον Μάρτιο του 2025 και αφορούν τα 27 κράτη-μέλη.