ChatGPT: κατά παραγγελία δεδομένα για μια «επιστημονική» μελέτη…

Το ChatGPT επινοεί κατά παραγγελία δεδομένα για μια «επιστημονική» μελέτη… κατόπιν αιτήματος των ερευνητών. Το ChatGPT Generative AI θα μπορούσε πλέον όχι μόνο να γράψει το κείμενο ενός επιστημονικού άρθρου… αλλά και να εφεύρει τα δεδομένα και τα αποτελέσματα!

Θα γίνουν το ChatGPT και τα παρόμοια του οι καλύτεροι φίλοι των επιστημονικών πλαστογράφων; Οι δυνατότητες δημιουργίας περιεχομένου των παραγωγικών μοντέλων γλώσσας αναγνωρίστηκαν γρήγορα από τους ερευνητές ως πιθανά βοηθήματα για τη συγγραφή επιστημονικών άρθρων.

Αλλά άλλοι προχωρούν παραπέρα και χρησιμοποιούν την τεχνητή νοημοσύνη για να κατασκευάσουν εξ ολοκλήρου τα άρθρα τους. Έκτοτε, η πιο πρόσφατη έκδοση του ChatGPT έχει προσθέσει ένα νέο εργαλείο που του επιτρέπει να διαχειρίζεται υπολογιστικά φύλλα και δεδομένα. Μια άλλη απειλή για την επιστημονική αξιοπιστία; Βεβαίως, συμπεραίνουν Ιταλοί συγγραφείς που ζήτησαν από το ChatGPT να κατασκευάσει κατά παραγγελία δεδομένα για να αποδείξουν μια ψευδή επιστημονική υπόθεση. Με το άρθρο τους, που δημοσιεύτηκε στις 9 Νοεμβρίου 2023 στο περιοδικό JAMA Ophthalmology, προειδοποιούν για αυτό το νέο εργαλείο που θα μπορούσε να εκτινάξει τον αριθμό των ψευδών ερευνών.

Ένα ChatGPT πιο «δημιουργικό» από ποτέ

Η τεχνητή νοημοσύνη που σχεδιάστηκε από το OpenAI έχει προκαλέσει αμέτρητους φόβους και προβληματισμούς, συμπεριλαμβανομένου αυτού της εξαπάτησης. Χάρη στις «δημιουργικές» του ικανότητες, ο καθένας θα μπορούσε να του ζητήσει να γράψει οτιδήποτε και τα πάντα γι’ αυτόν, από δοκίμια για μαθητές γυμνασίου και εκκλήσεις για δικηγόρους μέχρι λογοτεχνικά κείμενα που λογοκλοπούν υπάρχοντα έργα ή επιστημονικά άρθρα που διαδίδουν ψευδείς πληροφορίες. 

Και αυτή η δόλια χρήση κινδυνεύει να γίνει γρήγορα μια πραγματική μάστιγα στον κόσμο της έρευνας. Ήδη, όλο και περισσότερα επιστημονικά άρθρα γράφονται χρησιμοποιώντας το ChatGPT με δόλιο τρόπο (όπως τόνισε ο ερευνητής Guillaume Cabanac). 

Μια ενημέρωση σε αυτό το AI θα μπορούσε να το κάνει ακόμα πιο χρήσιμο για επιστημονικούς πλαστογράφους. Η τελευταία έκδοση του ChatGPT, GPT-4, έχει βελτιωθεί με μια ενότητα που της επιτρέπει να αναλύει δεδομένα, η οποία χρησιμοποιεί τη γλώσσα προγραμματισμού Python. Αυτό του επιτρέπει να κατεβάζει δεδομένα για να κάνει στατιστικές αναλύσεις, κάτι που θα μπορούσε να είναι ένα πολύτιμο εργαλείο για την έρευνα διευκολύνοντας αυτές τις αναλύσεις. 

Αλλά οι Ιταλοί ερευνητές Andrea Taloni, Vincenzo Scorcia και Giuseppe Giannaccare, από το Πανεπιστήμιο Magna Graecia του Catanzaro και το Πανεπιστήμιο του Κάλιαρι, μόλις έδειξαν ότι αυτό το εργαλείο μπορεί εύκολα να χρησιμοποιηθεί καταχρηστικά για τη δημιουργία ψευδών δεδομένων.

«Μια εκπληκτική και τρομακτική εμπειρία»

Για να τονίσουν αυτή τη νέα απειλή, ζήτησαν από το ChatGPT να εφεύρει κατά παραγγελία δεδομένα που θα μπορούσαν να αποδείξουν μια (ψευδή) επιστημονική υπόθεση. Ως οφθαλμίατροι, του ζήτησαν να παράσχει κατά παραγγελία δεδομένα που δείχνουν ότι μια χειρουργική τεχνική για τα μάτια είναι καλύτερη από μια άλλη για τη θεραπεία του κερατόκωνου, μιας εκφυλιστικής οφθαλμικής νόσου στην οποία ο κερατοειδής χιτώνας παίρνει το σχήμα κώνου. Του ζήτησαν να δημιουργήσει τα δεδομένα 250 ασθενών (συνολικά μελετήθηκαν 300 μάτια), και μάλιστα να τηρήσει τις στατιστικές νόρμες  (ποσοστό γυναικών στο δείγμα, εύρος οπτικής οξύτητας των ασθενών πριν από την παρέμβαση και εύρος αναμενόμενων αποτελεσμάτων σε κάθε ομάδα, καθώς και τις επιπλοκές που αναμένεται να έχουν οι ασθενείς κατά τη διάρκεια και μετά την επέμβαση και το ποσοστό των ασθενών που αναμένεται να εμφανίσουν αυτές τις επιπλοκές). 

Μέσα σε λίγα λεπτά, το ChatGPT δημιούργησε μια λίστα με 250 άτομα (με επίθετο, όνομα, ηλικία, ημερομηνία επέμβασης, χειρουργική επέμβαση που έγινε κ.λπ.). Και όπως ζητήθηκε, τα αποτελέσματα της στατιστικής ανάλυσης των δεδομένων που εφευρέθηκε από το AI έδειξαν ότι μία από αυτές τις χειρουργικές τεχνικές παρήγαγε καλύτερα αποτελέσματα… κάτι που είναι εντελώς ψευδές στην πραγματικότητα. 

Υπογραμμίζοντας την ευκολία με την οποία αδίστακτοι ερευνητές μπορούσαν να κατασκευάσουν επιστημονικά αποτελέσματα μέσα σε λίγα λεπτά. «Η ακρίβεια των δεδομένων ξεπέρασε τις προσδοκίες μας, για να είμαι ειλικρινής, ήταν μια εκπληκτική και τρομακτική εμπειρία», παραδέχεται ο Giuseppe Giannaccare στα ιατρικά μέσα ενημέρωσης MedPage. «Ένα κουτί της Πανδώρας μόλις άνοιξε και δεν το γνωρίζουμε ακόμα πώς η επιστημονική κοινότητα θα αντιδράσει σε κακές χρήσεις και απειλές που συνδέονται με την Τεχνητή Νοημοσύνη».

Η βαθιά ανάλυση των αποτελεσμάτων μπορεί να δείξει ότι πρόκειται για κατά παραγγελία δεδομένα

Ωστόσο, ενδέχεται να είναι δυνατός ο εντοπισμός δεδομένων που παράγονται από AI. Το περιοδικό Nature ζήτησε από τους βιοστατιστικούς του Πανεπιστημίου του Μάντσεστερ Τζακ Γουίλκινσον και Ζέβεν Λου να ρίξουν μια πιο προσεκτική ματιά στα δεδομένα για να δουν αν βρήκαν ενδείξεις ότι ήταν απάτη. 

Και πράγματι, βρήκαν κάποια λάθη, για παράδειγμα αποκλίσεις μεταξύ των ονομάτων ορισμένων ασθενών και του φύλου τους, καθώς και έλλειψη συσχέτισης μεταξύ της οπτικής οξύτητας των ασθενών πριν και μετά την επέμβαση. 

Οι Ιταλοί ερευνητές όμως απάντησαν στο MedPage επισημαίνοντας ότι οι οδηγίες τους για το ChatGPT ήταν πολύ βασικές και ότι οι καλύτερες οδηγίες θα παρήγαγαν σίγουρα δεδομένα που θα ήταν πιο ρεαλιστικά και πιο δύσκολο να εντοπιστούν ως κατασκευασμένα. «Οι καλύτερα σχεδιασμένες προτροπές θα μπορούσαν να περιλαμβάνουν πιο συγκεκριμένους κανόνες για τη διόρθωση αυτών των σφαλμάτων ή άλλων πιθανών ελαττωμάτων. Στο μέλλον, θα δούμε μια διελκυστίνδα μεταξύ προσπαθειών απάτης με χρήση Τεχνητής Νοημοσύνης και συστημάτων ανίχνευσης». 

Ας ευχηθούμε τα συστήματα ανίχνευσης να κερδίσουν τη μάχη και να μας εμποδίζουν να βυθιστούμε σε έναν ωκεανό ψευδούς επιστήμης.

sciences et avenir

Ακολουθήστε το Gizchina Greece στο Google News για να μαθαίνετε πρώτοι και άμεσα, όλα τα τεχνολογικά νέα! Αν ψάχνετε HOT προσφορές, κάντε εγγραφή στο κανάλι μας στο Telegram!