Κυβέρνηση Αυστραλίας: Η Deloitte τους πήρες 440.000 δολάρια για έκθεση που συνέταξε με το ChatGPT

Η εταιρεία Deloitte ανακοίνωσε ότι θα επιστρέψει μέρος της αμοιβής που είχε λάβει από την αυστραλιανή κυβέρνηση για την εκπόνηση μιας μελέτης ύψους 440.000 δολαρίων, η οποία αποδείχθηκε ότι περιείχε λάθη – κάποια εκ των οποίων οφείλονταν στη χρήση τεχνητής νοημοσύνης κατά τη συγγραφή της.

Το Υπουργείο Απασχόλησης και Εργασιακών Σχέσεων (DEWR) επιβεβαίωσε πως η Deloitte θα επιστρέψει την τελική δόση του συμβολαίου, με τα σχετικά στοιχεία να δημοσιοποιούνται μόλις ολοκληρωθεί η διαδικασία. Η υπόθεση προκάλεσε πολιτικές αντιδράσεις, με γερουσιαστή του Εργατικού Κόμματος να δηλώνει πως η εταιρεία «έχει πρόβλημα ανθρώπινης νοημοσύνης».

Σύμφωνα με τον Guardian, η Deloitte είχε αναλάβει, τον Δεκέμβριο του 2024, την αξιολόγηση του πληροφοριακού συστήματος που χρησιμοποιείται για την επιβολή κυρώσεων στους ανέργους όταν δεν τηρούν τις υποχρεώσεις τους στο πλαίσιο των προγραμμάτων απασχόλησης. Η έρευνα εντόπισε σοβαρά προβλήματα, όπως «έλλειψη διαφάνειας» στη σύνδεση του συστήματος με τη σχετική νομοθεσία και «τεχνικές δυσλειτουργίες». Το σύστημα, ανέφερε, λειτουργούσε «με βάση την τιμωρητική υπόθεση ότι οι συμμετέχοντες δεν συμμορφώνονται».

Η μελέτη δημοσιεύτηκε στις 4 Ιουλίου, ωστόσο λίγες εβδομάδες αργότερα, δημοσίευμα της Australian Financial Review αποκάλυψε ότι περιείχε ανύπαρκτες πηγές και λανθασμένες παραπομπές.

Ο ακαδημαϊκός του Πανεπιστημίου του Σίδνεϊ, δρ Κρίστοφερ Ραντζ, που πρώτος επεσήμανε τα σφάλματα, δήλωσε ότι η έκθεση παρουσίαζε «παραισθήσεις» — ένα φαινόμενο κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης «γεμίζουν κενά» με εσφαλμένες ή επινοημένες πληροφορίες.

«Αντί να αντικαταστήσουν τις ψεύτικες παραπομπές με πραγματικές, απλώς τις άλλαξαν με νέες, επίσης αβάσιμες. Αυτό δείχνει ότι οι αρχικοί ισχυρισμοί του κειμένου δεν στηρίζονταν σε πραγματικές πηγές», ανέφερε.

Στη διορθωμένη έκδοση της έκθεσης, η Deloitte σημειώνει ότι έγιναν «ορισμένες διορθώσεις σε υποσημειώσεις και αναφορές», χωρίς όμως να αλλάξουν τα βασικά συμπεράσματα και συστάσεις. Όπως δήλωσε εκπρόσωπος του υπουργείου, «η ουσία της ανεξάρτητης αξιολόγησης παραμένει αναλλοίωτη».

Η εταιρεία, στην αναθεωρημένη έκθεση, πρόσθεσε πλέον ότι μέρος της είχε παραχθεί «με τη βοήθεια ενός εργαλείου τεχνητής νοημοσύνης τύπου Azure OpenAI GPT-4o, το οποίο είχε άδεια χρήσης από το υπουργείο και λειτουργούσε σε ασφαλές περιβάλλον της Microsoft».

Η Deloitte, πάντως, δεν παραδέχτηκε ότι τα λάθη προήλθαν από την τεχνητή νοημοσύνη και επέμεινε πως «οι αλλαγές δεν επηρεάζουν το περιεχόμενο, τα πορίσματα ή τις προτάσεις της έκθεσης».

Από την πλευρά της, η γερουσιαστής των Εργατικών, Ντέμπορα Ο’Νιλ, σχολίασε δηκτικά ότι «φαίνεται πως η τεχνητή νοημοσύνη έχει αναλάβει το μεγαλύτερο μέρος της δουλειάς». «Η Deloitte έχει πρόβλημα ανθρώπινης νοημοσύνης. Θα ήταν αστείο αν δεν ήταν τόσο θλιβερό», είπε, προσθέτοντας πως «όσοι συμβάλλονται με τέτοιες εταιρείες πρέπει να γνωρίζουν ακριβώς ποιος κάνει τη δουλειά – άνθρωποι ή αλγόριθμοι».

Η Australian Financial Review αποκάλυψε επίσης ότι το αρχικό κείμενο περιλάμβανε ανύπαρκτες αναφορές σε πανεπιστημιακές μελέτες και ακόμη και σε μια δικαστική απόφαση που δεν υπήρξε ποτέ. Στην ενημερωμένη έκθεση, η Deloitte διόρθωσε την περίληψη αυτής της υποτιθέμενης υπόθεσης, αναγνωρίζοντας «σφάλματα στην προηγούμενη παρουσίασή της».