Πόσο κοστίζει την ημέρα η λειτουργία του ChatGPT και πώς προσπαθεί η Microsoft να το κάνει φθηνότερο;

Πολύ υψηλό είναι για την OpenAI το ημερήσιο κόστος του ChatGPT, λόγω των ακριβών τεχνολογικών υποδομών που απαιτεί η τεχνητή νοημοσύνη.

Σύμφωνα με τον αναλυτή της SemiAnalysis Ντίλαν Πατέλ, ο οποίος μίλησε στο The Information, η λειτουργία του ChatGPT ενδέχεται να κοστίζει στην OpenAI έως και 700.000 δολάρια την ημέρα.

Αυτό συμβαίνει επειδή το ChatGPT απαιτεί τεράστια ποσά ισχύος για τον υπολογισμό των απαντήσεων στις ερωτήσεις χρηστών. «Το μεγαλύτερο μέρος αυτού του κόστους απαιτείται για τους ακριβούς διακομιστές», σημείωσε ο ίδιος.

Μιλώντας, δε, στο Insider, ο αναλυτής δήλωσε ότι είναι πιθανό το κόστος να είναι ακόμη υψηλότερο, καθώς η αρχική του εκτίμηση βασιζόταν στο μοντέλο GPT-3 της OpenAI. Το GPT-4 –η πιο πρόσφατη έκδοση- θα είχε ακόμη υψηλότερο κόστος λειτουργίας, εκτίμησε ο ίδιος.

Οι εταιρείες που χρησιμοποιούν γλωσσικά μοντέλα της OpenAI πλήρωναν υψηλές τιμές εδώ και χρόνια, σύμφωνα με το Insider.

Ο Νικ Ουόλτον, διευθύνων σύμβουλος της Latitude, ανέφερε στο CNBC ότι η λειτουργία εντός τέτοιου μοντέλου -μαζί με τις πληρωμές για τους διακομιστές της Amazon Web Services- κόστιζε στην εταιρεία του 200.000 δολάρια τον μήνα το 2021, προκειμένου η τεχνητή νοημοσύνη να απαντά σε εκατομμύρια ερωτήματα χρηστών.

Αυτό το υψηλό κόστος οδήγησε τον Ουόλτον στη στροφή προς έναν πάροχο λογισμικού που υποστηρίζεται από την AI21 Labs, κάτι που όπως ανέφερε, μείωσε το κόστος στα 100.000 δολάρια τον μήνα. «Ξοδεύαμε εκατοντάδες χιλιάδες δολάρια τον μήνα για την τεχνητή νοημοσύνη και δεν είμαστε μια μεγάλη startup, οπότε ήταν ένα τεράστιο κόστος» σημείωσε ο ίδιος.

Τα σχέδια της Microsoft για ένα μυστικό τσιπ

Σε μια προσπάθεια να μειώσει το κόστος λειτουργίας των μοντέλων τεχνητής νοημοσύνης, η Microsoft φέρεται να αναπτύσσει ένα τσιπ με την ονομασία Athena, σύμφωνα με το The Information.

Όπως ανέφεραν πηγές που επικαλείται το ίδιο μέσο, τα στελέχη της Microsoft συνειδητοποίησαν ότι η εταιρεία υστερούσε σε σύγκριση με τη Google και την Amazon στις προσπάθειες για δημιουργία αποκλειστικά δικών της τσιπ.

Ταυτόχρονα, η Microsoft φέρεται να αναζητούσε φθηνότερες εναλλακτικές λύσεις και αποφάσισε να κατασκευάσει ένα τσιπ που θα ήταν λιγότερο δαπανηρό.

Περισσότεροι από 300 εργαζόμενοι της Microsoft φέρεται να εργάζονται τώρα για το νέο τσιπ, το οποίο θα μπορούσε να κυκλοφορήσει για εσωτερική χρήση από τη Microsoft και την OpenAI ήδη από το επόμενο έτος, ανέφεραν στο The Information δύο πηγές με γνώση του θέματος.

ChatGPT could cost over $700,000 per day to operate. Microsoft is reportedly trying to make it cheaper. https://t.co/2xUIRhx7v3

— Insider Business (@BusinessInsider) April 20, 2023