Τον κώδικα του λογισμικού που χρησιμοποιεί για τη λειτουργία των μοντέλων τεχνητής νοημοσύνης της σε μεγάλη κλίμακα διαθέτει ανοιχτά η DeepSeek, σε μια κίνηση που θα μπορούσε να μειώσει το κόστος και να διευκολύνει τις επιχειρήσεις στην αξιοποίηση της τεχνολογίας της.
Το λογισμικό, με την ονομασία DeepInfer, χρησιμοποιείται από την κινεζική εταιρεία για την επιτάχυνση της λειτουργίας των μοντέλων της και την αποδοτικότερη αξιοποίηση των υπολογιστικών πόρων.
"Διαθέτουμε την υποδομή λογισμικού που χρησιμοποιούμε στην παραγωγή, με στόχο να βοηθήσουμε την κοινότητα να μειώσει το υπολογιστικό κόστος, να περιορίσει την ενεργειακή κατανάλωση και να καταστήσει την τεχνητή νοημοσύνη πιο προσιτή", ανέφερε την Τρίτη, μέσω της πλατφόρμας X, η εταιρεία με έδρα τη Χανγκζού της Κίνας.
Σύμφωνα με την DeepSeek, το DeepInfer υποστηρίζει προς το παρόν το μοντέλο V4.1-Flash, ενώ προβλέπεται να ακολουθήσει η υποστήριξη μελλοντικών συστημάτων της.
Η διάθεση του λογισμικού προσφέρει μια σπάνια εικόνα των τεχνικών με τις οποίες η DeepSeek επιδιώκει να περιορίζει το κόστος λειτουργίας προηγμένων συστημάτων τεχνητής νοημοσύνης, μια διαδικασία γνωστή ως inference ή συμπερασματολογία. Πρόκειται για το στάδιο κατά το οποίο ένα εκπαιδευμένο μοντέλο επεξεργάζεται νέα δεδομένα και παράγει απαντήσεις, απαιτώντας σημαντικούς υπολογιστικούς πόρους.
Οι τεχνικές που εφαρμόζονται σε αυτό το στάδιο αποτελούν συνήθως μέρος της τεχνογνωσίας που οι εταιρείες τεχνητής νοημοσύνης διατηρούν ως ανταγωνιστικό πλεονέκτημα.
Στο επίκεντρο το κόστος υπολογιστικής ισχύος και ενέργειας
Η πρωτοβουλία δίνει, παράλληλα, τη δυνατότητα σε παρόχους υπηρεσιών cloud και φιλοξενίας που εκτελούν μοντέλα της DeepSeek να εφαρμόσουν οι ίδιοι τις μεθόδους εξοικονόμησης πόρων που ενσωματώνει το DeepInfer.
Το κόστος λειτουργίας ενός μοντέλου τεχνητής νοημοσύνης μπορεί να διαφέρει σημαντικά ανάλογα με το λογισμικό που χρησιμοποιείται για την εκτέλεσή του. Η αποδοτικότερη διαχείριση των υπολογιστικών πόρων μπορεί να περιορίσει το κόστος κάθε αιτήματος και, παράλληλα, να μειώσει την κατανάλωση ενέργειας.
Το DeepInfer συνδυάζει διαφορετικές τεχνικές, μεταξύ των οποίων η κατανεμημένη εκτέλεση συμπερασματολογίας (distributed inference). Η συγκεκριμένη προσέγγιση κατανέμει τα υπολογιστικά φορτία τεχνητής νοημοσύνης σε διαφορετικά συστήματα υλικού, επιτρέποντας στα μοντέλα να παράγουν μεγαλύτερο όγκο αποτελεσμάτων σε λιγότερο χρόνο και να αξιοποιούν αποτελεσματικότερα τις δυνατότητες των επεξεργαστών.
Παρότι αρκετές από τις τεχνικές στις οποίες βασίζεται το λογισμικό χρησιμοποιούνται ευρέως στον κλάδο, η DeepSeek τις έχει προσαρμόσει ώστε να λειτουργούν αποδοτικά σε συνδυασμό με τα δικά της μοντέλα.
Πιθανές μειώσεις τιμών για τις επιχειρήσεις
Ο περιορισμός του κόστους εκτέλεσης των μοντέλων τεχνητής νοημοσύνης θα μπορούσε να ενισχύσει τα περιθώρια κέρδους των παρόχων υπηρεσιών φιλοξενίας και, δυνητικά, να οδηγήσει σε χαμηλότερες τιμές για τους πελάτες τους.
Για τις επιχειρήσεις που επιλέγουν να εκτελούν τα μοντέλα της DeepSeek στις δικές τους υπολογιστικές υποδομές, το DeepInfer θα μπορούσε επίσης να μειώσει τις σχετικές δαπάνες.
Ωστόσο, μέχρι στιγμής δεν έχουν δημοσιοποιηθεί ανεξάρτητες συγκριτικές αξιολογήσεις που να επιβεβαιώνουν το μέγεθος των κερδών αποδοτικότητας που επιτυγχάνει το λογισμικό.
Παρότι το DeepInfer έχει σχεδιαστεί κυρίως για τα μοντέλα της DeepSeek, η διάθεσή του ως λογισμικού ανοιχτού κώδικα επιτρέπει και σε άλλους προγραμματιστές να μελετήσουν τις τεχνικές του και να τις προσαρμόσουν στα δικά τους συστήματα εκτέλεσης μοντέλων τεχνητής νοημοσύνης.
