Το Tiiny AI αποκάλυψε το Tiiny AI Pocket Lab, το οποίο επαληθεύτηκε από τα Ρεκόρ Γκίνες ως ο μικρότερος προσωπικός υπερυπολογιστής τεχνητής νοημοσύνης στον κόσμο. Αυτή η συσκευή, συγκρίσιμη σε μέγεθος με ένα power bank, επιτρέπει την τοπική εκτέλεση μεγάλων μοντέλων τεχνητής νοημοσύνης για την αντιμετώπιση προβλημάτων εξάρτησης από το cloud, βελτιώνοντας το απόρρητο και την προσβασιμότητα για μεμονωμένους χρήστες.
Το Pocket Lab έχει διαστάσεις 14,2 επί 8 επί 2,53 εκατοστά και ζυγίζει 300 γραμμάρια, επιτρέποντάς του να χωράει εύκολα σε μια τσέπη ή τσάντα. Το Tiiny AI τοποθετεί αυτόν τον υπερυπολογιστή ως επιλογή για καθημερινούς χρήστες, σε αντίθεση με άλλες συμπαγείς συσκευές όπως το Project Digits της NVIDIA, που κοστίζει περίπου 3.000 $ και το DGX Spark, με τιμή 4.000 $. Αυτά τα υψηλότερα σημεία τιμών περιορίζουν τη διαθεσιμότητά τους σε ευρύτερο κοινό, ενώ το Pocket Lab στοχεύει σε πιο ευρεία υιοθέτηση.
Το Tiiny AI προσδιορίζει την εξάρτηση από την υποδομή cloud ως τον πρωταρχικό περιορισμό στα τρέχοντα συστήματα τεχνητής νοημοσύνης και όχι την ανεπαρκή υπολογιστική ισχύ. Η εταιρεία δίνει έμφαση στην τοπική επεξεργασία για να κάνει την τεχνητή νοημοσύνη πιο προσωπική. Ο διευθυντής του GTM Samar Bhoj δηλώνει, «η ευφυΐα δεν πρέπει να ανήκει στα κέντρα δεδομένων, αλλά στους ανθρώπους». Αυτή η προσέγγιση μειώνει την εξάρτηση από απομακρυσμένους διακομιστές, ενισχύει το απόρρητο δεδομένων διατηρώντας τους υπολογισμούς στη συσκευή και παρέχει δυνατότητες AI απευθείας στους χρήστες χωρίς απαιτήσεις δικτύου.
Η συσκευή υποστηρίζει την ανάπτυξη μεγάλων μοντέλων γλώσσας που φτάνουν έως και 120 δισεκατομμύρια παραμέτρους, μια κλίμακα που συνήθως απαιτεί εκτεταμένα rack server ή εξειδικευμένες επαγγελματικές μονάδες επεξεργασίας γραφικών. Τέτοια μοντέλα απαιτούν σημαντικούς πόρους, ωστόσο το Pocket Lab τους χειρίζεται μέσω βελτιστοποιημένων ενσωματώσεων υλικού και λογισμικού, φέρνοντας την απόδοση τεχνητής νοημοσύνης υψηλού επιπέδου σε φορητή μορφή.
Στην ίδρυσή του, το Pocket Lab χρησιμοποιεί την αρχιτεκτονική ARM v9.2 με μια κεντρική μονάδα επεξεργασίας 12 πυρήνων. Φιλοξενεί διάφορα μοντέλα ανοιχτού κώδικα, συμπεριλαμβανομένων των GPT-OSS, Llama, Qwen, DeepSeek, Mistral και Phi. Αυτά τα μοντέλα εξυπηρετούν διάφορες εφαρμογές, από επεξεργασία φυσικής γλώσσας έως εξειδικευμένες εργασίες, και η συμβατότητα της συσκευής διευρύνει τις δυνατότητες για προγραμματιστές και ερευνητές που εργάζονται εκτός σύνδεσης.
Κεντρική θέση στη λειτουργία του είναι μια διακριτή μονάδα νευρωνικής επεξεργασίας που επιτυγχάνει 190 tera λειτουργίες ανά δευτερόλεπτο. Αυτή η μονάδα συνδυάζεται με 80 gigabyte μνήμης LPDDR5X, διευκολύνοντας επιθετικές τεχνικές κβαντοποίησης. Η κβαντοποίηση συμπιέζει τα δεδομένα του μοντέλου σε χαμηλότερα επίπεδα ακρίβειας, επιτρέποντας αποτελεσματικά τοπικά συμπεράσματα σε περιορισμένο υλικό, διατηρώντας παράλληλα την ουσιαστική υπολογιστική ακρίβεια.
Το Tiiny AI ενσωματώνει δύο αποκλειστικές τεχνολογίες για τη βελτίωση της απόδοσης. Το TurboSparse χρησιμοποιεί αραιή ενεργοποίηση σε επίπεδο νευρώνων, απενεργοποιώντας επιλεκτικά λιγότερο κρίσιμες νευρικές οδούς κατά την εξαγωγή συμπερασμάτων. Αυτή η μέθοδος αυξάνει την απόδοση μειώνοντας τους περιττούς υπολογισμούς, διατηρώντας την πλήρη ευφυΐα του μοντέλου χωρίς υποβάθμιση της ποιότητας. Το PowerInfer λειτουργεί ως μια ετερογενής μηχανή συμπερασμάτων, κατανέμοντας δυναμικά φόρτους εργασίας AI μεταξύ της κεντρικής μονάδας επεξεργασίας και της μονάδας νευρωνικής επεξεργασίας. Αυτό το τμήμα βελτιστοποιεί τη χρήση πόρων, παρέχοντας απόδοση συγκρίσιμη με περιβάλλοντα διακομιστή σε μειωμένα επίπεδα κατανάλωσης ενέργειας κατάλληλα για φορητές συσκευές.
Ο συνδυασμός αυτών των στοιχείων υποστηρίζει εφαρμογές στην έρευνα, τη ρομποτική και προηγμένες συλλογιστικές εργασίες. Το Tiiny AI σκοπεύει να παρουσιάσει το Pocket Lab στην CES 2026. Λεπτομέρειες σχετικά με την τιμολόγηση και τη διαθεσιμότητα παραμένουν άγνωστες σε αυτό το στάδιο.
VIA: DataConomy.com
