Γνωρίστε τον μικρότερο «υπερυπολογιστή» στον κόσμο από την Tiiny AI. Ένα μηχάνημα αρκετά τολμηρό για να τρέχει 120B μοντέλα AI ακριβώς στην παλάμη του χεριού σας

Οι συμπαγείς συσκευές τεχνητής νοημοσύνης γίνονται όλο και πιο mainstream, αλλά μια νέα startup έχει σπάσει τα εμπόδια παρουσιάζοντας τον μικρότερο υπερυπολογιστή τεχνητής νοημοσύνης στον κόσμο, ο οποίος φαίνεται πολύ ικανός στα χαρτιά.

Το νέο AI Pocket Lab της Tiiny διαθέτει τους νεότερους πυρήνες ARM v9.2 Onboard, φέρνοντας δύναμη στην ανάπτυξη 120B LLM

Το Edge AI έχει γίνει ένα αναδυόμενο τμήμα της βιομηχανίας υπολογιστών, κυρίως επειδή η ανάπτυξη μοντέλων ανοιχτού κώδικα σε τοπικές μηχανές επιτρέπει έναν πιο εξατομικευμένο φόρτο εργασίας. Ωστόσο, απαιτεί επίσης ακριβό υλικό. Συσκευές όπως το DGX Spark της NVIDIA μπορεί να κοστίζουν έως και 4.000 $, κάτι που δεν είναι εφικτό για έναν γενικό καταναλωτή. Μια startup που ονομάζεται Tiiny AI σχεδιάζει να γεφυρώσει αυτό το χάσμα, όχι μόνο εισάγοντας μια οικονομικά αποδοτική λύση, αλλά και εισάγοντας μια συσκευή που φέρεται να είναι ο «μικρότερος» υπερυπολογιστής του κόσμου, που ονομάζεται Tiiny AI Pocket Lab.

Είναι ενδιαφέρον ότι η συσκευή έχει διαστάσεις μόλις 14,2 × 8 × 2,53 cm, ζυγίζει 300 g, ωστόσο η Tiiny AI ισχυρίζεται ότι ο υπερυπολογιστής μπορεί να αναπτύξει με επιτυχία ένα μοντέλο 120 δισεκατομμυρίων παραμέτρων, ένα επίτευγμα μοναδικό στο είδος του. Τα LLM που μπορούν να χρησιμοποιηθούν με αυτό το μηχάνημα λέγεται ότι είναι τέλεια για «συλλογισμό σε επίπεδο διδακτορικού, ανάλυση πολλαπλών βημάτων και βαθιά κατανόηση των συμφραζομένων». Με δυνατότητες στη συσκευή, το AI Pocket Lab είναι ιδανικό όχι μόνο για καταναλωτές αλλά και για όσους θέλουν να πειραματιστούν με τοπική ανάπτυξη LLM.

Με βάση τα όσα αποκάλυψε το Tiiny AI, το AI Pocket Lab υποστηρίζει μοντέλα από GPT-OSS, Llama, Qwen, DeepSeek, Mistral και Phi. Μία από τις πιο εντυπωσιακές πτυχές του AI Pocket Lab είναι ότι μπορεί να προσφέρει 190 TOPS με ένα διακριτό NPU επί του σκάφους. Με 80 GB μνήμης RAM LPDDR5X ενσωματωμένο, μπορείτε να ενεργοποιήσετε την επιθετική κβαντοποίηση, επιτρέποντας σε ένα μοντέλο 120B να λειτουργεί απρόσκοπτα σε τοπικό περιβάλλον. Επιπλέον, η Tiiny AI λέει ότι η εταιρεία έχει χρησιμοποιήσει δύο τεχνικές που κάνουν μια διεπαφή 120B πρακτική, και εδώ είναι:

TurboSparseμια τεχνική αραιής ενεργοποίησης σε επίπεδο νευρώνων, βελτιώνει σημαντικά την αποτελεσματικότητα των συμπερασμάτων διατηρώντας παράλληλα την πλήρη ευφυΐα του μοντέλου.

PowerInferμια ετερογενής μηχανή εξαγωγής συμπερασμάτων ανοιχτού κώδικα με περισσότερα από 8.000 αστέρια GitHub, επιταχύνει μεγάλους φόρτους εργασίας LLM κατανέμοντας δυναμικά τους υπολογισμούς σε CPU και NPU, επιτρέποντας απόδοση βαθμού διαχωρισμού σε ένα κλάσμα της παραδοσιακής κατανάλωσης ενέργειας. Μαζί, αυτές οι τεχνολογίες επιτρέπουν στο Tiiny AI Pocket Lab να προσφέρει δυνατότητες που προηγουμένως απαιτούσαν επαγγελματικές GPU που κοστίζουν χιλιάδες δολάρια.

Η συσκευή πρόκειται να παρουσιαστεί στην CES 2026. Αν και η εταιρεία δεν έχει αποκαλύψει λεπτομέρειες σχετικά με την ημερομηνία κυκλοφορίας και τη διαθεσιμότητα λιανικής, το AI Pocket Lab φαίνεται σίγουρα να είναι μια πολλά υποσχόμενη συσκευή. Θα είναι ενδιαφέρον να δούμε πώς θα εξελιχθεί το ντεμπούτο του στον κλάδο.

Ακολουθώ Wccftech στο Google για να λαμβάνετε περισσότερες από τις ειδήσεις μας στις ροές δεδομένων σας.