تصور کنید توان پردازشی‌ای که معمولاً فقط در دیتاسنترهای عظیم دیده می‌شود، حالا در قالب دستگاهی کوچک و قابل‌حمل در اختیار شما باشد؛ ابزاری هم‌اندازه یک پاوربانک که می‌تواند وظایف سنگین هوش مصنوعی را به‌تنهایی انجام دهد. این ایده حالا با معرفی Tiiny AI Pocket Lab از مرحله خیال فراتر رفته و به واقعیت تبدیل شده است.

استارتاپ آمریکایی Tiiny AI به‌تازگی از محصولی رونمایی کرده که به‌طور رسمی عنوان کوچک‌ترین ابرکامپیوتر شخصی هوش مصنوعی جهان را از رکوردهای گینس دریافت کرده است. این دستگاه قادر است مدل‌های زبانی بسیار بزرگ را بدون اتصال به اینترنت و بدون وابستگی به کارت‌های گرافیک گران‌قیمت، به‌صورت کاملاً آفلاین اجرا کند.

این گجت جمع‌وجور که از نظر ظاهری شباهت زیادی به یک حافظه اکسترنال دارد، عملکردی فراتر از اندازه‌اش ارائه می‌دهد. Tiiny AI Pocket Lab توان اجرای مدل‌هایی با تا ۱۲۰ میلیارد پارامتر را دارد؛ سطحی از پردازش که معمولاً با مدل‌هایی در کلاس GPT-4 مقایسه می‌شود. طراحان این محصول اعلام کرده‌اند که این دستگاه برای پوشش بخش عمده‌ای از نیازهای عملی کاربران توسعه داده شده و از مدل‌های متن‌باز محبوبی مانند LLaMA، DeepSeek، Mistral و Qwen پشتیبانی می‌کند؛ آن هم با فرایند نصب و اجرا بسیار ساده.

مشخصات فنی Tiiny AI Pocket Lab

این ابرکامپیوتر کوچک به سخت‌افزاری قابل‌توجه مجهز شده است، از جمله:

• پردازنده ARMv9.2 با ۱۲ هسته پردازشی

• ۸۰ گیگابایت رم LPDDR5X

• ۱ ترابایت حافظه SSD

• توان پردازش عصبی در حدود ۱۹۰ تریلیون عملیات در ثانیه (TOPS)

نکته قابل‌توجه در طراحی این دستگاه، حذف کامل کارت گرافیک مجزا و در عین حال حفظ مصرف انرژی پایین در حدود ۶۵ وات است. تیم فنی Tiiny AI برای رسیدن به این هدف، از دو راهکار نرم‌افزاری نوآورانه استفاده کرده است.

فناوری TurboSparse تنها بخش‌های ضروری از شبکه عصبی را فعال می‌کند و به‌جای درگیر کردن کل مدل، روی نورون‌های مؤثر تمرکز دارد؛ رویکردی که باعث افزایش سرعت و کاهش مصرف منابع می‌شود. در کنار آن، موتور متن‌باز PowerInfer وظیفه توزیع هوشمند پردازش میان CPU و واحد پردازش عصبی (NPU) را بر عهده دارد تا عملکردی نزدیک به سرورهای مبتنی بر GPU ارائه شود.

هدف اصلی این پروژه، خارج کردن هوش مصنوعی از انحصار دیتاسنترهای ابری و در اختیار قرار دادن آن برای کاربران عادی است. سمر بوج، مدیرعامل Tiiny AI، معتقد است وابستگی به هوش مصنوعی ابری چالش‌هایی مانند ریسک‌های امنیتی، پایداری و وابستگی به زیرساخت‌های خارجی را به‌همراه دارد. به گفته او، این شرکت به‌دنبال شخصی‌سازی و خصوصی‌سازی واقعی هوش مصنوعی است.

در Tiiny AI Pocket Lab تمامی اطلاعات کاربران به‌صورت رمزنگاری‌شده روی خود دستگاه ذخیره می‌شود و هیچ داده‌ای به فضای اینترنت ارسال نخواهد شد. حذف ارتباط با سرورهای خارجی، علاوه بر افزایش امنیت، باعث از بین رفتن تأخیرهای شبکه‌ای می‌شود. از سوی دیگر، مصرف انرژی پایین این دستگاه در مقایسه با دیتاسنترهای بزرگ، گامی مثبت در جهت کاهش مصرف انرژی و حفظ محیط‌زیست به شمار می‌آید.