هوش مصنوعی روی کامپیوتر خودت؛ مدلهای کوچک و متن‌بازی که در ۲۰۲۶ ارزش اجرا دارند
اینترنت ناپایدار، تحریم‌ها و نگرانی حریم خصوصی، اجرای هوش مصنوعی روی سیستم خودت را برای کاربر ایرانی جذاب‌تر از هر جای دیگری کرده است. در این راهنما مدلهای کوچک و متن‌باز ۲۰۲۶ را بر اساس کاربرد دسته‌بندی کرده‌ایم.
فهرست مطالب
برای کاربر ایرانی، استفاده از هوش مصنوعی ابری سه دردسر همیشگی دارد: اینترنت ناپایدار، محدودیت‌های تحریمی و نگرانی درباره اینکه داده‌ها کجا می‌روند. خبر خوب این است که در ۲۰۲۶ موجی از مدلهای کوچک و متن‌باز منتشر شده که اجرای هوش مصنوعی روی کامپیوتر شخصی، و حتی گوشی، را ممکن کرده‌اند. این راهنما آن‌ها را بر اساس کاربرد دسته‌بندی کرده است.
چرا هوش مصنوعی روی کامپیوتر خودت؟#
- آفلاین: بعد از دانلود، بدون اینترنت کار می‌کند.
- حریم خصوصی: داده‌هایت از دستگاه خارج نمی‌شود.
- بدون هزینه اشتراک یا API: فقط برق و سخت‌افزار.
- بدون وابستگی به دسترسی سرویس‌ها: تحریم یا تغییر سیاست یک شرکت، کارت را متوقف نمی‌کند.
نقشه مدل‌ها بر اساس کاربرد#
| کاربرد | مدل پیشنهادی | سازنده | نکته |
|---|---|---|---|
| جست‌وجوی معنایی متن، عکس، صدا، ویدیو | EmbeddingGemma 2 (۷۴۰M) | روی گوشی هم اجرا میشود؛ بیش از ۱۰۰ زبان | |
| ترجمه ۱۵۰ زبانه | Index-Translate 2B / 9B | Bilibili | Apache 2.0؛ نسخه‌های گفتار و دوبله هم دارد |
| تصمیم‌های سریع (بله/خیر، دسته‌بندی، امتیاز) | Liquid d1-3B | Liquid AI | حدود ۸ میلی‌ثانیه روی RTX 4090 |
| تصمیمگیر بسیار سبک | Strands Decider 2B | Amazon Strands Labs | وزن، داده و اسکریپت آموزش منتشر شده |
| تصمیمگیر بزرگ‌تر با ورودی تصویر و ویدیو | Clef-flash (9B) | Cloudflare | Apache 2.0 |
درباره هر کدام جداگانه نوشته‌ایم: EmbeddingGemma 2، Index-Translate و مدلهای تصمیمگیر.
مدلهای بزرگ متن‌باز چطور؟#
مدلهای متن‌باز غول‌پیکر هم منتشر شده‌اند، ولی «متن‌باز» به معنای «قابل اجرا روی کامپیوتر شخصی» نیست. مثلاً بزرگ‌ترین مدلهای متن‌باز امسال صدها گیگابایت تا بیش از یک ترابایت حافظه برای اجرا لازم دارند؛ عملاً فقط روی سرورهای قدرتمند. برای کاربر شخصی، مدلهای زیر ۱۰ میلیارد پارامتر واقع‌بینانه‌ترند.
سخت‌افزار: چه چیزی لازم داری؟#
- گوشی یا لپتاپ معمولی: مدلهای امبدینگ کوچک مثل EmbeddingGemma 2.
- لپتاپ یا کامپیوتر با ۱۶ گیگ رم: مدلهای ۲ میلیاردی با نسخه‌های فشرده (کوانتیزه).
- کارت گرافیک با ۸ تا ۱۲ گیگ حافظه: مدلهای ۳ تا ۹ میلیاردی با سرعت خوب.
- کارت گرافیک قوی‌تر: مدلهای بزرگ‌تر یا اجرای هم‌زمان چند مدل.
نکته: «کوانتیزه‌سازی» یعنی فشرده کردن مدل با کاهش دقت عددی؛ حافظه کمتری مصرف می‌کند، با کمی افت کیفیت.
از کجا شروع کنم؟#
- یک کار مشخص انتخاب کن: ترجمه؟ جست‌وجو در اسناد؟ دسته‌بندی پیام‌ها؟
- کوچک‌ترین مدل مناسب را دانلود کن (از Hugging Face یا Kaggle).
- با ابزارهای اجرای محلی (رابط‌های گرافیکی یا کتابخانه‌های پایتون) امتحانش کن.
- اگر کافی نبود، سراغ نسخه بزرگ‌تر یا سرویس ابری برو.
کِی سراغ سرویس ابری برویم؟#
برای نوشتن خلاقانه، کدنویسی پیچیده، تحلیل عمیق و ایجنت‌های طولانی، مدلهای مرزی ابری هنوز فاصله زیادی با مدلهای کوچک دارند. ترکیب هوشمندانه این است: کارهای حساس، تکراری و آفلاین روی مدل محلی؛ کارهای سخت روی سرویس ابری. برای مقایسه سرویس‌های ابری، بخش اشتراک هوش مصنوعی را ببین.
ابزارهای ساده برای شروع#
لازم نیست برنامه‌نویس باشی تا هوش مصنوعی روی کامپیوتر خودت اجرا کنی. چند ابزار رایگان کار را به چند کلیک رسانده‌اند:
- برنامه‌های گرافیکی اجرای مدل که مدل را از داخل خود برنامه جست‌وجو و دانلود می‌کنند و یک پنجره چت ساده می‌دهند؛ مناسب کسی که فقط می‌خواهد امتحان کند.
- Ollama برای کسانی که با خط فرمان راحت‌اند؛ با یک دستور مدل را دانلود و اجرا می‌کند و یک API محلی هم می‌دهد.
- کتابخانه‌های پایتون مثل Transformers برای برنامه‌نویس‌هایی که می‌خواهند مدل را در برنامه خودشان استفاده کنند.
نکته اینترنت: فایل مدل‌ها چند گیگابایت حجم دارد. دانلود را یک بار با اینترنت پایدار انجام بده و فایل را نگه دار؛ بعد از آن، مدل برای همیشه آفلاین در اختیار توست.
جمع‌بندی#
۲۰۲۶ سالی است که هوش مصنوعی محلی از «سرگرمی متخصص‌ها» به ابزار کاربردی تبدیل شد. برای کاربر ایرانی که با اینترنت و تحریم کلنجار می‌رود، داشتن چند مدل کوچک آفلاین برای ترجمه، جست‌وجو و دسته‌بندی، یک سرمایه‌گذاری هوشمندانه است.
بیشتر بخوانید#
منابع#
پرسش‌های پرتکرار
برای اجرای هوش مصنوعی محلی چه سختافزاری لازم است؟
بستگی به مدل دارد. مدلهای امبدینگ و تصمیمگیر کوچک حتی روی گوشی و لپتاپ معمولی اجرا میشوند؛ مدلهای چند میلیارد پارامتری به کارت گرافیک با حافظه مناسب یا رم زیاد نیاز دارند.
آیا مدلهای محلی به اندازه ChatGPT قوی‌اند؟
نه برای کارهای عمومی و پیچیده. ولی برای کارهای مشخص مثل ترجمه، جست‌وجو و طبقه‌بندی، مدلهای تخصصی کوچک می‌توانند بسیار خوب عمل کنند.
آیا اجرای مدل محلی بدون اینترنت ممکن است؟
بله؛ بعد از دانلود وزنها، مدل کاملاً آفلاین اجرا میشود.
اکانت پریمیوم، گیفت‌کارت و آیتم بازی با تحویل سریع و پرداخت امن.
مطالب مرتبط
اکانت ChatGPT بسته شد؛ دلیلهای واقعی مسدود شدن و کارهایی که باید همین حالا بکنی
اکانت چت جی پی تی بسته شد یا ChatGPT کار نمی‌کند؟ فرق قطع دسترسی، مسدود شدن اکانت و خطای پرداخت را توضیح دادهایم و گفتهایم…
بنچمارکهای هوش مصنوعی را چطور بخوانیم؟ راهنمای Terminal-Bench، GDPval و شاخص Artificial Analysis
«۷۰٫۶٪ در Terminal-Bench 4.0»، «امتیاز ۵۶ در Intelligence Index»؛ هر هفته یک مدل جدید با این اعداد معرفی میشود. این راهنما…
محدودیت مصرف Claude به زبان ساده؛ پنجره ۵ ساعته، سقف هفتگی و ریستهای ذخیرهای تازه
اگر با Claude Code کار کرده باشی، احتمالاً پیام «به سقف مصرف رسیدی» را دیدهای. Anthropic از شهریور ۱۴۰۵ قابلیتی اضافه کرده که…
دیدگاه‌ها
هنوز دیدگاهی ثبت نشده؛ اولین نفر باش.