سرور هوش مصنوعی شرکت‌ها | صرفه‌جویی، سرعت و امنیت در یک سیستم

سرور هوش مصنوعی سازمانی رایانهٔ مرکزی است که مدل‌های هوش مصنوعی، به‌ویژه مدل زبانی بزرگ (LLM)، را داخل شبکهٔ خود شرکت اجرا می‌کند تا کارکنان بدون فرستادن اسناد به سرویس بیرونی از آن‌ها استفاده کنند. اجرای مدل روی زیرساخت خود سازمان را on-premise می‌نامند؛ در مقابل، در سرویس ابری مدل روی زیرساخت ارائه‌دهنده اجرا می‌شود.

تفاوت اصلی با سرور معمولی در حافظه و توان محاسبه است: مدل‌های زبانی حافظهٔ زیاد و پهنای باند حافظهٔ بالا می‌خواهند و معمولاً با GPU اجرا می‌شوند. طبق صفحهٔ کهن سیستم فردا، «سرور هوش مصنوعی» یک سرور مرکزی است که آفلاین کار می‌کند و داده را داخل شرکت نگه می‌دارد؛ مدل و سخت‌افزار دقیق در پیشنهاد فنی مشخص می‌شود. برای شناخت وجه عمومی‌تر این موضوع مقالهٔ «سرور هوش مصنوعی چیست؟» را هم ببینید.

صفحهٔ اصلی این محصول می‌گوید پیش از اجرا، شرایط کاری شرکت بررسی می‌شود و راهکار بر پایهٔ بودجه، تعداد کاربران و نوع فعالیت پیشنهاد می‌گردد. برای اینکه این بررسی ملموس باشد، ترتیب زیر را به‌عنوان چارچوب پیشنهادی ببینید (جزئیات و زمان‌بندی هر پروژه در جلسهٔ مشاوره مشخص می‌شود):

1. نیازسنجی: فهرست کاربران هم‌زمان، کارهایی که باید روی سرور انجام شود، حجم و نوع اسناد. خروجی: برگهٔ نیازها.
2. بررسی داده: داده کجا ذخیره است، چه کسی به چه بخشی دسترسی دارد و کدام بخش حساس است. خروجی: نقشهٔ داده و سطح دسترسی.
3. طراحی و پیشنهاد: انتخاب ظرفیت سخت‌افزار و نرم‌افزار متناسب با بودجه و رشد آینده. خروجی: سند پیشنهاد فنی.
4. نصب و راه‌اندازی: استقرار در محل شرکت و اتصال به شبکهٔ داخلی. خروجی: سرور آمادهٔ بهره‌برداری.
5. آزمون محدود: یک گروه کوچک کاربر چند کار مشخص را اجرا می‌کند و نتیجه با معیارهای از پیش تعیین‌شده مقایسه می‌شود.
6. آموزش و پشتیبانی: آموزش کارکنان و پشتیبانی پس از راه‌اندازی، مطابق آنچه صفحه به‌عنوان خدمات نصب، آموزش و پشتیبانی معرفی می‌کند.

حافظهٔ لازم برای وزن‌های مدل را می‌توان با یک ضرب ساده تخمین زد: تعداد پارامترها (به میلیارد) ضرب در تعداد بایت هر پارامتر. هر پارامتر در دقت FP16 حدود ۲ بایت، در INT8 حدود ۱ بایت و در کوانتیزاسیون ۴ بیتی حدود نیم بایت می‌گیرد (توضیح کوانتیزاسیون در مستندات Hugging Face آمده است). جدول زیر محاسبهٔ حسابی همین ضرب است، نه اندازه‌گیری روی یک محصول مشخص:

این اعداد فقط وزن‌ها را شامل می‌شوند. حافظهٔ نگهداری زمینهٔ گفتگو (KV cache)، تعداد کاربران هم‌زمان، طول سند ورودی و سربار نرم‌افزار بالاتر از آن اضافه می‌شود؛ بنابراین ظرفیت واقعی را باید با آزمون روی سند و بار خودتان سنجید. نکتهٔ دیگر: سرعت تولید متن معمولاً به پهنای باند حافظه هم وابسته است، نه فقط به تعداد هسته‌ها؛ برای همین مقایسهٔ دو سرور فقط با «تعداد هسته» یا «مقدار رم» گمراه‌کننده است.

توجه: صفحهٔ کهن سیستم فردا مشخصات فنی دقیق (نوع GPU، مدل زبانی یا نرم‌افزار) را ذکر نمی‌کند. آنچه در این بخش می‌خوانید راهنمای عمومی صنعت است و مشخصهٔ رسمی این محصول نیست؛ مشخصات واقعی را در پیشنهاد فنی از کهن سیستم فردا بخواهید.

• مدل‌های زبانی با مجوز باز: در ۱۲ ماه گذشته چند خانوادهٔ مدل با مجوز Apache 2.0 در Hugging Face منتشر یا به‌روز شده‌اند؛ از جمله gpt-oss-120b (کارت مدل ۲۰۲۵-۰۸-۰۸، قابل اجرا روی یک GPU با ۸۰ گیگابایت حافظه)، Qwen3.5 (فوریهٔ ۲۰۲۶) و Gemma 4 (گزارش فنی ۲۰۲۶-۰۷-۰۲). کیفیت فارسی هر مدل در صفحات رسمی‌شان تأیید نشده و باید روی اسناد خودتان آزموده شود.
• موتورهای اجرا: vLLM (سرور سازگار با API مشابه OpenAI)، Ollama و llama.cpp رایج‌ترین گزینه‌های اجرای محلی‌اند. انتخاب میان آن‌ها به تعداد کاربر هم‌زمان و سخت‌افزار بستگی دارد.
• جست‌وجو در اسناد (RAG): برای پاسخ بر پایهٔ اسناد داخلی، متن به قطعه‌ها تقسیم و نمایه می‌شود و پاسخ فقط از قطعه‌های مجاز ساخته می‌شود. کنترل دسترسی باید هنگام جست‌وجو اعمال شود.
• حافظهٔ GPU: قاعدهٔ سرانگشتی: وزن‌ها در دقت ۱۶ بیتی حدود دو بایت برای هر پارامتر می‌گیرند، یعنی مدل ۸ میلیارد پارامتری تنها برای وزن‌ها حدود ۱۶ گیگابایت لازم دارد. حافظهٔ گفتگوهای هم‌زمان (KV cache) جداست. فشرده‌سازی (quantization) نیاز را کم می‌کند ولی باید روی کیفیت فارسی آزمون شود.
• چارچوب‌های ریسک: OWASP Top 10 for LLM Applications (ویرایشی ۲۰۲۵ در صفحهٔ رسمی) ریسک‌هایی مانند تزریق دستور، افشای اطلاعات حساس و بردارها را فهرست می‌کند؛ NIST AI RMF چارچوب مدیریت ریسک هوش مصنوعی است.

برای گسترش به عامل‌های هوشمند و نمونه‌های متن‌باز به هاب هوش مصنوعی عامل‌محور سر بزنید.

جدول زیر سه الگوی کلی را مقایسه می‌کند. این مقایسه عمومی است و ادعای عملکردی دربارهٔ محصول خاصی نیست.

کهن سیستم فردا در این صفحه قیمت منتشر نمی‌کند و هزینه پس از نیازسنجی برآورد می‌شود. آنچه باید در هر پیشنهاد جداگانه دیده شود:

• سخت‌افزار: نوع و تعداد GPU، حافظه، ذخیره‌سازی و شبکه.
• نرم‌افزار و مدل: مجوز مدل یا موتور اجرا (برخی مدل‌ها مجوز باز دارند، برخی نه) و هزینهٔ یکپارچه‌سازی با اسناد و کاربران.
• زیرساخت محل: برق، خنک‌سازی، رک و شبکه.
• نیروی انسانی: نصب، پایش، به‌روزرسانی و پشتیبانی بعد از تحویل.
• ارتقا: مسیر افزودن GPU یا حافظه بدون تعویض کامل سرور.

در مقایسهٔ پیشنهادها، عددی را که فقط قیمت دستگاه است با عددی که نصب، آموزش و پشتیبانی را هم دربر می‌گیرد مقایسه نکنید.

پیش از خرید هر سرور هوش مصنوعی از فروشنده، از جمله کهن سیستم فردا، این سؤال‌ها را مکتوب بپرسید:

• چند کاربر هم‌زمان و برای چه کاری؟ ظرفیت بر اساس کدام آزمون سنجیده شده است؟
• دقیقاً چه نرم‌افزار و مدلی روی سرور اجرا می‌شود و مجوز آن چیست؟
• کیفیت پاسخ فارسی روی اسناد واقعی ما چگونه ارزیابی می‌شود؟
• دسترسی کاربران به اسناد چگونه کنترل و ثبت می‌شود؟
• پشتیبان‌گیری، به‌روزرسانی مدل و جایگزینی قطعات چگونه است؟
• ارتقای ظرفیت در آینده شامل چه مواردی است؟
• اجزای هزینهٔ کل مالکیت کدام‌اند: سخت‌افزار، برق و خنک‌سازی، نیروی نگهداری، آموزش و پشتیبانی؟
• اگر این سرور برای ما لازم نباشد، چه جایگزینی پیشنهاد می‌شود؟ فروشندهٔ خوب «نه» هم می‌گوید.

فروشندگان سخت‌افزار معمولاً بر کارت گرافیک و رم تمرکز می‌کنند، اما پروژه‌های داخلی اغلب روی زیرساخت اطراف گیر می‌کنند. پیش از سفارش این موارد را مکتوب روشن کنید:

• برق: مصرف کل سرور در بار کامل، ظرفیت UPS و مدار اختصاصی.
• خنک‌سازی: توان گرمایی سرور و ظرفیت سرمایشی اتاق یا رک؛ این عدد را از تأمین‌کننده بخواهید.
• فضا و رک: ارتفاع، وزن و نوع ریل سرور.
• شبکه: پهنای باند میان کاربران و سرور و تفکیک شبکهٔ مدیریت از شبکهٔ کاربران.
• دسترسی فیزیکی و لاگ: چه کسی به اتاق سرور و کنسول مدیریت دسترسی دارد.
• پشتیبان‌گیری: نسخهٔ مدل‌ها، تنظیمات و فهرست اسناد، جدا از خود سرور.
• گارانتی و قطعات: برای سخت‌افزار نو یا استوک، مدت گارانتی و زمان تأمین قطعه را مکتوب بخواهید.

طبق صفحهٔ محصول، تیم فنی کهن سیستم فردا مشاوره، نصب، راه‌اندازی، آموزش و پشتیبانی را انجام می‌دهد و طرح بر پایهٔ تعداد کاربران، نوع فعالیت و بودجهٔ شما پیشنهاد می‌شود. این صفحه قیمت یا مشخصات ثابت اعلام نمی‌کند؛ برای برآورد باید نیازسنجی انجام شود.

اگر هدف شما چت‌بات سازمانی روی زیرساخت خودتان است، محصول مرتبط چت بات پادیار را ببینید و منبع رسمی آن، padyar.com، را بخوانید. برای تصمیم دربارهٔ اینکه اصلاً هوش مصنوعی چه کاری برای شما انجام دهد، مشاورهٔ هوش مصنوعی نقطهٔ شروع بهتری است.

سناریوی نمونه (فرضی؛ پروژهٔ یک مشتری واقعی نیست). شرکتی ۵۰ نفره می‌خواهد کارکنان دستورالعمل‌ها، قراردادها و راهنماهای فنی داخلی را با پرسش به زبان فارسی جست‌وجو کنند، بدون اینکه سند از شبکه خارج شود.

1. فهرست اسناد و سطح محرمانگی هر گروه مشخص می‌شود و حداکثر کاربران هم‌زمان برآورد می‌شود (مثلاً ده نفر).
2. ابتدا یک مدل کوچک یا فشرده با بازیابی از اسناد (RAG) روی سخت‌افزار آزمایشی راه‌اندازی می‌شود.
3. مجموعه‌ای از پرسش‌های واقعی با پاسخ مرجع ساخته می‌شود و کیفیت فارسی، ارجاع به منبع و سرعت پاسخ سنجیده می‌شود.
4. اگر کیفیت یا سرعت کافی نبود، مدل بزرگ‌تر یا GPU قوی‌تر در پیشنهاد فنی بررسی می‌شود؛ نه برعکس.
5. پس از پذیرش، سیاست دسترسی، پشتیبان‌گیری و برنامهٔ به‌روزرسانی آفلاین مکتوب می‌شود.

هدف این سناریو نشان دادن ترتیب تصمیم است: اول نیاز و آزمون، بعد سخت‌افزار. برای مرحلهٔ RAG طراحی عامل بازیابی دانش را ببینید.