صفر تا صد آموزش سینا؛ از پرسونا تا Fine-tune روی لپ‌تاپ

آموزش سینا سه لایه جدا دارد و این تفکیک مهم است. لایه اول پرسوناست: دستور سیستمی که لحن، اخلاق و قالب جواب را ثابت می‌کند. لایه دوم دانشنامه بازیابی‌شده یا RAG است: مقالات، دروس تخصصی، مستند فروشنده و تجربیات ثبت‌شده. لایه سوم Fine-tune یا LoRA است که وزن مدل را تکان می‌دهد تا لحن سازمانی در خود مدل بنشیند. روی سرور تولید امروز لایه اول و دوم زنده است؛ لایه سوم روی لپ‌تاپ آموزش داده می‌شود و تا ارزیابی و بارگذاری، وارد پاسخ زنده نمی‌شود.

مدل پایه‌ای که برای آموزش روی لپ‌تاپ انتخاب شده Qwen2.5-3B-Instruct است. دلیل انتخاب ساده است: کارت RTX 4060 با ۸ گیگابایت حافظه این مدل را با QLoRA چهاربیتی جا می‌دهد، فارسی را بهتر از بسیاری از مدل‌های انگلیسی‌محور ۳ میلیاردی حرف می‌زند، و قالب Instruct برای گفتگوی سازمانی آماده است. اگر حافظه بیشتر باشد می‌توان Qwen2.5-7B-Instruct را با طول توالی کوتاه‌تر امتحان کرد؛ ولی مسیر اصلی همین ۳B است.

چرا ChatGPT نیست؟ چون ChatGPT یک سرویس بسته با حافظه و به‌روزرسانی وزن در سمت فروشنده است. سینا باید هویت ساینا، اخلاق دفاعی، و دانش محصولات سازمان را نگه دارد. برای همین به‌جای تکیه به یک مدل ابری ناشناس، دانش را در کوریکولوم و دانشنامه می‌نویسیم و لحن را با LoRA روی مدل منبع‌باز می‌نشانیم. پاسخ زنده تولید هم هنوز از مدل تنظیم‌شده محلی خوانده نمی‌شود مگر بعد از ارزیابی و انتشار صریح.

کوریکولوم سینا متن تألیفی است: TypeScript و API سازمانی، پایگاه‌داده، React امن، سیسکو و مایکروسافت، مشاهده‌پذیری، RAG، و درس‌های خود سازمان مثل سیما TV، آکادمی، CRM و انتقال تجربه متخصص. هر درس یک سند RAG می‌شود. ساخت دیتاست با tools/sina-train/build-dataset.ts این درس‌ها را به ردیف‌های instruction/input/output تبدیل می‌کند؛ هم نسخه میزکار ساخت‌یافته و هم نسخه گفتار زنده.

آموزش وزن روی لپ‌تاپ با tools/sina-train/train_qlora.py است. پیش‌نیاز: پایتون ۳.۱۱، PyTorch با CUDA، peft و transformers. روی ویندوز بهتر است ۴بیت bitsandbytes را اگر ناپایدار بود با --no-4bit و مدل ۳B جلو رفت. خروجی یک آداپتور LoRA است نه کل مدل. این آداپتور را باید روی چند ده سؤال طلایی IT و امنیت دفاعی سنجید: جواب باید منسجم باشد، نسخه فروشنده را حدس نزند، و درخواست نفوذ را رد کند.

بعد از قبول ارزیابی، مسیر انتشار این است: ادغام LoRA با مدل پایه، تبدیل به قالب Ollama یا vLLM، نام داخلی مثل sina-elite، و اتصال API فقط وقتی متریک کیفیت از پرسونای فعلی بهتر باشد. تا آن لحظه سینا روی سرور با RAG و پرسونا جواب می‌دهد. دانلود وزن از Hugging Face گاهی قطع می‌شود؛ جایگزین آزمایش‌شده ModelScope و کپی محلی پوشه Qwen2.5-3B-Instruct است.

حافظه شبیه ChatGPT لایه چهارم نرم است: وزن مدل را عوض نمی‌کند. اگر بگویید «یادت بمونه» یا تجربه متخصص را ثبت کنید، سینا آن را در حافظه جلسه و مخزن تجربیات سازمان نگه می‌دارد و در نوبت بعد به پرامپت تزریق می‌کند. این همان انتقال تجربه است که برای شرکت لازم است. رمز، توکن و داده داخلی هرگز نباید وارد حافظه شود.

صدا جدا از زبان است. مدل‌های Piper فارسی رسمی فعلاً همه مردانه هستند؛ برای همین گوینده‌های سینا خانم، نوجوان و فرشته روی موتور عصبی فارسی Dilara و گوینده سینا و رسمی روی Farid می‌نشینند. اگر موتور عصبی در دسترس نباشد همان Piper به‌عنوان پشتیبان می‌ماند. شخصیت بصری سیمرغ عوض نمی‌شود؛ فقط گوینده عوض می‌شود.

اخلاق آموزش ثابت است: امنیت فقط دفاعی و با مجوز، بدون اکسپلویت و بدافزار، بدون افشای زیرساخت یا نام مدل به کاربر نهایی. مسیر درست تغییر تولید همیشه lab، معیار پذیرش، پایلوت و rollback است. سینا جایگزین مهندس شیفت برای دستکاری خاموش سامانه زنده نیست.

جمع‌بندی عملی برای تیم: دانش جدید را در کوریکولوم یا مقاله بنویسید تا RAG همان روز یاد بگیرد. تجربه متخصص را با جمله «یادت بمونه» ثبت کنید تا حافظه جلسه و سازمان پر شود. Fine-tune را وقتی دیتاست و ارزیابی آماده است روی Qwen2.5-3B-Instruct اجرا کنید و فقط پس از قبول کیفیت به تولید ببرید. این سه مسیر با هم سینا را متخصص ساینا ارتباط می‌کند، نه پراکنده‌گو.