
در این مقاله
وقتی میگوییم «مدل خصوصی»، ممکن است درباره سه چیز کاملاً متفاوت حرف بزنیم: مدلی که فقط سازمان ما به آن دسترسی دارد، مدلی که روی زیرساخت خودمان اجرا میشود، یا یک API عمومی با سیاست محدود نگهداری داده. اگر این تفاوت روشن نباشد، انتخاب سرویس میتواند برخلاف هدف اولیه باشد؛ حتی وقتی کلید API و کد برنامه درست کار میکنند.
این راهنما مفهوم Private Inference، نقش درگاه مشترک و روش ارزیابی مسیر داده را توضیح میدهد. همچنین مشخص میکند API مدل، میزبانی اپلیکیشن و قرارداد اجرای مدل داخل ایران چه تفاوتی دارند. هدف این نیست که هر کانتینر را میزبان مدل بزرگ معرفی کنیم یا برای پاستا قابلیت اتصال خودکار مدل دلخواه مشتری وعده بدهیم.
چه چیزی Private Inference را دوباره مطرح کرده است؟
ورسل در اعلام ۱۶ نوامبر ۲۰۲۶، اتصال endpoint مدلهای خودمیزبان و اختصاصی به AI Gateway را معرفی کرده است. موضوع، مدیریت مدلهای خصوصی کنار مدلهای کاتالوگ با مسیر مشترک احراز هویت و مشاهدهپذیری است. این قابلیت ورسل را نباید بدون بررسی به سرویس دیگری نسبت داد.
برای معماری برنامه، سؤال مهمتر از نام محصول است: آیا برنامه باید برای هر مدل client، کلید و لاگ جدا داشته باشد، یا میتواند یک مرز مشترک با سیاست روشن بسازد؟ پاسخ فنی ممکن است یک درگاه باشد؛ اما همان درگاه هم بخشی از زنجیره پردازش داده میشود.
چهار مفهوم که نباید با هم مخلوط شوند
| مفهوم | پرسش اصلی | چیزی که تضمین نمیکند |
|---|---|---|
| endpoint خصوصی | چه کسی حق فراخوانی دارد؟ | اجرای مدل در کشور خاص |
| مدل خودمیزبان | چه کسی زیرساخت اجرا را اداره میکند؟ | حذف همه خروجهای شبکه |
| عدم نگهداری محتوا | چه دادهای، کجا و چقدر ذخیره میشود؟ | محدودبودن همه متادیتا و بکاپها |
| اجرای داخلی | محل پردازش همین مسیر چیست؟ | اجرای داخلی همه مدلهای کاتالوگ |
یک مدل میتواند در ایران اجرا شود ولی گزارش خطای برنامه به سرویس خارجی برود. برعکس، درگاه داخلی میتواند درخواست را به مدل خارجی ارسال کند. برای تصمیم درباره داده حساس، کل مسیر را بررسی کنید و به دامنه API یا واحد پول پرداخت اکتفا نکنید.
نقشه داده را پیش از انتخاب مدل بکشید
از ورودی کاربر شروع کنید: مرورگر، سرور برنامه، بازیابی اسناد، درگاه، endpoint مدل، پاسخ و لاگ. برای هر مرحله، محل اجرا، مالک، نوع داده و مدت نگهداری را بنویسید. فایل پیوست، embedding، cache و نسخه پشتیبان را هم در نقشه قرار دهید؛ اینها میتوانند همان اطلاعات حساس را در شکل دیگری نگه دارند.
دادهها را حداقل به عمومی، داخلی و محدود تقسیم کنید. سند داخلی لزوماً برای همه اعضای سازمان مجاز نیست. اگر RAG دارید، مجوز جستوجوی سند باید پیش از ارسال به مدل اعمال شود. برای این بخش، راهنمای مجوزهای RAG مبنای مناسبتری از یک پرامپت «اطلاعات را فاش نکن» است.
درگاه مشترک چه مسئلهای را حل میکند؟
درگاه میتواند احراز هویت، سهمیه، ثبت مصرف و مسیریابی را در یک نقطه هماهنگ کند. برنامه بهجای نگهداری کلید هر مقصد در چند سرویس، با یک قرارداد مشخص کار میکند. بااینحال، تفاوت مدلها در اندازه ورودی، ابزار، خطا و قالب پاسخ همچنان باقی است؛ قرارداد مشترک نباید محدودیتها را پنهان کند.
ابتدا مسیر ساده و قابل ردگیری طراحی کنید: یک مدل مجاز، یک کلید محدود، یک سقف خروجی و یک شناسه درخواست. سپس قابلیتهای اضافه را مرحلهای وارد کنید. یک proxy عمومی بدون مجوز مقصد و کنترل مصرف، درگاه امن سازمانی محسوب نمیشود.







نظرات کاربران (۰)
هنوز نظری ثبت نشده است. اولین نفر باشید.