قدم دوم: درخواست Gemini Decision 1 با کلید پاستا
برای مسیر پاستا، ابتدا مدلهای تصمیمگیری قابل دسترس را با همان کلید پروژه بررسی کنید. فهرستگرفتن، آزمون کیفیت یا اجرای تصمیم پولی نیست. پس از تأیید مدل و قیمت، یک درخواست محدود بفرستید. نمونه زیر از قرارداد پاستا استفاده میکند و برای تهیه این مقاله درخواست استنتاج پولی با آن اجرا نشده است.
curl --fail-with-body --connect-timeout 10 --max-time 30 \
https://console.paasta.cloud/api/ai/v1/decisions/models \
-H "Authorization: Bearer $PAASTA_API_KEY"
curl --fail-with-body --connect-timeout 10 --max-time 60 \
https://console.paasta.cloud/api/ai/v1/decisions \
-H "Authorization: Bearer $PAASTA_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "google/gemini-decision-1",
"state": "پس از تمدید، صورتحساب من با پرداخت انجامشده سازگار نیست.",
"questions": {"queue": {
"type": "choice",
"instructions": "Choose a support queue. Never authorize a financial action.",
"criteria": {
"billing": "Payment or invoice discrepancy",
"technical": "Deployment or runtime problem without a payment dispute",
"human": "Ambiguous or multi-team request"
}
}}
}'
پاسخ باید نام یکی از گزینههای مجاز را برگرداند؛ موفقیت انتخاب صف مجوز اجرای عملیات نیست. محدودیت اندازه بدنه، تعداد پرسشها و قابلیت رسانه را از قرارداد فعلی پاستا بگیرید. ظرفیت معرفیشده برای API مستقیم گوگل را به این مسیر تعمیم ندهید. هزینه خروجی صفر در معرفی یک مدل نیز به معنی رایگانبودن ورودی یا کل سرویس نیست.
مسیر جایگزین: درخواست مستقیم به گوگل
نمونه زیر با الگوی SDK در دفترچه رسمی Decisions هماهنگ است و متن و گزینههایش برای این سناریو نوشته شدهاند. آن را ابتدا با کلید آزمایشی و یک ورودی اجرا کنید. این مقاله درخواست پولی نفرستاده است و خروجی ساختگی برای نمونه ارائه نمیکند. اگر SDK شما ویژگی decisions را ندارد، نسخه و راهنمای نصب فعلی را بررسی کنید.
import os
from google import genai
client = genai.Client(
api_key=os.environ["GEMINI_API_KEY"],
http_options={"api_version": "v1beta", "timeout": 30000},
)
result = client.decisions.create(
model="gemini-decision-1",
input="پس از پرداخت، وضعیت سفارش من هنوز نامشخص است.",
questions={"queue": {
"type": "choice",
"instructions": "Select the responsible support queue. Never authorize an action.",
"criteria": {
"billing": "Payment, invoice, or wallet discrepancy.",
"technical": "Application deployment or runtime problem without payment dispute.",
"human": "Ambiguous request or a request needing multiple teams.",
},
}},
)
answer = result.answers["queue"]
if answer.choice not in {"billing", "technical", "human"}:
raise ValueError("Unexpected queue")
print(answer.choice)
قدم سوم: خروجی را به سیاست قطعی تبدیل کنید
بعد از دریافت پاسخ، نام گزینه باید در فهرست مجاز باشد. پاسخ ناقص، خطای شبکه یا ساختار ناشناخته را به صف پیشفرض مالی تبدیل نکنید. حالت خطا باید وضعیت مستقل داشته باشد و امکان تلاش مجدد یا بررسی انسانی را فراهم کند. شناسه تصمیم و زمان پایان درخواست را ثبت کنید تا پاسخ دیرهنگام، تصمیم جدیدتر کاربر را بازنویسی نکند.
آستانه احتمال را هم از روی ظاهر یک مثال انتخاب نکنید. ابتدا داده برچسبخورده جمع کنید، سپس ببینید کدام آستانه با هزینه خطای شما سازگار است. اگر انتقال اشتباه یک درخواست مالی پرهزینه است، پوشش خودکار کمتر اما خطای کمتر میتواند انتخاب بهتری باشد. این تصمیم یک سیاست محصول است و باید قابل بازبینی بماند.
قدم چهارم: پاسخ متنی را با API پاستا بسازید
پس از انتخاب صف، میتوانید متن پاسخ یا پیشنویس پاسخ را به مدل متنی موجود در پاستا بسپارید. در این مرحله فقط داده مجاز و اسناد مرتبط همان کاربر را ارسال کنید. از مدل بخواهید اگر مدرکی برای وضعیت پرداخت ندارد، آن را قطعی اعلام نکند. شناسه مدل، نسخه پیام راهنما و میزان مصرف را کنار نتیجه نگه دارید.
اگر مسیر مستقیم گوگل را انتخاب کنید، کلید گوگل فقط برای تصمیمگیری مستقیم گوگل و کلید پاستا فقط برای فراخوانی API پاستا استفاده میشود. هیچکدام را به سرویس دیگر نفرستید. مزیت این جداسازی آن است که میتوانید لایه تصمیم را عوض کنید و تولید پاسخ را ثابت نگه دارید، یا برعکس. مسیر انتخاب و قیمت مدل را در صفحه API پاستا بررسی کنید.
استفاده در RAG: ارتباط سند را از صحت پاسخ جدا کنید
در RAG، یک کاربرد پیشنهادی تصمیمگیری این است که پس از بازیابی، ارتباط سند با سؤال را بسنجید. اما سند مرتبط الزاماً مجاز، تازه یا درست نیست. ابتدا مجوز سند و تعلق آن به مشتری را با قواعد برنامه بررسی کنید، سپس ارتباط محتوایی را بسنجید. مدل نباید با دیدن یک متن متقاعدکننده، مجوز دسترسی به سند را صادر کند.
یک آزمون مفید این است که برای هر سؤال، سند مرتبط، سند نزدیک اما نامرتبط و سند قدیمی قرار دهید. نتیجه بازیابی را جدا از کیفیت پاسخ نهایی اندازه بگیرید. اگر مدل امتیازدهی خوب عمل کرد ولی پاسخ نهایی ادعای بیمنبع ساخت، مشکل هنوز حل نشده است. راهنمای ارزیابی RAG برای تفکیک این مرحلهها مکمل این آموزش است.
مجموعهآزمون فارسی چگونه بسازیم؟
از پیامهای ساختگی ولی شبیه مسئله واقعی شروع کنید: جمله کوتاه، غلط تایپی، نام انگلیسی سرویس، متن دوپهلو و درخواست خارج از موضوع. برای هر ردیف، برچسب درست و دلیل آن را پیش از اجرای مدل ثبت کنید. داده تنظیم آستانه و داده ارزیابی نهایی را جدا نگه دارید تا نتیجه با اصلاح مکرر روی همان مثالها خوشبینانه نشود.
گزارش را به یک درصد کلی محدود نکنید. تعداد انتقال اشتباه به صف مالی، نرخ ارجاع به انسان، درخواستهای ناموفق و زمان پاسخ هر گروه را نشان دهید. اگر نمونههای مبهم از گزارش حذف شوند، محصول در ظاهر دقیقتر و در واقع شکنندهتر میشود. تعداد نمونه و نسخه قرارداد باید همراه هر نتیجه منتشر شود؛ این راهنما هنوز نتیجه اندازهگیریشده ندارد.
هزینه، تأخیر و تلاش مجدد
هزینه کامل فقط مبلغ مرحله تصمیم نیست. هزینه تولید پاسخ، ذخیرهسازی، اجرای بکاند و درخواستهای ناموفق را هم در نظر بگیرید. برای مقایسه، هزینه بهازای هر تیکت درست تکمیلشده مفیدتر از هزینه یک فراخوانی است. متن اضافی، اسناد تکراری و پرسشهای غیرضروری میتوانند هزینه را بالا ببرند، حتی اگر مسیر تصمیم خروجی کوتاهی داشته باشد.
برای هر مرحله مهلت زمانی مشخص بگذارید. تلاش مجدد باید محدود و با شناسه کار ثابت باشد؛ اگر تصمیم پس از ثبت پاسخ مشتری دوباره رسید، آن را دوباره اجرا نکنید. هنگام خطای سرویس، درخواست را در صف نگه دارید یا به انسان ارجاع دهید. ارسال همزمان بیحد به دو ارائهدهنده، بدون ثبت هزینه و نتیجه، راهحل قابل اتکایی برای دسترسپذیری نیست.
اگر نمونه کار نکرد، کدام بخش را بررسی کنیم؟
نبودن ویژگی decisions در SDK با ردشدن کلید یک خطا نیست. ابتدا نسخه کتابخانه و وجود رابط موردنیاز را بررسی کنید؛ سپس دسترسی حساب و شناسه مدل را ببینید. اگر پاسخ دریافت میشود ولی گزینه نامعتبر است، مسئله به قرارداد سؤال و اعتبارسنجی مربوط میشود. تغییر همزمان نسخه، مدل و متن سؤال، پیدا کردن علت را سختتر میکند.
برای گزارش خطا، یک ورودی مصنوعی کوتاه و ساختار درخواست بدون کلید آماده کنید. زمان، مرحله شکست و شناسه پیگیری سرویس را نگه دارید؛ متن کامل تیکت مشتری لازم نیست. بعد از اصلاح، همان نمونه شکست و چند نمونه مرزی قبلی را دوباره بررسی کنید. موفقیت یک درخواست تازه، رفع خطای اولیه را ثابت نمیکند.
انتشار بکاند روی پاستا و کنترل نهایی
وبهوک، پردازشگر صف و سرویس پاسخگویی را میتوانید بهصورت یک پروژه کوچک یا سرویسهای جدا روی پلتفرم پاستا منتشر کنید. کلیدها متغیر محیطی سرور باشند؛ مسیر سلامت سرویس فقط آمادهبودن خودش را گزارش کند و برای هر بازدید، درخواست پولی مدل نفرستد. لاگها شامل شناسه پیگیری و نوع خطا باشند، نه متن کامل و کلیدها.
پیش از گسترش استفاده، چند مسیر را دستی بررسی کنید: درخواست معتبر، ورودی خالی، پاسخ نامعتبر مدل، پایان سهمیه و کاربر بدون مجوز. سپس با ترافیک محدود شروع کنید و نرخ ارجاع به انسان را زیر نظر بگیرید. برای انتخاب بین دو مسیر تصمیمگیری، مقایسه Gemini Decision 1 و Jev را مطالعه کنید؛ انتخاب نهایی باید بر داده خودتان تکیه کند.
نظرات کاربران (۰)
هنوز نظری ثبت نشده است. اولین نفر باشید.