⁨RAG⁩ یا فائن ٹیوننگ

دو مختلف مسائل

لینگویج ماڈل دو طرح سے کم پڑ سکتا ہے۔ اس میں علم کی کمی ہو سکتی ہے: یہ آپ کے پروڈکٹس، پالیسیاں، معاہدے یا پچھلے ہفتے کی تبدیلیاں نہیں جانتا۔ یا اس کا برتاؤ غلط ہو سکتا ہے: یہ کافی جانتا ہے، لیکن غلط فارمیٹ، غلط لہجے میں جواب دیتا ہے، یا کسی کام پر بار بار ایک ہی قسم کی غلطی کرتا ہے۔

بازیافت سے مدد یافتہ تخلیق، جسے عموماً ⁨RAG⁩ کہتے ہیں، پہلا مسئلہ حل کرتی ہے۔ فائن ٹیوننگ دوسرا۔ ایک سے دوسرا مسئلہ حل کرنا اے آئی منصوبوں کی سب سے عام اور سب سے مہنگی غلطی ہے۔

الجھن سمجھ میں آتی ہے، کیونکہ دونوں کو ماڈل کو آپ کا ڈیٹا دینا کہا جاتا ہے۔ فرق یہ ہے کہ ڈیٹا آخر میں کہاں جاتا ہے۔ بازیافت میں یہ آپ کی دستاویزات میں رہتا ہے اور ہر سوال کے لیے تازہ لایا جاتا ہے۔ فائن ٹیوننگ میں یہ ماڈل کے ویٹس میں جذب ہو جاتا ہے، جہاں یہ ماڈل کے لکھنے کا انداز بناتا ہے لیکن دوبارہ تربیت کے بغیر نہ اس کی نشاندہی ہو سکتی ہے، نہ درستی، نہ اسے ہٹایا جا سکتا ہے۔

بازیافت کیا کرتی ہے

بازیافت میں ماڈل آپ کی دستاویزات یاد نہیں کرتا۔ جب سوال آتا ہے، تو سسٹم آپ کی دستاویزات میں وہ اقتباسات تلاش کرتا ہے جو غالباً اس کا جواب دیں، اور سوال کے ساتھ ماڈل کو دیتا ہے۔ ماڈل اسی سے جواب دیتا ہے جو اسے دیا گیا، اور ایپلیکیشن دکھاتی ہے کہ اس نے کون سے اقتباسات استعمال کیے۔

یہ طریقہ 2020 کے ایک تحقیقی مقالے میں پیش کیا گیا، جس نے نوٹ کیا کہ صرف تربیت میں سیکھی چیزوں پر انحصار کرنے والے ماڈلز کے لیے اپنے جوابات کے ماخذ کا ثبوت دینا اور اپنا علم تازہ کرنا حل طلب مسائل تھے، اور انہیں حل کرنے کے لیے ماڈل کو ایک واضح، تلاش کے قابل یادداشت سے جوڑا ⁦^[1]⁩۔ یہی وہ دو خوبیاں ہیں جن کی کاروباروں کو فکر ہے: ایسے جوابات جنہیں آپ جانچ سکیں، اور ایسا علم جو دستاویز بدلتے ہی تازہ ہو۔

1. 01

   جمع کریں اور صاف کریں

   وہ دستاویزات جمع کریں جن سے ماڈل کو جواب دینا ہے، اور طے کریں کہ کون کیا دیکھ سکتا ہے۔ پرانی اور دہری دستاویزات خراب جوابات کی بنیادی وجہ ہیں۔

2. 02

   تقسیم اور اشاریہ

   دستاویزات کو اقتباسات میں توڑیں اور تلاش کے لیے ہر ایک کی عددی نمائندگی محفوظ کریں۔ مثال کے طور پر ⁨pgvector⁩، ⁨Postgres⁩ میں ویکٹر مماثلت کی تلاش شامل کرتا ہے، اس لیے اشاریہ ایسے ڈیٹابیس میں رہ سکتا ہے جو آپ پہلے سے چلاتے ہیں ⁦^[4]⁩۔

3. 03

   بازیافت

   ہر سوال کے لیے بہترین اقتباسات ڈھونڈیں، عموماً معنی پر مبنی اور کلیدی الفاظ کی تلاش کو ملا کر، اور پوچھنے والے کی اجازتوں کا احترام کریں۔

4. 04

   ماخذ کے ساتھ جواب

   اقتباسات ماڈل کو اس ہدایت کے ساتھ دیں کہ صرف انہی سے جواب دے اور ان کا حوالہ دے، اور حوالے صارف کو دکھائیں۔

5. 05

   ہم آہنگ رکھیں

   دستاویزات بدلنے پر ان کا دوبارہ اشاریہ بنائیں، اور ختم ہونے پر انہیں ہٹا دیں۔

بازیافت کو اچھا یا برا کیا بناتا ہے

جب بازیافت کا سسٹم کمزور جواب دے، تو ماڈل شاذ و نادر ہی قصور وار ہوتا ہے۔ کہیں زیادہ اکثر درست اقتباس ملا ہی نہیں، یا کئی غلط اقتباسات کے ساتھ ملا۔ جوابات بہتر بنانے والا کام زیادہ تر تلاش کا کام ہے۔

• دستاویزات کو سمجھداری سے تقسیم کرنا: مقررہ لمبائی کے بجائے حصے اور سرخی کے لحاظ سے، تاکہ اقتباس اپنا سیاق ساتھ رکھے۔
• میٹا ڈیٹا رکھنا: دستاویز کا عنوان، تاریخ، مالک اور قارئین، تاکہ تلاش پچھلے سال کی پالیسی کے بجائے موجودہ کو ترجیح دے۔
• تلاش کے طریقے ملانا: معنی پر مبنی تلاش ہم معنی جملے ڈھونڈتی ہے، کلیدی الفاظ کی تلاش پرزوں کے نمبر اور نام۔ زیادہ تر اچھے سسٹمز دونوں استعمال کرتے ہیں۔
• دوبارہ درجہ بندی: ماڈل تک پہنچنے سے پہلے سرِ فہرست نتائج پر دوسری، زیادہ محتاط نظر۔
• “مجھے نہیں معلوم” کہنا: جب کچھ متعلقہ نہ ملے، تو اسسٹنٹ کو عام علم سے جواب دینے کے بجائے یہی کہنا اور کسی شخص سے رابطے کی پیشکش کرنی چاہیے۔

فائن ٹیوننگ کیا کرتی ہے

فائن ٹیوننگ ایک موجودہ ماڈل کو کام کی مثالوں پر مزید تربیت دیتی ہے: ان پٹس اور ان کے ساتھ وہ آؤٹ پٹس جو آپ چاہتے ہیں۔ ⁨OpenAI⁩ کی گائیڈ ایسے استعمال گنواتی ہے جیسے ماڈل سے یکساں فارمیٹ میں جواب لینا، درجہ بندی، خاص فارمیٹ میں مواد بنانا، ہدایات پر عمل کی ناکامیوں کی درستی، اور لہجے اور انداز سے مطابقت، اور نوٹ کرتی ہے کہ شاید صرف پرامپٹنگ ہی کافی ہو ⁦^[2]⁩۔ یہ آخری نکتہ اہم ہے۔ کچھ بھی تربیت دینے سے پہلے پرامپٹ میں واضح ہدایات اور چند اچھی مثالیں آزمائیں۔

فائن ٹیوننگ پہلے سے بہت ہلکی ہو گئی ہے۔ ⁨LoRA⁩ جیسے طریقے پورے ماڈل کے بجائے چھوٹے اضافی ویٹس کی تربیت کرتے ہیں؛ اس کے مصنفین بتاتے ہیں کہ بہت بڑے ماڈل کی مکمل فائن ٹیوننگ کے مقابلے میں قابلِ تربیت پیرامیٹرز کی تعداد 10,000 گنا اور درکار ⁨GPU⁩ میموری 3 گنا کم ہوئی ⁦^[3]⁩۔ اس سے اپنی مثالوں پر اوپن ماڈل کی فائن ٹیوننگ تحقیقی پروگرام کے بجائے ایک عملی منصوبہ بن جاتی ہے۔

• اسے مثالیں چاہئیں: چند سو سے چند ہزار اچھے ان پٹ اور آؤٹ پٹ کے جوڑے، جنہیں کام جاننے والے لوگوں نے جانچا ہو۔
• یہ قابلِ اعتماد طور پر حقائق نہیں سکھاتی۔ فائن ٹیون ماڈل اب بھی تفصیلات گھڑ سکتا ہے، اور نہیں بتا سکتا کہ جواب کہاں سے آیا۔
• کام بدلنے پر، یا نئے بنیادی ماڈل پر جانے پر اسے دہرانا پڑتا ہے۔

کیسے چنیں

1. 01

   پہلے جانچ لکھیں

   اچھے جوابات کے ساتھ حقیقی سوالات یا کام جمع کریں۔ ان کے بغیر آپ نہیں بتا سکتے کہ کسی تبدیلی سے فائدہ ہوا یا نہیں۔

2. 02

   پرامپٹنگ آزمائیں

   واضح ہدایات، طے شدہ آؤٹ پٹ فارمیٹ اور چند مثالیں لوگوں کی توقع سے زیادہ برتاؤ کے مسائل حل کرتی ہیں۔

3. 03

   اگر جوابات کو آپ کا علم چاہیے تو بازیافت شامل کریں

   اگر ماڈل کو ایسے حقائق چاہئیں جن پر اس کی کبھی تربیت نہیں ہوئی، یا جو بدلتے ہیں، تو حل بازیافت ہے۔ پھر ناپیں۔

4. 04

   اگر برتاؤ اب بھی غلط ہو تو فائن ٹیون کریں

   اگر ماڈل کے پاس درست معلومات ہیں لیکن وہ فارمیٹ، لیبل یا لہجہ بار بار غلط کرتا ہے، اور آپ کے پاس مثالیں ہیں، تو فائن ٹیون کریں۔ پھر ناپیں۔

5. 05

   جب جانچ کہے تو رک جائیں

   ہر قدم بنانے اور سنبھالنے میں محنت لیتا ہے۔ پہلے اُس قدم پر رک جائیں جو آپ کا طے کردہ معیار پورا کرے۔

جب دونوں چاہئیں

کچھ منصوبوں کو علم اور برتاؤ ایک ساتھ چاہیے۔ سپورٹ اسسٹنٹ کو موجودہ ہیلپ سینٹر سے (بازیافت) کمپنی کے انداز اور ایسی سخت ساخت میں جواب دینا ہو سکتا ہے جسے سپورٹ سسٹم پڑھ سکے (فائن ٹیوننگ)۔ معاہدوں کے جائزے کے ٹول کو متعلقہ شقیں ڈھونڈنی (بازیافت) اور انہیں کلائنٹ کی اپنی ٹیم کی طرح پلے بک کے مقابل درجہ بند کرنا (فائن ٹیوننگ) ہو سکتا ہے۔

ایسی صورتوں میں ہم پہلے بازیافت بناتے ہیں، کیونکہ یہ غلطیوں کا بڑا حصہ درست کرتی ہے اور بدلنا آسان ہے، اور پھر ماڈل کو فائن ٹیون کرتے ہیں کہ بازیافت شدہ اقتباسات کو کام کے تقاضے کے مطابق استعمال کرے۔ جانچ سیٹ دونوں کا احاطہ کرتا ہے: کیا اسے درست اقتباسات ملے، اور کیا اس نے انہیں درست استعمال کیا۔

ہر انتخاب کے ساتھ گزارا

لانچ کے بعد بھی دونوں طریقے مختلف ہیں۔ بازیافت کے سسٹم کی دیکھ بھال سرچ انجن کی طرح ہوتی ہے: دستاویزات شامل، تبدیل اور ختم ہوتی ہیں، اور اشاریہ ساتھ چلتا ہے۔ جو بھی ماخذ دستاویزات میں ترمیم کرے وہ دراصل اسسٹنٹ کو اپ ڈیٹ کر رہا ہے، جو عموماً کاروبار چاہتا ہے۔ اس کے چلانے کی لاگت ماڈل اور ایک معمولی ڈیٹابیس ہے۔

فائن ٹیون ماڈل کی دیکھ بھال ایک تربیت یافتہ ساتھی کی طرح ہوتی ہے: کام بدلنے پر اسے نئی مثالیں اور ایک اور تربیت چاہیے، اور نئے ورژن کو پرانے کی جگہ لینے سے پہلے جانچ میں کامیاب ہونا ہوتا ہے۔ اگر یہ اوپن ماڈل ہے، تو اسے چلانے کے لیے ہر مہینے ⁨GPUs⁩ بھی چاہئیں۔ دونوں میں سے کوئی مشکل نہیں، لیکن یہ مختلف وعدے ہیں، اور نیچے کی مثالیں چلانے کی لاگت میں فرق دکھاتی ہیں۔

تین منصوبے، ہمارے نرخ نامے سے قیمت

نیچے کی حل شدہ مثالیں آج کے ہمارے نرخ نامے سے حد دکھاتی ہیں، تعمیر اور ماہانہ چلانے کی لاگت کے ساتھ۔ ان کی قیمت صفحہ کھولتے وقت لگتی ہے۔

ماہانہ سطروں کا موازنہ کریں۔ بازیافت کی مثال استعمال کے ساتھ ٹوکنز کی ادائیگی کرتی ہے؛ دونوں فائن ٹیون مثالیں ⁨GPU⁩ سرور کی ادائیگی کرتی ہیں چاہے وہ مصروف ہو یا نہیں۔ سوال پوچھنے والے چند درجن لوگوں کی ٹیم کے لیے فرنٹیئر ماڈل پر بازیافت عموماً سمجھدار آغاز ہے۔ ٹریفک یا چلانے کا انتخاب بدلنے اور یہ دیکھنے کے لیے کہ آپ کے لیے توازن کہاں بدلتا ہے، کوئی بھی مثال تخمینہ ٹول میں کھولیں۔

بچنے والے گڑھے

• اپنی دستاویزات پر فائن ٹیوننگ اور یہ توقع کہ ماڈل ان کا حوالہ دے گا۔ یہ آپ کی دستاویزات کا انداز سیکھے گا، قابلِ اعتماد طور پر ان کا مواد نہیں۔
• ہر چیز کا اشاریہ بنانا۔ مشترکہ ڈرائیو کی ہر فائل پر بازیافت کا سسٹم پرانے، دہرے اور متضاد اقتباسات ڈھونڈتا ہے۔ پہلے چھانٹیں۔
• اجازتیں نظر انداز کرنا۔ اگر کوئی شخص کوئی دستاویز نہیں کھول سکتا، تو اسسٹنٹ کو اسے اس کا حوالہ نہیں دینا چاہیے۔ بازیافت کے وقت فلٹر کریں۔
• کوئی جانچ سیٹ نہیں۔ اس کے بغیر ہر تبدیلی ایک اندازہ ہے، اور ماڈل کی اپ گریڈ چپکے سے حالات بگاڑ سکتی ہے۔
• دیکھ بھال بھول جانا۔ بازیافت کو تازہ دستاویزات چاہئیں؛ فائن ٹیوننگ کو کام یا بنیادی ماڈل بدلنے پر دوبارہ تربیت چاہیے۔