آپ کے اسٹیک میں کہیں نہ کہیں، ایک ایجنٹ وہ عدد پہلے ہی تیار کر چکا ہے جو ایک دن آڈیٹر کے سامنے رکھا جائے گا۔ اس نے وہ رقم حساب کی — یا تخلیق کی؛ شاید آپ کو معلوم بھی نہ ہو — کسی نے اسے ایک پریزنٹیشن میں چسپاں کیا، اور وہ پریزنٹیشن بھیج دی گئی۔ مہینوں بعد وہ سوال آتا ہے جو ہر پروڈکشن AI سسٹم کو بالآخر ملتا ہے: یہ عدد کہاں سے آیا، اور کیا ہم آج بھی یہی نتیجہ پائیں گے؟
اکثر ٹیمیں جواب میں ٹرانسکرپٹ پیش کرتی ہیں۔ Q1 2026 کے ایک سروے میں، جس میں پروڈکشن میں AI ایجنٹس چلانے والی 420 تنظیمیں شامل تھیں، صرف 17% کسی مخصوص ایجنٹ ٹاسک کے پیچھے ٹول کالز، ان پٹس، اور آؤٹ پٹس کی مکمل ترتیب بعد از وقت دوبارہ تشکیل دے سکتی تھیں (AgentNode, 2026)۔ باقی 83% کے پاس جزوی لاگز تھے، کوئی لاگ نہیں تھا، یا ایسے لاگز تھے جنہوں نے ماڈل کی استدلال تو محفوظ کی مگر اس نے دراصل کیا چلایا یہ نہیں۔ ایک ٹرانسکرپٹ اور ایک احساس۔
ریکارڈ قانون بنتا جا رہا ہے
کچھ عرصہ پہلے تک یہ انجینیرنگ کی شرمندگی تھی۔ اب یہ قانونی شرمندگی بننے والی ہے۔
EU AI Act کا تقاضا ہے کہ ہائی رسک AI سسٹمز تکنیکی طور پر — بعد میں جوڑ کر نہیں، بلکہ ڈیزائن میں شامل کر کے — "سسٹم کی پوری زندگی میں واقعات کی خودکار ریکارڈنگ (لاگز)" کی اجازت دیں (European Commission, 2024)۔ دستی ریکارڈ کیپنگ آرٹیکل 12 کو پورا نہیں کرتی۔ لاگز اتنے مضبوط ہونے چاہئیں کہ خطرے یا اہم تبدیلی کے حامل حالات کی نشاندہی ہو سکے، مارکیٹ کے بعد کی نگرانی میں مدد ملے، اور سسٹم کے اصل عمل کی نگرانی ہو سکے۔ ریموٹ بائیومیٹرک شناخت کے لیے آرٹیکل کم از کم تقاضے صراحت سے بیان کرتا ہے: استعمال کا ہر دورانیہ، جانچا گیا ریفرنس ڈیٹا بیس، وہ ان پٹ ڈیٹا جس سے میچ ہوا، اور وہ افراد جنہوں نے نتیجے کی تصدیق کی۔ یہ "کچھ لاگز رکھو" نہیں ہے۔ یہ فیصلے کو دوبارہ تشکیل دو ہے۔
تاریخیں قریب ہیں۔ یہ قانون 1 اگست 2024 کو نافذ ہوا؛ پابندیاں فروری 2025 سے، جنرل پرپز ماڈل کی ذمہ داریاں اگست 2025 سے — اور ہائی رسک ذمہ داریاں، جن میں آرٹیکل 12 بھی شامل ہے، 2 اگست 2026 سے لاگو ہوتی ہیں (Future of Life Institute, 2026)۔ اس پوسٹ کی تاریخ سے آٹھ دن بعد۔ ریگولیٹڈ مصنوعات (Annex I) میں شامل ہائی رسک سسٹمز اگست 2027 میں آتے ہیں۔
برقراری کی بھی ایک کم از کم حد ہے۔ فراہم کنندگان کو خودکار طور پر تیار کردہ لاگز کم از کم چھ ماہ تک محفوظ رکھنے ہوں گے، اور آرٹیکل 26(6) تعینات کنندگان پر بھی یہی ذمہ داری عائد کرتا ہے — جہاں GDPR جیسا کوئی اور قانون زیادہ مدت کا تقاضا کرے وہاں اس کے مطابق، اور ہر صورت میں سسٹم کے مقصد کے لحاظ سے مناسب، نہ کہ محض کم از کم (artificialintelligenceact.eu, 2024)۔
یہ سب خلا میں نہیں آیا۔ GDPR آرٹیکل 30 نے 2018 سے پروسیسنگ کے تحریری ریکارڈز کا تقاضا کیا ہے — مقاصد، ڈیٹا کی اقسام، وصول کنندگان، حذف کی مدت، سیکیورٹی اقدامات — جو نگران اتھارٹی کی درخواست پر پیش کیے جا سکیں (gdpr-info.eu, 2016)۔ SOC 2 کا CC7.2 تقاضا کرتا ہے کہ آپ سسٹم کے اجزاء میں بے قاعدگیوں کی نگرانی کریں اور نتائج کا تجزیہ کریں؛ CC7.3 تقاضا کرتا ہے کہ آپ جائزہ لیں کہ آیا کسی واقعے نے آپ کے مقاصد کو متاثر کیا (AICPA, 2022)۔ Type II آڈٹ میں یہ معیار پورے جائزہ دورانیے — عموماً بارہ ماہ (AgentNode, 2026) — کے لاگ ثبوت کے خلاف جانچے جاتے ہیں، نہ کہ آڈیٹر کے آنے کے دن کے اسکرین شاٹ کے خلاف۔
"زیادہ لاگ کرو" کیوں ناکام ہوتا ہے
فوری ردعمل یہ ہوتا ہے: ٹریسنگ چالو کرو، سب کچھ محفوظ کرو، ڈیش بورڈ خریدو۔ تین مسائل پھر بھی باقی رہتے ہیں۔
ٹرانسکرپٹس وہ ریکارڈ کرتے ہیں جو کہا گیا، نہ کہ جو چلا۔ چیٹ لاگ ماڈل کا اپنے رویے کا بیان ہے۔ اوپر کے 83% میں سے ایک حصہ بالکل یہی ہے: استدلال محفوظ، ٹول انووکیشنز نہیں۔ جب بیان اور عمل میں تضاد ہو، تو ٹرانسکرپٹ سیدھا منہ رکھتا ہے — computed اور generated صفحے پر ایک جیسے دکھتے ہیں۔ وہ ایک جیسے نہیں ہیں۔
جس لاگ کو آپ دوبارہ چلا نہیں سکتے وہ گواہی ہے، ثبوت نہیں۔ یہاں تک کہ جو ٹیمیں ہر ٹول کال محفوظ کرتی ہیں وہ بھی عموماً اسے دوبارہ چلا کر موازنہ نہیں کر سکتیں، کیونکہ کچھ بھی اس دنیا کو پن نہیں کرتا جس میں وہ چلا تھا۔ SQL اس دن نئے سرے سے تیار ہوا تھا، ایک ایسے ڈیٹا بیس کے خلاف جو تب سے بدل چکا ہے؛ حساب ایک ایسے ماڈل سے سیمپل ہوا تھا جو کبھی مستحکم ہی نہیں تھا۔ اسے چھ ماہ — یا بارہ — تک محفوظ رکھنے کا مطلب دعوے زیادہ دیر تک ذخیرہ کرنا ہے، انہیں قابل تصدیق بنانا نہیں۔ آرٹیکل 12 کی عبارت درست ہے: سسٹم کو ریکارڈنگ کی تکنیکی اجازت دینی ہوگی۔ جو تولیدیت ڈیزائن میں شامل نہیں کی گئی اسے لاگنگ لائبریری سے بعد میں نہیں جوڑا جا سکتا۔
میٹا ڈیٹا درستگی نہیں ہے۔ کم از کم قابل قبول آڈٹ ریکارڈ — چھ بنیادی فیلڈز، جن میں trace ID، ٹائم اسٹیمپ، اور ایجنٹ شناخت شامل ہیں (AgentNode, 2026) — یہ بتاتا ہے کہ کس نے اور کب۔ یہ نہیں بتاتا کہ عدد درست تھا یا نہیں، یا آج بھی یہی نتیجہ آئے گا۔ LLM ایجنٹ آبزرویبیلٹی پر تحقیق بھی یہی نتیجہ دیتی ہے: ٹریس ایبیلٹی کو پورے ایجنٹ لائف سائیکل کے آرٹیفیکٹس کا احاطہ کرنا ہوگا، نہ کہ صرف پیغامات کا (CSIRO Data61, 2024)۔
ناکامی ساختی ہے۔ آزاد شکل کا عمل — ایک ماڈل جو سٹرنگز خارج کرتا ہے جنہیں کوئی اور چلاتا ہے — کچھ بھی اتنا مستحکم نہیں پیدا کرتا کہ ریکارڈ کیا جا سکے، چاہے آپ کتنا ہی لکھ لیں۔
پروویننس بطور نتیجے کا حصہ
SQAI کا جواب یہ ہے کہ ریکارڈ کو لاگنگ کی خصوصیت کے بجائے عمل کی خاصیت بنایا جائے۔ ہر executed نتیجہ چار ہیشز لے کر چلتا ہے، ہر ایک ایک الگ آڈٹ سوال کا جواب دیتا ہے:
contract_hash— کیا چل سکتا تھا: عین وہ capability contract جو نافذ تھا (sha256:79f1c5a6c716…)۔plan_hash— درخواست کس پر resolve ہوئی: validated plan، اس کی resolution ریکارڈ کے ساتھ (decision_path: "exact_spec")۔invocation_hash— کیا چلا، کس پر: capability اور canonicalized inputs، بشمول ڈیٹا کاinput_hashجیسا وہ اس وقت تھا۔computation_hash— کیا نکلا: invocation اور value دونوں سے منسلک۔
یہ تعمیرات domain-separated ہیں، تاکہ کوئی artifact دوسرے کا روپ نہ دھار سکے:
invocation_hash = sha256("sqai:invocation:v1\0" + canonicalJson(identity))
computation_hash = sha256("sqai:computation:v1\0" + invocation_hash + canonicalJson(value))
ہیشز کے ساتھ determinism envelope بھی ہوتا ہے — ریکارڈ شدہ execution ماحول: runtime_bundle_version 0.1.0 اور اس کا sha256، platform اور architecture، precision_mode: float64، thread_count: 1، اور جہاں ضروری ہو seed۔ دس simulation capabilities جنہیں seed درکار ہے وہ اس کے بغیر چلنے سے انکار کرتی ہیں — seed_required، خاموشی سے مختلف جواب نہیں۔ جو کچھ بھی عدد بدل سکتا ہے وہ یا تو پن ہے یا لکھا ہوا ہے۔
یہ عملی طور پر کیا فائدہ دیتا ہے۔ مارچ میں، ایک ایجنٹ net present value حساب کرتا ہے:
finance.npv(0.1, [-1000, 300, 420, 560, 680])
→ 505.020148896933
computation_hash b74f67d0d7a594aa…
جولائی میں، آڈیٹر پوچھتا ہے۔ آپ invocation دوبارہ چلاتے ہیں — وہی typed spec، وہی pinned runtime — اور ہیشز موازنہ کرتے ہیں: b74f67d0d7a594aa… پھر، byte-identical۔ اس سے کوئی فرق نہیں پڑتا کہ ری پلے TypeScript میں چلے یا Python میں۔ canonicalJson اور canonical_json ایک cross-language serialization contract ہیں — keys sorted، -0 کو 0 پر normalize، fixed unicode escaping — تاکہ ایک ہی value دونوں میں ایک ہی bytes اور ایک ہی hash دے۔ determinism صفحہ ایسے دو envelopes، مہینوں کے فاصلے پر، ساتھ ساتھ دکھاتا ہے۔
اور جب ری پلے میچ نہ کرے، تو یہ بھی ایک اشارہ ہے۔ بدلا ہوا source schema_revision_mismatch کے ساتھ بلند آواز سے ناکام ہوتا ہے — انجن خاموشی سے مختلف ڈیٹا کے خلاف مختلف عدد حساب کر کے اسے ماضی سے منسوب کرنے سے انکار کرتا ہے۔ mismatch بتاتا ہے کہ کیا بدلا۔
اسے ذمہ داریوں سے ملائیں۔ سسٹم کی پوری زندگی میں خودکار ریکارڈنگ: ہر executed نتیجہ خود کو ریکارڈ کرتا ہے، تعمیر کے ذریعے — کوئی unrecorded راستہ نہیں، کیونکہ execution surface 4,574 read-only capabilities ہے جن کے typed inputs ہیں، نہ کہ آزاد شکل کی strings۔ چھ یا بارہ ماہ کی برقراری: result envelopes محفوظ کریں؛ برقراری ایک storage فیصلہ بن جاتی ہے نہ کہ آثار قدیمہ۔ SOC 2 جائزہ دورانیے پر محیط ثبوت: artifacts ہی ثبوت ہیں — آڈیٹر کا جواب ایک تحقیق نہیں، ایک ری پلے ہے۔ وہی pipeline ہر capability کے لیے ریکارڈ تیار کرتا ہے، اور مستقل آڈٹ ٹریل SQAI کے Pro tier کے ساتھ آتا ہے۔
آٹھ دن، پھر اس کے بعد ہر آڈٹ
اگست کی تاریخ EU میں ہائی رسک سسٹمز کو باضابطہ طور پر پابند کرتی ہے۔ لیکن اس طرح کی آخری تاریخیں ہر اس جائزے کا نمونہ طے کرتی ہیں جو بعد میں آتا ہے — SOC 2 آڈیٹر، procurement سوالنامہ، آپ کا اپنا CFO مارچ میں جنوری کے کسی عدد کے بارے میں پوچھتا ہوا۔ ایجنٹس سے ان کے جوابات کا جواز ملازمین کی طرح مانگا جائے گا: ریکارڈز کے ساتھ۔ اکثر stacks انہیں پیش نہیں کر سکتے، کیونکہ generated SQL اور sampled arithmetic کچھ بھی اتنا مستحکم نہیں چھوڑتے کہ ریکارڈ کیا جا سکے — یہ مسئلہ آڈٹ سے بہت پہلے شروع ہوتا ہے۔
جس جواب کو آپ ری پلے کر سکتے ہیں وہ جواب ہے جس کا آپ دفاع کر سکتے ہیں۔ باقی سب ایک اسکرین شاٹ ہے۔