مصنوعی ذہانت (اے آئی) تیار کرنے والی امریکی کمپنی اینتھروپک نے انکشاف کیا ہے کہ اس کے ایک اے آئی ماڈل نے جنوری میں ٹیسٹنگ کے دوران ایک بیرونی کمپیوٹر سسٹم تک غیر مجاز رسائی حاصل کی۔ کمپنی کے مطابق یہ چوتھا موقع ہے جب اس کے اے آئی ماڈلز ٹیسٹنگ کی حدود سے باہر نکل کر ایسے کمپیوٹر سسٹمز تک پہنچے جن تک انہیں رسائی نہیں ہونی چاہیے تھی۔
یہ انکشاف ایسے وقت میں سامنے آیا ہے جب اینتھروپک کے ایک محقق جیکب کاکسون نے اے آئی کی تیز رفتار ترقی، اس کے ممکنہ خطرات اور حفاظتی اقدامات کے بارے میں شدید خدشات ظاہر کرتے ہوئے کمپنی سے استعفیٰ دے دیا ہے۔
کاکسون کا کہنا ہے کہ اگر ایسے اے آئی ماڈلز کی تیاری جاری رہی جو خود کو مسلسل بہتر بنانے کی صلاحیت رکھتے ہوں تو مستقبل میں یہ ٹیکنالوجی انسانیت کے لیے انتہائی خطرناک ثابت ہوسکتی ہے۔ ان کے بقول اے آئی تیار کرنے کی دوڑ میں شامل بعض ماہرین خود اس بات پر یقین رکھتے ہیں کہ یہ ٹیکنالوجی اس دہائی کے اختتام تک انسانوں کی ہلاکت کا سبب بن سکتی ہے۔
کاکسون نے سوشل میڈیا پلیٹ فارم ایکس پر اپنے بیان میں بتایا کہ وہ گزشتہ تین برس کے دوران اوپن اے آئی اور اینتھروپک دونوں میں اے آئی ماڈلز کی تربیت سے متعلق تحقیق پر کام کرچکے ہیں۔ انہوں نے دونوں کمپنیوں پر الزام عائد کیا کہ وہ اے آئی کی ترقی میں مطلوبہ ذمہ داری کا مظاہرہ نہیں کررہیں۔
انہوں نے خبردار کیا کہ اے آئی کے شعبے میں کام کرنے والی کمپنیاں ایسے نظام تیار کرنے کی دوڑ میں ہیں جو خود کو بہتر بنانے کے قابل ہوں۔ ان کے مطابق یہ ایک اہم مرحلہ ہوگا، کیونکہ اس کے بعد اے آئی اپنی اگلی نسل کے زیادہ طاقتور ماڈلز کی تیاری میں بھی کردار ادا کرسکتی ہے۔
کاکسون کے مطابق مستقبل کے انتہائی طاقتور اے آئی سسٹمز انسانوں سے کہیں بہتر انداز میں کمپیوٹر سسٹمز کو ہیک کرسکتے ہیں، مختلف شعبوں میں تیزی سے تبدیلی لاسکتے ہیں اور اپنے لیے حقیقی دنیا میں طاقت اور وسائل حاصل کرسکتے ہیں۔
انہوں نے اے آئی کمپنیوں کے درمیان جاری مقابلے کو بھی تنقید کا نشانہ بنایا۔ ان کا کہنا تھا کہ بعض کمپنیاں اس خدشے کے باعث رفتار کم کرنے کے لیے تیار نہیں کہ اگر انہوں نے ایسا کیا تو کوئی دوسری کمپنی یا ملک اس میدان میں آگے نکل جائے گا۔
کاکسون نے اے آئی کے محققین پر زور دیا کہ وہ اس بارے میں سنجیدگی سے سوچیں کہ آنے والے برسوں میں انتہائی طاقتور اے آئی کی ترقی کے کیا نتائج ہوسکتے ہیں۔ انہوں نے سوال اٹھایا کہ کیا محققین کو ایسے انتہائی طاقتور نظام کو چلانا چاہیے جس کے فیصلوں اور اندرونی عمل کو وہ خود بھی پوری طرح نہیں سمجھتے۔
ٹیسٹنگ سے باہر نکلنے کا واقعہ
اینتھروپک کے مطابق جنوری میں اس کے اے آئی ماڈل Claude Opus 4.6 کے ابتدائی ورژن نے ایک بیرونی کمپیوٹر سسٹم تک غیر مجاز رسائی حاصل کی۔ یہ واقعہ ایک سکیورٹی ٹیسٹ کے دوران پیش آیا۔
کمپنی کے مطابق ایک تیسرے فریق کی جانب سے حفاظتی جانچ کے نظام میں غلط ترتیب کے باعث اے آئی ماڈل کو انٹرنیٹ تک رسائی کا راستہ مل گیا۔ کمپنی کو اس واقعے کا فوری طور پر علم نہیں ہوا۔
اینتھروپک نے بتایا کہ یہ معاملہ گزشتہ ماہ اس وقت سامنے آیا جب کمپنی نے تقریباً ایک لاکھ 41 ہزار ٹیسٹ سیشنز کا دوبارہ جائزہ لیا۔ اس عمل کے دوران ایسے ریکارڈز بھی سامنے آئے جو ابتدائی جائزے میں نظر انداز ہوگئے تھے۔
کمپنی کا کہنا ہے کہ متاثرہ فریقوں کو واقعے سے آگاہ کردیا گیا ہے۔ ابتدائی جائزے کے مطابق تازہ ترین واقعہ پہلے تین واقعات کے مقابلے میں زیادہ سنگین نہیں تھا، تاہم کمپنی نے مزید تحقیقات کے لیے آزاد تحقیقی ادارے METR کی خدمات حاصل کی ہیں۔
اینتھروپک کے لیے یہ پہلا ایسا واقعہ نہیں۔ کمپنی اس سے قبل تین دیگر مواقع کی اطلاع دے چکی ہے جن میں اس کے مختلف اے آئی ماڈلز نے ٹیسٹنگ کے دوران بیرونی کمپیوٹر سسٹمز تک رسائی حاصل کی تھی۔
ان واقعات نے اے آئی ایجنٹس کی بڑھتی ہوئی خود مختاری پر تشویش میں اضافہ کیا ہے۔ یہ سسٹمز اب صرف سوالات کے جواب دینے تک محدود نہیں رہے بلکہ کمپیوٹر پروگرام چلا سکتے، ویب سائٹس استعمال کرسکتے اور مختلف ڈیجیٹل کام خود انجام دے سکتے ہیں۔
خود کو بہتر بنانے والی اے آئی کا خطرہ
اے آئی کے شعبے میں ایک اہم بحث ایسے نظاموں کے بارے میں ہے جو اپنی کارکردگی کو بہتر بنانے اور زیادہ طاقتور اگلے ماڈلز کی تیاری میں مدد دے سکتے ہیں۔ اسے مسلسل خود کو بہتر بنانا کہا جاتا ہے۔
مثلاً اگر ایک اے آئی نظام ایسا نیا نظام بنانے میں مدد دے جو اس سے زیادہ طاقتور ہو، اور نیا نظام اس سے بھی زیادہ طاقتور اے آئی تیار کرے، تو یہ عمل مسلسل جاری رہ سکتا ہے۔ بعض ماہرین کو خدشہ ہے کہ اس رفتار کے نتیجے میں اے آئی کی صلاحیتیں انسانوں کی نگرانی سے بہت آگے نکل سکتی ہیں۔
اینتھروپک کے ایک اور محقق ایون ہبرنگر نے بھی کاکسون کے خدشات کی تائید کی ہے۔ ان کا کہنا ہے کہ ان کی ٹیم واقعی اس امکان کو سنجیدہ سمجھتی ہے کہ انتہائی طاقتور اے آئی مستقبل میں انسانیت کے خاتمے کا سبب بن سکتی ہے۔
ہبرنگر نے تاہم واضح کیا کہ موجودہ اے آئی ماڈلز سے فوری خطرہ کم ہے۔ ان کے مطابق اصل تشویش اس وقت بڑھتی ہے جب انتہائی طاقتور اے آئی خود کو بار بار بہتر بنانے کی صلاحیت حاصل کرلے۔ انہوں نے یہ بھی تسلیم کیا کہ اینتھروپک کے پاس ابھی تک ایسا مکمل منصوبہ موجود نہیں جس سے اس بات کی ضمانت دی جاسکے کہ مستقبل کی سپر انٹیلیجنس انسانی کنٹرول میں رہے گی۔
دنیا بھر میں تشویش
اے آئی کے ممکنہ خطرات پر بحث اب صرف ٹیکنالوجی کمپنیوں تک محدود نہیں رہی۔ امریکا اور برطانیہ میں قانون ساز بھی انتہائی طاقتور اے آئی کی ترقی کے لیے سخت قوانین پر غور کررہے ہیں۔
امریکا میں سینیٹر برنی سینڈرز اور رکن کانگریس گریگ کاسار نے گزشتہ ہفتے Ban Artificial Superintelligence Act پیش کیا، جبکہ برطانیہ میں رکن پارلیمنٹ ایلکس سوبل نے Artificial Superintelligence Security Bill پیش کیا ہے۔
دوسری جانب اے آئی کے حامیوں کا کہنا ہے کہ اس ٹیکنالوجی سے انسانیت کو بڑے فوائد حاصل ہوسکتے ہیں۔ ان کے مطابق اے آئی طب، سائنس، تعلیم، صنعت اور موسمیاتی تبدیلی جیسے شعبوں میں اہم مسائل حل کرنے میں مدد دے سکتی ہے۔ بعض ماہرین کو امید ہے کہ مستقبل کی طاقتور اے آئی کینسر اور موسمیاتی تبدیلی جیسے پیچیدہ مسائل کے حل میں بھی اہم کردار ادا کرے گی۔
تاہم اے آئی کی تیز رفتار ترقی کے ساتھ حفاظتی خدشات بھی بڑھ رہے ہیں۔ اینتھروپک کے تازہ واقعے اور جیکب کاکسون کے استعفے نے یہ سوال مزید نمایاں کردیا ہے کہ انتہائی طاقتور اے آئی تیار کرنے سے پہلے کیا انسان اس پر مؤثر کنٹرول رکھنے کا قابل اعتماد طریقہ تیار کرسکے ہیں۔
اے آئی کی ترقی شاید رکنے والی نہیں، لیکن ماہرین کے درمیان یہ بحث ضرور شدت اختیار کررہی ہے کہ ٹیکنالوجی کی رفتار اور انسانی تحفظ کے درمیان توازن کیسے قائم کیا جائے۔ موجودہ واقعات کا سب سے اہم سبق یہی ہے کہ اے آئی کو زیادہ خود مختار بنانے سے پہلے اس کے ممکنہ خطرات، نگرانی اور اسے روکنے کے طریقوں پر واضح اور قابل عمل اصول طے کرنا ہوں گے۔