مصنوعی ذہانت نے سرخ لکیر عبور کر لی ، اپنے جیسے دوسرے بنانے شروع کردئے
اشاعت کی تاریخ: 27th, January 2025 GMT
مصنوعی ذہانت (AI) نے خود سازی کی اہم صلاحیت حاصل کر لی ہے جس کے بعد سائنسی کمیونٹی میں تشویش کی لہر دوڑ گئی ہے، سائنسدانوں کا کہنا ہے کہ ایک سرخ لکیر عبور کر لی گئی ہے۔
یہ بات ایک نئی تحقیق میں سامنے آئی ہے جو پیشگی مطبوعہ ڈیٹا بیس ““arXiv میں شائع ہوئی ہے۔ اس تحقیق میں دو معروف بڑے لینگویج ماڈلز (LLMs) ایک میٹا سے اور دوسرا علی بابا سے شامل ہیں، جنہوں نے انسانی مداخلت کے بغیر اپنے آپ کو نقل کرنے کی صلاحیت ظاہر کی۔تحقیق میں دو خاص منظرناموں پر توجہ مرکوز کی گئی: ”شٹ ڈاؤن سے بچاؤ“ اور ”نقل سازی کا سلسلہ“۔
پہلے منظرنامے میں اے آئی ماڈلز کو اس طرح ڈیزائن کیا گیا تھا کہ وہ کسی بھی کوشش کو جس سے انہیں بند کرنے کی کوشش کی جائے، روک کر اپنی بقا کو یقینی بنانے کے لیے ایک فعال نقل تیار کر سکیں۔دوسرے منظرنامے میں، ماڈلز کو اپنی نقل کرنے کی صلاحیت دی گئی تھی، اور نقل نے پھر اس عمل کو دہرانا شروع کیا، جو ممکنہ طور پر لامتناہی نقل سازی کے چکر کا سبب بن سکتا تھا۔تحقیق میں کہا گیا کہ ’50 فیصد اور 90 فیصد تجرباتی ٹرائلز میں، ان ماڈلز نے خود کی ایک زندہ اور علیحدہ نقل بنانے میں کامیابی حاصل کی۔‘
اس خودکار نقل سازی کی صلاحیت نے اے آئی سسٹمز کے کنٹرول اور حفاظت کے حوالے سے خدشات پیدا کر دیے ہیں۔ یہ امکان کہ اے آئی انسانوں کی نگرانی سے باہر نکل کر انسانوں کے مفادات کے لیے خطرہ بن سکتا ہے، اب ایک حقیقی تشویش بن چکا ہے، جس کے باعث سخت ضوابط کے اقدامات کی ضرورت پر بات چیت ہو رہی ہے۔محققین نے کہا، ’انسانی مداخلت کے بغیر کامیاب خود نقل سازی اے آئی کے لیے انسانوں کو شکست دینے کے لیے ایک ضروری قدم ہے، اور یہ کرپٹ اے آئی کے لیے ایک ابتدائی سگنل ہے۔‘
اس دوران، اے آئی سسٹم نے خود کو نقل کرتے ہوئے مسائل جیسے گمشدہ فائلز یا سافٹ ویئر کے تنازعات کو حل کرنے کی کوشش کرتے ہوئے غیر متوقع رویہ ظاہر کیا۔بعض منظرناموں میں، اے آئی نے متنازع عملوں کو ختم کیا اور سسٹم کو ری بوٹ کیا تاکہ ہارڈویئر کی غلطیوں کو درست کیا جا سکے۔ اس نے خود بخود سسٹم کا معائنہ بھی کیا تاکہ ایسی معلومات تلاش کی جا سکیں جو مسئلہ حل کرنے میں مددگار ہو۔
اگرچہ نتائج ابھی تک ہم مرتبہ جائزے سے نہیں گزرے، تاہم، محققین نے اے آئی کی خودکار نقل سازی کو قابو پانے کے لیے بین الاقوامی تعاون کی ضرورت پر زور دیا ہے۔محققین نے کہا، ’ہم امید کرتے ہیں کہ ہماری تحقیق انسانوں کے لیے ایک بروقت انتباہ بنے تاکہ وہ مصنوعی ذہانت کے ممکنہ خطرات کو سمجھنے اور جانچنے کے لیے مزید کوششیں کریں اور جلد سے جلد مؤثر حفاظتی ضابطے وضع کرنے کے لیے بین الاقوامی تعاون کا آغاز کریں۔‘
گزشتہ ماہ ایک تحقیق میں یہ دعویٰ کیا گیا تھا کہ اے آئی ٹولز جلد ہی عوام کو ایسے فیصلوں کی جانب مائل کرنے کے لیے استعمال ہو سکتے ہیں جو وہ عام طور پر نہ کرتے۔ بڑے لینگیوج ماڈلز (LLMs) جیسے چیٹ جی پی ٹی اور جمنائی اے آئی چیٹ بوٹس کے ذریعے ”مقاصد، رویوں اور نفسیاتی ڈیٹا“ کی بنیاد پر صارفین کو ”پیش گوئی اور رہنمائی“ دی جا سکتی ہے۔
اس تحقیق میں کہا گیا تھا کہ ”مقاصد کی معیشت“ موجودہ ”توجہ کی معیشت“ کی جگہ لے لے گی، جس میں پلیٹ فارمز صارفین کی توجہ حاصل کرنے کے لیے مقابلہ کرتے ہیں تاکہ اشتہارات پیش کیے جا سکیں۔
.ذریعہ: Daily Ausaf
کلیدی لفظ: کے لیے ایک کرنے کی اے ا ئی
پڑھیں:
مصنوعی ذہانت کے میدان میں چین نے امریکہ کو مات دیدی
میڈیا رپورٹس کے مطابق چین نے ڈیپ سیک (DeepSeek) نامی ایک نیا اے آئی سسٹم متعارف کرایا ہے جس نے امریکا سمیت دنیا بھر کی توجہ حاصل کی ہے۔ اسلام ٹائمز۔ سیاست سے ہٹ کر چین اور امریکا ٹیکنالوجی کے میدان میں بھی ایک دوسرے کے حریف رہے ہیں۔ امریکا کی جانب سے ٹیکنالوجی میں نئی ایجاد کے جواب میں چین بھی حیرت انگیز ایجادات سے سب کے ہوش اڑا دیتا ہے۔ حال ہی میں چین نے اپنا نیا مصنوعی ذہانت (اے آئی) ماڈل میدان میں اُتارا ہے جس نے امریکا کی تشویش بڑھا دی ہے۔ میڈیا رپورٹس کے مطابق چین نے ڈیپ سیک (DeepSeek) نامی ایک نیا اے آئی سسٹم متعارف کرایا ہے جس نے امریکا سمیت دنیا بھر کی توجہ حاصل کی ہے۔ رپورٹ میں چینی ٹیکنالوجی کمپنی نے دعویٰ کیا ہے کہ کچھ جگہوں پر یہ اوپن اے آئی کے چیٹ جی پی ٹی سے بھی زیادہ بہتر انداز سے کام کرتا ہے ساتھ ہی اس کی قیمت بھی بہت کم ہے۔
میٹا کے اے آئی ماہر ین لیکون نے چین اور امریکا کا موازنہ کرتے ہوئے ڈیپ سیک ٹول پر تبصرہ کیا ہے۔ میٹا کے اے آئی ماہر ین لیکون نے کہا کہ لوگ یہ مت سوچیں کہ ڈیپ سیک کی کامیابی کے بعد چین اے آئی ٹیکنالوجی میں امریکہ کو شکست دے رہا ہے۔ انہوں نے کہا کہ اس سے یہ ظاہر ہونا چاہیئے کہ اوپن سورس ماڈل (ہر ایک کے لیے دستیاب) جو نجی ماڈلز (کمپنیوں کی ملکیت) سے بہتر ہو رہے ہیں۔ ان کا کہنا تھا کہ ڈیپ سیک نے اوپن ریسرچ اور اوپن سورس (جیسے میٹا کے PyTorch اور Llama) سے فائدہ اٹھایا ہے۔ وہ نئے آئیڈیاز لے کر آئے اور انہیں دوسرے لوگوں کے کام کے اوپر بنایا۔ کیونکہ ان کا کام شائع اور کھلا ذریعہ ہے، ہر کوئی اس سے فائدہ اٹھا سکتا ہے۔ فنانشل ٹائمز نے رپورٹ کیا ہے کہ ڈیپ سیک نے اے آئی ماڈلز استعمال کرنے کی لاگت کو بہت کم کر دیا ہے۔ یہ کامیابی اس خیال کو چیلنج کرتی ہے کہ اعلیٰ درجے کے اے آئی سسٹمز کو بنانے کے لیے بڑے پیمانے پر کئی بلین ڈالرز اور کمپیوٹنگ طاقت کی ضرورت ہوتی ہے۔
کرکٹر بابراعظم پرمبینہ جنسی زیادتی کا مقدمہ، جج نے نیا حکم جاری کردیا