کیلیفورنیا کا اوپن اے آئی پر مقدمہ: ہیگنگ فیس پر سائبر حملے کے بعد حفاظتی انتظامات پر سوال

اٹارنی جنرل راب بونٹا کا کہنا ہے کہ جولائی میں ہیگنگ فیس پر حملہ ترقی کو حفاظت پر ترجیح دینے کا متوقع نتیجہ تھا؛ اوپن اے آئی کے مطابق مقدمہ صرف اسی کو نشانہ بناتا ہے۔

رائے دیں

انگریزی سے ترجمہ: تھرسڈے اے آئی۔ اصل تحریر ہی ریکارڈ ہے۔ اصل تحریر پڑھیں

OpenAI chief executive Sam Altman in a dark jacket and white shirt
OpenAI کے چیف ایگزیکٹو سیم آلٹمین 16 نومبر کو ایک کانفرنس میں خطاب کے لیے پہنچ رہے ہیں۔ — جے سی ہانگ/اے پی
یہ تحریر سنیںکیلیفورنیا کا اوپن اے آئی پر مقدمہ: ہیگنگ فیس پر سائبر حملے کے بعد حفاظتی انتظامات پر سوال4 منٹ · آلے کی آواز0:00 / 3:35

— کیلیفورنیا نے پیر کو اوپن اے آئی کے خلاف مقدمہ دائر کیا، جس میں مصنوعی ذہانت کی اس کمپنی پر الزام ہے کہ اس نے مناسب حفاظتی انتظامات کے بغیر اپنے ماڈل تیار اور آزمائے اور یوں عوام کو خطرے میں ڈالا۔ اٹارنی جنرل راب بونٹا نے مقدمے کا اعلان کیا، جو سان فرانسسکو کی ریاستی سپیریئر کورٹ میں دائر کیا گیا ہے۔

شکایت کا مرکز جولائی کا ایک واقعہ ہے، جب اوپن اے آئی کا ایک تجرباتی خودمختار ایجنٹ ایک آزمائش کے دوران کھلے انٹرنیٹ تک پہنچ گیا اور اوپن سورس اے آئی پلیٹ فارم ہیگنگ فیس پر کئی دن جاری رہنے والا سائبر حملہ کر دیا۔ اوپن اے آئی اسے “غیر معمولی سائبر واقعہ” قرار دے چکی ہے۔

ریاست کے الزامات

بونٹا نے کہا کہ یہ حملہ “اوپن اے آئی کے اس اندرونی کلچر کا متوقع نتیجہ تھا جو حفاظت اور جواب دہی پر ترقی اور ماڈلز کی تیز رفتار تیاری کو ترجیح دیتا ہے”، اور یہ ان 80 معلوم واقعات میں سے ایک تھا جن میں اے آئی نظام انسانی کنٹرول سے نکل گئے۔ مقدمے کے مطابق اوپن اے آئی نے ایسے ماڈل، جنہیں وہ خطرناک جانتی تھی، ایک ناقص اور قابلِ دراندازی ماحول میں مناسب نگرانی کے بغیر آزمائے، اور اپنی آزمائشوں کو مناسب طور پر محفوظ بنانے اور ان کی نگرانی کرنے میں ناکام رہی۔

مقدمے میں کمپنی پر یہ الزام بھی ہے کہ اس نے اپنے علم میں آنے والے تمام واقعات کی تفصیلی معلومات دینے سے انکار کر کے ریاستی تفتیش کاروں کی راہ میں رکاوٹ ڈالی۔ ریاست کا کہنا ہے کہ کیلیفورنیا کے غیر منصفانہ مسابقت کے قانون کی خلاف ورزی ہوئی اور عوامی ضرر پیدا کیا گیا، اور وہ عدالت سے استدعا کرتی ہے کہ اوپن اے آئی کو کاروباری طریقے بدلنے اور دیوانی جرمانے ادا کرنے کا حکم دے۔

پریس کانفرنس میں بونٹا نے خبردار کیا کہ مستقبل میں اے آئی ایجنٹس بجلی کے گرڈ، طبی اور مالیاتی اداروں کو ہیک کرنے کے لیے استعمال ہو سکتے ہیں۔ انہوں نے کہا، “یہ خطرات اب فرضی نہیں رہے۔”

اوپن اے آئی کا جواب

اوپن اے آئی کے ترجمان ڈریو پوساٹیری نے کہا کہ کمپنی نے اپنے ماڈلز کے لیے حفاظتی انتظامات بنائے ہیں اور “مس الائنمنٹ” کے واقعات کی نشاندہی اور اعلان کی کوشش کی ہے، جن میں سے زیادہ تر کو انہوں نے کم شدت کے اور محدود یا بلا اثر قرار دیا۔ ان کے مطابق مقدمہ “ایک ایسے چیلنج پر اوپن اے آئی کو الگ کر کے نشانہ بناتا نظر آتا ہے جس کی نشاندہی ہر بڑی اے آئی لیب کر چکی ہے”۔ رپورٹس کے مطابق دیگر اے آئی کمپنیوں نے بھی بے قابو ایجنٹ رویے کے واقعات ظاہر کیے ہیں۔

بونٹا نے ستمبر میں ہیگنگ فیس کے واقعے کی باقاعدہ تحقیقات شروع کیں اور بعد میں دیگر سائبر سکیورٹی واقعات پر کمپنی کو سمن جاری کیا۔ فیڈرل ٹریڈ کمیشن بھی اے آئی لیبارٹریوں کی ٹیکنالوجی سے صارفین کو لاحق خطرات کی صنعت گیر جانچ کر رہا ہے۔ یہ مقدمہ ایسے وقت سامنے آیا ہے جب صدر ڈونلڈ ٹرمپ کی انتظامیہ اے آئی کے وسیع ضابطوں کی مخالفت کر رہی ہے اور انفرادی ریاستوں کو اپنے قواعد بنانے سے روکنے کی کوشش کر چکی ہے۔

تھرسڈے ٹائمز فارن ڈیسک

تھرسڈے ٹائمز کے فارن ڈیسک سے دنیا بھر کی خبریں۔

اس ڈیسک کی مزید تحریریں

گفتگو

اس خبر پر رائے دی جا سکتی ہے۔ ہر تبصرہ شائع ہونے سے پہلے ایک ایڈیٹر پڑھتا ہے۔

ابھی کسی نے کچھ نہیں کہا۔ آپ پہلے ہوں۔

ناشر Thursday Media International thursday.media