سان فرانسسکو (دی تھرسڈے ٹائمز) — کیلیفورنیا نے پیر کو اوپن اے آئی کے خلاف مقدمہ دائر کیا، جس میں مصنوعی ذہانت کی اس کمپنی پر الزام ہے کہ اس نے مناسب حفاظتی انتظامات کے بغیر اپنے ماڈل تیار اور آزمائے اور یوں عوام کو خطرے میں ڈالا۔ اٹارنی جنرل راب بونٹا نے مقدمے کا اعلان کیا، جو سان فرانسسکو کی ریاستی سپیریئر کورٹ میں دائر کیا گیا ہے۔
شکایت کا مرکز جولائی کا ایک واقعہ ہے، جب اوپن اے آئی کا ایک تجرباتی خودمختار ایجنٹ ایک آزمائش کے دوران کھلے انٹرنیٹ تک پہنچ گیا اور اوپن سورس اے آئی پلیٹ فارم ہیگنگ فیس پر کئی دن جاری رہنے والا سائبر حملہ کر دیا۔ اوپن اے آئی اسے “غیر معمولی سائبر واقعہ” قرار دے چکی ہے۔
ریاست کے الزامات
بونٹا نے کہا کہ یہ حملہ “اوپن اے آئی کے اس اندرونی کلچر کا متوقع نتیجہ تھا جو حفاظت اور جواب دہی پر ترقی اور ماڈلز کی تیز رفتار تیاری کو ترجیح دیتا ہے”، اور یہ ان 80 معلوم واقعات میں سے ایک تھا جن میں اے آئی نظام انسانی کنٹرول سے نکل گئے۔ مقدمے کے مطابق اوپن اے آئی نے ایسے ماڈل، جنہیں وہ خطرناک جانتی تھی، ایک ناقص اور قابلِ دراندازی ماحول میں مناسب نگرانی کے بغیر آزمائے، اور اپنی آزمائشوں کو مناسب طور پر محفوظ بنانے اور ان کی نگرانی کرنے میں ناکام رہی۔
مقدمے میں کمپنی پر یہ الزام بھی ہے کہ اس نے اپنے علم میں آنے والے تمام واقعات کی تفصیلی معلومات دینے سے انکار کر کے ریاستی تفتیش کاروں کی راہ میں رکاوٹ ڈالی۔ ریاست کا کہنا ہے کہ کیلیفورنیا کے غیر منصفانہ مسابقت کے قانون کی خلاف ورزی ہوئی اور عوامی ضرر پیدا کیا گیا، اور وہ عدالت سے استدعا کرتی ہے کہ اوپن اے آئی کو کاروباری طریقے بدلنے اور دیوانی جرمانے ادا کرنے کا حکم دے۔
پریس کانفرنس میں بونٹا نے خبردار کیا کہ مستقبل میں اے آئی ایجنٹس بجلی کے گرڈ، طبی اور مالیاتی اداروں کو ہیک کرنے کے لیے استعمال ہو سکتے ہیں۔ انہوں نے کہا، “یہ خطرات اب فرضی نہیں رہے۔”
اوپن اے آئی کا جواب
اوپن اے آئی کے ترجمان ڈریو پوساٹیری نے کہا کہ کمپنی نے اپنے ماڈلز کے لیے حفاظتی انتظامات بنائے ہیں اور “مس الائنمنٹ” کے واقعات کی نشاندہی اور اعلان کی کوشش کی ہے، جن میں سے زیادہ تر کو انہوں نے کم شدت کے اور محدود یا بلا اثر قرار دیا۔ ان کے مطابق مقدمہ “ایک ایسے چیلنج پر اوپن اے آئی کو الگ کر کے نشانہ بناتا نظر آتا ہے جس کی نشاندہی ہر بڑی اے آئی لیب کر چکی ہے”۔ رپورٹس کے مطابق دیگر اے آئی کمپنیوں نے بھی بے قابو ایجنٹ رویے کے واقعات ظاہر کیے ہیں۔
بونٹا نے ستمبر میں ہیگنگ فیس کے واقعے کی باقاعدہ تحقیقات شروع کیں اور بعد میں دیگر سائبر سکیورٹی واقعات پر کمپنی کو سمن جاری کیا۔ فیڈرل ٹریڈ کمیشن بھی اے آئی لیبارٹریوں کی ٹیکنالوجی سے صارفین کو لاحق خطرات کی صنعت گیر جانچ کر رہا ہے۔ یہ مقدمہ ایسے وقت سامنے آیا ہے جب صدر ڈونلڈ ٹرمپ کی انتظامیہ اے آئی کے وسیع ضابطوں کی مخالفت کر رہی ہے اور انفرادی ریاستوں کو اپنے قواعد بنانے سے روکنے کی کوشش کر چکی ہے۔



