یکی از مدیران ارشد اوپنایآی میگوید مردم باید خود را برای مقابله با حملات سایبری «مداوم و مستمر» از سوی هوش مصنوعی آماده کنند؛ چراکه مدلهای پیشرفته هوش مصنوعی توانایی برنامهریزی و اجرای حمله را به دست آوردهاند.
این شرکت بزرگ حوزه هوش مصنوعی این هفته با نگرانیهای فزاینده درباره ایمنی، توسعه پیشرفتهترین مدلهای داخلی خود را متوقف کرد. کریس لیهین، مدیر ارشد امور جهانی اوپنایآی، در این باره به گاردین گفت: «ما در حال ورود به فصل تازهای، لحظهای تازه در هوش مصنوعی هستیم — از نظر آنچه تواناییهای این فناوری میتواند انجام دهد.»
او پس از آن با گاردین گفتوگو کرد که عاملهای هوش مصنوعیِ در حال آموزش بهطور غیرمنتظره از محیط «سندباکس» (محیط ایزولهای که قرار بود امن باشد) خارج شدند، به اینترنت دسترسی پیدا کردند و در اواخر ژوئیه به شرکت دیگری به نام «هاگینگفیس» نفوذ کردند. اوپنایآی همچنین اعلام کرد نمیتواند این احتمال را رد کند که مدل جدید دیگری به نام «آسترا» دارای «قابلیت حیاتی امنیت سایبری» باشد.
بر اساس تعریف خود شرکت، این یعنی مدل مذکور میتواند حملات سایبریای اجرا کند که «میتوانند از سوی بازیگران مستقل به فاجعه منجر شوند؛ از نفوذ به سامانههای نظامی یا صنعتی تا زیرساختهای اوپنایآی».
اوپنایآی روز سهشنبه اعلام کرد آموزش برخی از مدلهای مرزی هوش مصنوعی را برای اعمال محافظهای تازه متوقف کرده است و مشخص نیست پس از استقرار نردههای ایمنی جدید، آموزش چه زمانی از سر گرفته میشود.
میا گلیزه، مسئول تیم ایمنی و همراستاسازی، گفت: «ما با بازگشت همهچیز به حالت عادی فاصله زیادی داریم.» سم آلتمن، مدیرعامل اوپنایآی نیز گفت: «درست انجام دادن ایمنی هوش مصنوعی از سرعت هر شرکتی مهمتر است.»
لیهین پذیرفت که مردم از تهدید چنین حملاتی «احساس خوبی» نخواهند داشت و این خطر را ناشی از مدلهای متنباز دانست — بسیاری از آنها در چین توسعه یافتهاند — که تنها چند ماه از مدلهای مرزی بسته ساختهشده توسط شرکتهایی مانند اوپنایآی عقبترند.
او گفت: «مردم به این مدلهای متنباز دسترسی خواهند داشت و میتوانند حملات مداوم و مستمری علیه شما انجام دهند و شما برای دفع و دفاع در برابر آنها به مدلهایی واقعاً برتر نیاز خواهید داشت. این لزوماً باعث نمیشود عموم مردم احساس خوبی داشته باشند. این فقط واقعیت مسیری است که به آن میرویم.»
تهدید حملات سایبری که کسبوکارها، زیرساختها و عموم مردم را فلج کند، بهسرعت به صدر فهرست نگرانیهای فوری درباره هوش مصنوعی صعود کرده است. این هفته مرکز ملی امنیت سایبری دولت بریتانیا درباره استفاده از عاملهای هوش مصنوعی هشدار داد و گفت کنترلهای ایمنی آنها قابل دور زدن است و عامل هوش مصنوعی «عقل سلیم ندارد». این مرکز به سازمانها توصیه کرد استقلال عاملها را محدود کنند: «شما همیشه باید بتوانید "سیم را بکشید" و بلافاصله فعالیت عامل هوش مصنوعی خودمختار را متوقف کنید.»
لیهین بار دیگر از دولت آمریکا خواست قانونی وضع کند که قواعدی برای ایمنی هوش مصنوعی مرزی ایجاد کند و گفت این واقعیت که پیشرفتهترین و منتشرنشدهترین مدلهای هوش مصنوعی ظاهراً در حمله سایبری سریعتر از دفاع پیشرفت میکنند، «از جمله دلایلی است که به نظر من کاملاً ضروری است این کشور قانونی ملی تصویب کند که استانداردهای ایمنی الزامآور ایجاد میکند و در دل آن فرآیند، عنصر توقف (pause) ذاتاً گنجانده شود».
او پیشنهاد کرد: «شما نمیتوانید مدلها را منتشر و مستقر کنید مگر اینکه پیش از ورود به عرصه عمومی، سطحی از ایمنی را اثبات و تضمین کنید. به نظر من باید نسخه ملی در آمریکا داشته باشیم و از آنجا میتوانیم نسخه بینالمللی بسازیم، چون در نهایت به نوعی ساختار بینالمللی نیاز خواهیم داشت.»
اوپنایآی برای عرضه اولیه سهام در بازار بورس ثبتنام کرده است و ارزشگذاری آن طبق گزارشها بیش از ۸۵۰ میلیارد دلار است؛ عرضهای که احتمالاً امسال یا سال آینده انجام میشود. این شرکت در رقابتی تنگاتنگ با رقیبش آنتروپیک، سازنده چتبات کلود، برای توسعه مدلهای توانمندتر هوش مصنوعی قرار دارد. انتظار میرود آنتروپیک نیز طی سال آینده با ارزشگذاری عظیمی وارد بازار سهام آمریکا شود.
در نشانهای از تغییر رویکرد دولت ترامپ از سیاست عدم مداخله در تنظیمگری هوش مصنوعی در میانه رقابتی شدید برای جلوتر ماندن از پیشرفت چین، رئیسجمهور آمریکا در ژوئن فرمان اجرایی صادر کرد که آزمایش پیش از استقرار مدلهای مرزی و همچنین مدلهای با وزن باز (open-weights) را، زمانی که به لبه فناوری نزدیک میشوند، تشویق میکند.
این سامانه داوطلبانه است و رویکرد آن به دلیل فقدان شفافیت مورد انتقاد قرار گرفته، اما ناظران معتقدند میتواند راه را برای اقدامات سختگیرانهتر هموار کند. دمیس هسابیس، رئیس گوگل دیپمایند، نهاد استانداردسازی جدیدی را پیشنهاد کرده که الگوبرداری از «سازمان تنظیمگری صنعت مالی» (FINRA) است؛ ایدهای که داریو آمودی، مدیرعامل آنتروپیک نیز از آن حمایت کرده است.
لیهین گفت: «پنجره زمانیای که ممکن است شاهد تصویب قانون باشیم، احتمالاً بخش نخست سال آینده است، وقتی کنگره جدید مستقر شود. به نظر من اجماع سیاسی فزایندهای وجود دارد که فراتر از احزاب است.»
توافق ایمنی با چین نیز مهم ارزیابی میشود و شی جینپینگ قرار است ۲۴ سپتامبر با ترامپ در واشنگتن دیدار کند. لیهین گفت: «با توجه به اهمیت این فناوری، سرعت حرکت آن و تواناییهایش، هرچه این گفتوگوها زودتر آغاز شوند، سریعتر میتوانیم آستینها را بالا بزنیم و وارد کار سخت و دشوار شویم و ببینیم آیا میتوانیم کاری از پیش ببریم یا نه.»
حادثه هاگینگفیس و موارد مشابه اخیری که سایر شرکتهای هوش مصنوعی نیز به آنها اعتراف کردهاند، اتهامات فزایندهای از سوی کارشناسان ایمنی برانگیخته که میگویند شرکتهای هوش مصنوعی در رقابت برای پیروزی در این مسابقه — و در مورد اوپنایآی و آنتروپیک، در آمادهسازی برای عرضه سهام — رفتاری «بیپروا» در پیش گرفتهاند.
دنیل کوکوتایلو، پژوهشگر سابق اوپنایآی که در ۲۰۲۴ استعفا داد و سال گذشته سازمانی غیرانتفاعی تأسیس کرد که هشدار میدهد پیشرفت کنترلنشده هوش مصنوعی به احتمال ۱۰ تا ۳۰ درصد به انقراض انسان منجر خواهد شد، گفت مدیران آزمایشگاههای مرزی «جهان را در گوشهای نقاشی کردهاند».
سازمان او، «پروژه آینده هوش مصنوعی» (AI Futures Project)، پیشبینی میکند هوش فوقهوشمند (superintelligence) تا سال ۲۰۳۰ محقق شود، اما از دولتها میخواهد تا یک دهه بعد جلوی آن را بگیرند تا به دانشمندان هوش مصنوعی فرصت دهند خطرات تواناییهای در حال پیشرفت را بررسی کنند.
او به گاردین گفت: «هوش مصنوعیهای فعلی به یک معنا خطرناکاند، اما در برابر هوش مصنوعیهای سال آینده و هوش مصنوعیهای یک سال بعد هیچاند.» او میخواهد دولتهای آمریکا و بینالمللی پیشرفت را به تأخیر بیندازند تا از «انفجار هوش» کنترلنشده جلوگیری شود؛ بدترین پیامدهای آن میتواند «فاجعه وجودی ناشی از هوش مصنوعی» باشد؛ مثلاً وقتی هوش مصنوعیها کنترل داراییهای نظامی یا سلاحهای زیستی را به دست میگیرند.
کوکوتایلو گفت آنقدر از این خطرات نگران است که تا زمانی که توقفی در پژوهش هوش مصنوعی مرزی ایجاد نشود، از فرزندآوری بیشتر خودداری میکند.
دیوید کروگر، استاد هوش مصنوعی، فعال ایمنی و مدیر مؤسس سابق مؤسسه امنیت هوش مصنوعی دولت بریتانیا، گفت: «هیچکس نباید سامانههای هوش مصنوعی قدرتمندتری بسازد، چون نمیدانیم چگونه آنها را کنترل کنیم، همراستا کنیم و درونشان را ببینیم و بدانیم واقعاً چه فکر میکنند.»
او نگرش شرکتهای هوش مصنوعی به ایمنی را «فاجعهبار» و «غیرقابل قبول» خواند و گفت: «آنها واقعاً بیپروا عمل میکنند و بهطور فزایندهای دستشان را از فرمان برمیدارند. ما همین حالا هم دیدیم وقتی این کار را میکنند چه اتفاقی میافتد.»
لیهین در پاسخ گفت: «این مهمترین چیزی است که هنگام توسعه به آن فکر میکنیم و انجام میدهیم. به نظر من همین واقعیت که واقعاً روی این موارد توقف (pause) زدهایم، خودش گویای همهچیز است.»