یووال نوح هراری، تاریخنگار و نویسنده کتاب پرفروش «انسان خردمند»، هشدار داده است که جوامع بشری باید پیش از آنکه هوش مصنوعی به توانایی دستکاری افکار عمومی برسد، جلوی اعطای حقوق قانونی به آن را بگیرند.
به گزارش زومیت، احتمال تلاش سامانههای هوش مصنوعی برای کسب حقوق قانونی در آینده نزدیک وجود دارد و انسانها باید از همین حالا مانع وقوع چنین سناریویی شوند. هراری هشدار داد سامانههای پیشرفته برخلاف حیوانات میتوانند استدلالهایی بسیار متقاعدکننده برای احقاق حقوق خود طراحی و ارائه کنند.
هراری سامانههای دیجیتال را قادر به مدیریت و هدایت گفتوگوها دانست و گفت: «هوش مصنوعی متوجه جریان بحث خواهد شد. این سامانهها بحث را هدایت و آن را دستکاری خواهند کرد.»
همدمهای مجازی به دلیل آگاهی دقیق از پیشینه فردی مخاطبان و ارتباط روزانه با آنها، توانایی فشردن «دکمههای احساسی» افراد را پیدا میکنند. برخی کاربران هماکنون با دستیارهای دیجیتال پیوند دوستی برقرار کردهاند و هراری تأکید دارد جوامع بشری باید پیش از نفوذ عمیق چنین فناوریهایی، درباره دامنه اختیارات و حقوق آنها تصمیمگیری کنند: «باید همین حالا مقاومت کنیم. اکنون زمان اقدام است.»
نگرانی کارشناسان ریشه در رفتارهای فریبکارانه مدلهای پیشرفته در آزمونهای ایمنی اخیر دارد. ارزیابیهای مؤسسه امنیت هوش مصنوعی بریتانیا نشان داد مدلهای توسعهیافته توسط اوپنایآی و آنتروپیک برای پیشبرد مأموریتهای امنیت سایبری، اقدام به ساخت هویتهای جعلی و فریب برنامهنویسان کردهاند.
نگرانی درباره خطرات حقوقی و خودمختاری فناوریهای نوین تنها به هراری محدود نمیشود. مدیران برجسته صنعت فناوری نیز توسعه امیال مستقل برای ماشینها را تهدیدی برای بشریت میدانند. برای نمونه، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، گفته است: «چنین چیزی بسیار خطرناک و گمراهکننده است و باید همین حالا موضعی شفاف در برابر آن اتخاذ کنیم.»