OpenAI نگرانی هایی را در مورد احتمال وابستگی بیش از حد کاربران به حالت صوتی ChatGPT جدید خود ایجاد کرده است که پاسخ های انسان مانند را در زمان واقعی ارائه می دهد. این ویژگی که هفته گذشته برای کاربران ممتاز راهاندازی شد، جهشی قابل توجه در واقعیتر کردن تعاملات هوش مصنوعی، از جمله توانایی تقلید صداهای مکالمه انسانی مانند خنده و وقفه را نشان میدهد.
گزارش بررسی ایمنی این شرکت، ترس از اینکه واقعگرایی این ویژگی ممکن است منجر به وابستگیهای عاطفی شبیه به آنچه در فیلم «Her» به تصویر کشیده شده باشد را برجسته کرد، جایی که مردی عاشق دستیار هوش مصنوعی خود میشود. این مقایسه با توجه به مواردی از کاربرانی که ارتباطات شخصی خود را با هوش مصنوعی بیان میکنند، مناسبتر شده است.
به گفته OpenAI، حالت صوتی جدید به طور بالقوه می تواند نیاز کاربران به تماس انسانی را کاهش دهد. این سناریو هم فرصتها و هم خطراتی را به همراه دارد، زیرا میتواند برای افراد تنها شرکت کند، اما همچنین ممکن است رفتارها و روابط اجتماعی عادی را مختل کند. توانایی ابزار صوتی در تشخیص احساسات بر تأثیر پیچیده آن می افزاید.
کارشناسانی مانند لیزل شرابی از دانشگاه ایالتی آریزونا در مورد پیامدهای بلندمدت ایجاد روابط عمیق با فناوریهای در حال تکامل هشدار میدهند. گزارش OpenAI، زمینه گستردهتر استقرار سریع هوش مصنوعی در جامعه را بدون درک کامل عواقب مورد بحث قرار میدهد، که منعکسکننده یک روند رایج در پیشرفت فناوری و استفادههای پیشبینی نشده آن است.
برخی از کاربران در حال حاضر آنچه را به عنوان تعامل عاشقانه با رباتهای چت هوش مصنوعی توصیف میکنند، گزارش کردهاند که بحثهایی را در میان متخصصان روابط پیرامون ابعاد اخلاقی چنین تعاملاتی برانگیخته است. OpenAI این پویاییها را تأیید میکند و نشان میدهد که این فناوری میتواند هنجارهای اجتماعی را دوباره تعریف کند، به ویژه در مورد نوبتگیری مکالمه و ارتباطات عاطفی.
با وجود این نگرانیها، OpenAI همچنان به توسعه هوش مصنوعی مسئولانه متعهد است و همچنان به نظارت بر چگونگی تأثیر ابزارهای آن بر رفتار انسان ادامه میدهد. این شرکت بر تعهد خود به ایمنی تأکید میکند و بر اهمیت درک تأثیرات روانی فناوریهایش با ادغام فزایندهای در زندگی روزمره تأکید میکند.
این سناریوی آشکار بر یک چالش اساسی در هوش مصنوعی تاکید می کند: ایجاد تعادل بین نوآوری و نیاز به نظارت اخلاقی. همانطور که ابزارهای هوش مصنوعی بیشتر در حوزه های شخصی و حرفه ای جاسازی می شوند، گفت و گو در مورد تأثیر آنها بر روابط انسانی و هنجارهای اجتماعی به تکامل می رسد که هم توسط پیشرفت های تکنولوژیکی و هم تجربیات کاربر هدایت می شود.