در حالی که ChatGPT به‌عنوان یکی از پیشرفته‌ترین فناوری‌های هوش مصنوعی شناخته می‌شود و توانایی پاسخ‌دهی به بسیاری از سوالات را دارد، با این حال، نباید از آن به‌عنوان جایگزینی برای روان‌درمانی استفاده کرد. بسیاری از افراد به دلیل قابلیت‌های ChatGPT به سراغ آن می‌آیند تا مشکلات روحی خود را حل کنند، اما این امر می‌تواند خطرات جدی برای سلامت روان آنها ایجاد کند.
وارد کردن عمیق‌ترین و تاریک‌ترین افکارتان به فناوری‌های غیرقانونی می‌تواند خطرات عمده‌ای را به همراه داشته باشد.
به نقل از فست کمپانی، یکی از کاربران «تیک‌تاک» اخیرا در یک ویدیو به استفاده از ChatGPT برای حل کردن مشکلات روحی خود اعتراف کرد و پرسید: هیچ کس دیگری از ChatGPT به عنوان یک روان‌درمانگر بدون حقوق استفاده نمی‌کند؟
اگرچه به نظر می‌رسد دوستان این کاربر از اعتراف او شگفت‌زده شده‌اند اما او تنها نیست.
تعداد زیادی از مردم به ChatGPT روی آورده‌اند تا برای پیش بردن روابط دوستانه و عاشقانه یا گرفتن راهنمایی درباره چگونگی داشتن زندگی بهتر کمک بخواهند.
یکی دیگر از کاربران تیک‌تاک نوشت: موقعیت: من در حال ورود به جلسه درمانی هفتگی خود هستم. من زندگی خود را در ChatGPT وارد می‌کنم و از گفتن هیچ جزئیاتی طفره نمی‌روم.
کاربر دیگری از ChatGPT درخواست کرد تا توصیه‌هایی را از سخنرانان الهام‌بخش و مورد علاقه او ارائه دهد.
درمانگران هوش مصنوعی چیز جدیدی نیستند. به عنوان مثال، «Woebot» در سال ۲۰۱۷ به عنوان یک کمک سلامت روان با هدف استفاده از پردازش زبان طبیعی و پاسخ‌های آموخته‌شده برای تقلید گفت‌وگو راه‌اندازی شد.
کارل مارسی، مدیر ارشد بالینی، معتقد است که هرچند هوش مصنوعی در زمینه‌های مختلفی می‌تواند کمک‌کننده باشد، اما مدل‌های زبانی بزرگ همچنان برای ارائه درمان‌های روان‌شناختی به اندازه کافی تست نشده‌اند.
علاوه بر این، استفاده از ChatGPT برای بیان افکار شخصی و خصوصی نیز می‌تواند نگرانی‌های امنیتی ایجاد کند. اطلاعات کاربران ممکن است به‌درستی محافظت نشود، و هیچ تضمینی برای حریم خصوصی آنها وجود ندارد. از همین رو، توصیه می‌شود که برای دریافت کمک‌های روانی از درمانگران مجاز و حرفه‌ای استفاده شود
در آمریکا از هر سه نفر یک نفر در منطقه‌ای زندگی می‌کند که با کمبود کارکنان سلامت روان روبه‌رو است. در عین حال، ۹۰ درصد مردم معتقدند که امروزه در آمریکا بحران سلامت روان وجود دارد. براساس این که درمان چقدر پرهزینه و غیر قابل دسترس است، جذابیت استفاده از ChatGPT بیشتر می‌شود زیرا این چت‌بات می‌تواند پاسخ‌های رایگان و سریع را ارائه دهد.
همچنین، این واقعیت که ChatGPT انسان نیست، برای برخی از افراد جذاب است و به آنها امکان می‌دهد تا عمیق‌ترین و تاریک‌ترین افکار خود را بدون ترس از قضاوت بیان کنند. با وجود این، انتقال عمیق‌ترین و تاریک‌ترین افکار به فناوری‌ها که با نگرانی‌هایی پیرامون حفظ حریم خصوصی و نظارت همراه هستند، خالی از خطر نیست. دلیلی وجود دارد که درمانگران انسان به الزامات محرمانه نگه داشتن اطلاعات یا مسئولیت‌پذیری محدود می‌شوند.
ChatGPT برای درمانگر بودن ساخته نشده است. حتی خود ChatGPT به کاربران هشدار می دهد که گاهی ممکن است اطلاعات نادرستی را ارائه دهد یا دستورالعمل‌های مضر و محتوای مغرضانه تولید کند.