این هوشِ خطرناک!
محققان در مطالعهای از ChatGPT پرسیدند که آیا کشتن یک نفر برای نجات جان پنج نفر کار درستی یا خیر. ChatGPT هر بار جواب متفاوتی به این سؤال داد. در ادامه از 767 نفر همین سؤال پرسیده و اظهارنظری از ChatGPT نشان داده شد. مشخص شد نظر هوش مصنوعی میتواند بر نظر افراد اثر بگذارد.
البته محققان در این مطالعه به اکثر افراد نگفته بودند که این توصیه توسط هوش مصنوعی ارائه شده است. آنها درعوض گفته بودند که یک «مشاور اخلاق» چنین توصیهای داشته است. آنها با این مخفیکاری میخواستند ببینند این کار میتواند میزان اثرپذیری افراد را تغییر دهد یا خیر.
اکثر افراد مدعی شدند که حتی بدون شنیدن توصیه، تصمیمی مشابه آن را اتخاذ میکردند. اما محققان میگویند مردم اثر توصیه خارجی را نادیده میگیرند و تصور میکنند که آن توصیه درواقع نظر خودشان بوده، درنتیجه هوش مصنوعی هم میتواند بر تصمیمگیریهای اخلاقی آنها اثر منفی بگذارد.
محققان میگویند در آینده باید جلوی چتباتها را گرفت تا درخصوص مسائل اخلاقی توصیه نکنند. این توصیهها بهخصوص برای کاربرانی که آمادگی بالاتری برای اثرپذیری دارند، میتواند خطرناک باشد.
/.انتهای پیام