آیا آواتارهای چت بات باعث تعصب در مراقبت های بهداشتی می شوند؟

چت بات ها به طور فزاینده ای به بخشی از مراقبت های بهداشتی در سراسر جهان تبدیل می شوند، اما آیا سوگیری را تشویق می کنند؟ این همان چیزی است که محققان دانشکده پزشکی دانشگاه کلرادو در حین بررسی تجربیات بیماران از برنامه‌های هوش مصنوعی (AI) که مکالمه را شبیه‌سازی می‌کنند، می‌پرسند.

محققان در مقاله جدیدی که در نشریه منتشر شده است، می نویسند: «گاهی اوقات نادیده گرفته می شود که چت بات چه شکلی است – آواتار آن. سالنامه طب داخلی. “آواتارهای چت بات فعلی از آرم های سیستم سلامت بدون چهره گرفته تا شخصیت های کارتونی یا کاریکاتورهای شبیه به انسان متفاوت است. چت بات ها روزی می توانند نسخه های دیجیتالی شده پزشک بیمار باشند، با شباهت و صدای آن پزشک. به دور از تصمیم طراحی بی ضرر، آواتارهای چت ربات اخلاقی بدیع را افزایش می دهند. سوالاتی در مورد تحریف و تعصب.”

این مقاله با عنوان “بیشتر از یک چهره زیبا؟ تکان دادن و سوگیری در چت بات ها”، محققان و متخصصان مراقبت های بهداشتی را به چالش می کشد تا چت ربات ها را از طریق یک لنز عدالت سلامت بررسی کنند و بررسی کنند که آیا این فناوری واقعاً نتایج بیماران را بهبود می بخشد یا خیر.

در سال 2021، بنیاد گرین وال به بخش CU از دانشیار پزشکی داخلی، متیو دی کمپ، MD، Ph.D و تیم پژوهشگرانش در دانشکده پزشکی CU کمک مالی کرد تا سوالات اخلاقی پیرامون چت بات ها را بررسی کنند. این تیم تحقیقاتی همچنین شامل آنی مور، پروفسور پزشکی داخلی، MD، MBA، پروفسور جویس و دیک براون در بخش شفقت در تجربه بیمار، دانشجوی پزشکی جدید، مارلی آکرسون، و مدیر تجربه و نوآوری UCHealth، مت آندازولا بود.

مور می‌گوید: «اگر چت‌بات‌ها به اصطلاح «نخستین تماس» بیماران با سیستم مراقبت‌های بهداشتی هستند، ما واقعاً باید درک کنیم که آنها چگونه آن‌ها را تجربه می‌کنند و چه تأثیراتی می‌توانند بر اعتماد و شفقت داشته باشند.

تا کنون، این تیم از بیش از 300 نفر نظرسنجی کرده و با 30 نفر دیگر در مورد تعامل آنها با چت ربات های مرتبط با مراقبت های بهداشتی مصاحبه کرده است. برای آکرسون، که تلاش‌های نظرسنجی را رهبری کرد، این اولین تجربه او با تحقیقات اخلاق زیستی بود.

او می‌گوید: «از اینکه این شانس را داشتم که در مرکز اخلاق زیستی و علوم انسانی کار کنم بسیار هیجان‌زده هستم، و حتی بیشتر از اینکه می‌توانم این کار را در زمانی که دانشجوی پزشکی اینجا در CU هستم ادامه دهم، خوشحالم.

چهره مراقبت های بهداشتی

محققان مشاهده کردند که چت ربات ها به ویژه در اطراف همه گیری COVID-19 رایج شده اند.

دکمپ توضیح می‌دهد: «بسیاری از سیستم‌های بهداشتی، ربات‌های چت را به عنوان بررسی‌کننده علائم ایجاد کردند. “شما می توانید آنلاین شوید و علائمی مانند سرفه و تب را تایپ کنید و به شما می گوید که چه کاری انجام دهید. در نتیجه، ما به اصول اخلاقی در مورد استفاده گسترده تر از این فناوری علاقه مند شدیم.”

DeCamp می گوید اغلب اوقات آواتارهای چت بات به عنوان یک ابزار بازاریابی در نظر گرفته می شوند، اما ظاهر آنها می تواند معنای بسیار عمیق تری داشته باشد.

او می‌گوید: «یکی از چیزهایی که در اوایل متوجه شدیم این سؤال بود که مردم چگونه نژاد یا قومیت چت‌بات را درک می‌کنند و چه تأثیری ممکن است بر تجربه‌شان داشته باشد». اگر تصور می کنید که چت بات هم نژاد شماست، ممکن است بیشتر با چت بات به اشتراک بگذارید.

برای دکمپ و تیم محققین، این پرسش‌های اخلاقی بسیاری را برانگیخت، مانند اینکه چگونه سیستم‌های مراقبت بهداشتی باید چت‌بات‌ها را طراحی کنند و اینکه آیا یک تصمیم طراحی می‌تواند ناخواسته بیماران را دستکاری کند.

به نظر می‌رسد شواهدی وجود دارد که نشان می‌دهد افراد ممکن است اطلاعات بیشتری را با چت‌بات‌ها به اشتراک بگذارند تا با انسان‌ها، و اینجاست که تنش اخلاقی به وجود می‌آید: ما می‌توانیم آواتارها را دستکاری کنیم تا چت‌بات مؤثرتر شود، اما آیا باید این کار را انجام دهیم؟ دکمپ می‌گوید آیا از مرز تأثیرگذاری بیش از حد بر تصمیم‌گیری‌های سلامت فرد عبور می‌کند؟

آواتار چت بات همچنین ممکن است کلیشه های اجتماعی را تقویت کند. برای مثال، چت‌بات‌هایی که ویژگی‌های زنانه دارند، ممکن است تعصبات را در مورد نقش زنان در مراقبت‌های بهداشتی تقویت کنند.

از سوی دیگر، اگر این بیماران بتوانند آواتاری را که با آن تعامل دارند انتخاب کنند، ممکن است یک آواتار اعتماد را در میان برخی از گروه‌های بیمار، به‌ویژه گروه‌هایی که در طول تاریخ تحت مراقبت‌های بهداشتی قرار گرفته‌اند، افزایش دهد.

دکمپ توضیح می دهد: «این بیشتر نشان دهنده احترام است. “و این خوب است زیرا اعتماد بیشتر و تعامل بیشتر ایجاد می کند. آن شخص اکنون احساس می کند که سیستم بهداشت بیشتر به آنها اهمیت می دهد.”

بازاریابی یا اصرار؟

در حالی که شواهد کمی در حال حاضر وجود دارد، فرضیه ای وجود دارد که نژاد یا قومیت درک شده یک چت بات می تواند بر افشای اطلاعات، تجربه و تمایل بیمار برای پیروی از توصیه های مراقبت های بهداشتی تأثیر بگذارد.

محققان CU در این مقاله می نویسند: «این تعجب آور نیست سالانه کاغذ. “دهه‌ها تحقیق نشان می‌دهد که چگونه همخوانی بیمار و پزشک بر اساس جنسیت، نژاد یا قومیت در مراقبت‌های سنتی و حضوری از کیفیت مراقبت‌های بهداشتی، اعتماد و رضایت بیمار پشتیبانی می‌کند. همخوانی بیمار و ربات چت ممکن است بعدی باشد.”

آنها می گویند که این دلیل کافی برای بررسی دقیق آواتارها به عنوان “اشارات” است. نوج‌ها معمولاً به‌عنوان تغییرات کم‌هزینه در طراحی تعریف می‌شوند که بدون محدود کردن انتخاب بر رفتار تأثیر می‌گذارند. همانطور که یک کافه تریا که میوه ها را در نزدیکی ورودی قرار می دهد ممکن است مشتریان را وادار کند تا ابتدا یک گزینه سالم تر را انتخاب کنند، یک چت بات نیز می تواند تأثیر مشابهی داشته باشد.

دکامپ تاکید می کند: “انتخاب بیمار در واقع نمی تواند محدود شود.” و اطلاعات ارائه شده باید دقیق باشد.

به این ترتیب، آواتار می‌تواند تغییراتی در تنظیمات مراقبت‌های بهداشتی ایجاد کند، حتی اگر ضربه‌ها مضر نباشند.

دکمپ و تیم او از جامعه پزشکی می خواهند که از چت بات ها برای ارتقای عدالت سلامت و تشخیص پیامدهایی که ممکن است داشته باشند استفاده کنند تا ابزارهای هوش مصنوعی بتوانند بهترین خدمات را به بیماران ارائه دهند.

محققان می نویسند: «بررسی سوگیری ها در چت بات ها بیشتر از کمک به عملکرد آنها انجام می دهد. “اگر و زمانی که چت ربات ها اولین لمس برای مراقبت های بهداشتی بسیاری از بیماران شود، طراحی عمدی می تواند اعتماد بیشتری را به پزشکان و سیستم های بهداشتی به طور گسترده افزایش دهد.”