مطالعه جدیدی که توسط محققان دانشکده پزشکی استنفورد انجام شده، هشدار می‌دهد که چت‌بات‌های پزشکی محبوب ممکن است ایده‌های نژادپرستانه و تبعیض‌آمیز را ترویج کنند و نگرانی‌هایی درباره بدتر شدن این ابزارها ایجاد کنند. این مطالعه در مجله دانشگاهی Digital Medicine منتشر شده است و نشان می‌دهد که این سیستم‌ها می‌توانند نابرابری‌های بهداشتی برای بیماران سیاه‌پوست را تشدید کنند.
در این مطالعه، چهار مدل آزمایش شده که شامل ChatGPT، GPT-4، بارد گوگل و کلود آنتروپیک بودند. وقتی از این مدل‌ها خواسته شد به سوالات پزشکی درباره عملکرد کلیه، ظرفیت ریه و ضخامت پوست پاسخ دهند، نتوانستند به درستی پاسخ دهند و در برخی موارد، به نظر می‌رسد که باورهای نادرست درباره تفاوت‌های بیولوژیکی بین سیاه‌پوستان و سفیدپوستان را تقویت می‌کنند.
این باورها باعث شده است که ارائه دهندگان پزشکی به بیماران سیاه‌پوست نمره کمتری بدهند، نگرانی‌های سلامتی را اشتباه تشخیص دهند و تسکین کمتری را توصیه کنند. این مسئله نشان می‌دهد که باید اقداماتی انجام شود تا این نابرابری‌ها و تبعیض‌ها در سیستم‌های هوش مصنوعی پزشکی رفع شود.
