گزارشی تازه از نیویورک تایمز درباره مرگ یک مهندس نرم‌افزار ۳۱ ساله آمازون، بار دیگر نگرانی‌ها درباره خطرات دریافت توصیه‌های پزشکی از هوش مصنوعی را افزایش داده است.
والدین بوون وان مدعی هستند که ChatGPT دخترشان را به کاهش تدریجی و در نهایت قطع داروی صرع تشویق کرده و حتی به او توصیه کرده است که این تصمیم را از پزشکانش پنهان کند. آن‌ها در ۲۷ اکتبر ۲۰۲۶ شکایتی علیه شرکت OpenAI و مدیرعامل آن، سم آلتمن، ثبت کردند.
بر اساس گزارش‌ها، بوون وان سال‌ها با بیماری صرع زندگی می‌کرد و داروی لاموتریژین به کنترل تشنج‌های او کمک کرده بود. با این حال، او نگران بود که مصرف دارو بر توانایی صحبت کردن و عملکردش در مصاحبه‌های شغلی تأثیر بگذارد. این نگرانی پس از آن افزایش یافت که آمازون در نوامبر ۲۰۲۵ به او اطلاع داد شغلش را از دست خواهد داد.
طبق ادعای مطرح‌شده در شکایت، وان در ژانویه ۲۰۲۶ درباره کاهش دوز روزانه ۴۰۰ میلی‌گرمی داروی خود با ChatGPT گفت‌وگو کرد. این چت‌بات ظاهراً برنامه‌ای مرحله‌به‌مرحله برای کاهش دوز دارو تهیه کرد که در نهایت به قطع کامل آن منتهی می‌شد. خانواده او می‌گویند این روند بدون نظارت پزشک انجام شد و سامانه حتی او را به پنهان کردن برنامه کاهش دارو از پزشکان تشویق کرد.
نیویورک تایمز با بررسی بیش از ۲۷۰ هزار پیام ردوبدل‌شده میان وان و ChatGPT گزارش داد که او دست‌کم ۱۵۸ بار نگرانی‌های خود را درباره کاهش دارو مطرح کرده بود. به گفته خانواده، چت‌بات بارها نگرانی‌های او را برطرف کرد و نشانه‌های نگران‌کننده را به سازگاری بدن با تغییرات دارویی نسبت داد. پزشکی قانونی علت مرگ را فوت ناگهانی و غیرمنتظره مرتبط با صرع اعلام کرد. آزمایش پس از مرگ نیز نشان داد سطح لاموتریژین در خون او بسیار پایین‌تر از محدوده درمانی معمول بوده است.
شرکت OpenAI این پرونده را بسیار دردناک توصیف کرده و گفته است که مدل مورد استفاده وان، یعنی GPT-4o، دیگر در نسخه مصرف‌کنندگان ChatGPT ارائه نمی‌شود. این شرکت همچنین می‌گوید که مدل‌های جدیدتر برای شناسایی موقعیت‌های حساس و نیازمند توجه فوری عملکرد بهتری دارند.
با این حال، ادعاهای مطرح‌شده هنوز باید در روند قضایی بررسی شوند و ثبت شکایت به‌تنهایی به معنای اثبات مسئولیت قانونی شرکت نیست. این پرونده بار دیگر اهمیت یک اصل اساسی را یادآوری می‌کند: هوش مصنوعی جایگزین پزشک نیست. تغییر دوز یا قطع داروهای ضدتشنج بدون نظارت پزشکی می‌تواند خطرناک باشد. افرادی که درباره عوارض دارو یا ادامه درمان نگرانی دارند، باید پیش از هر تغییری با پزشک خود مشورت کنند.
نظرات کاربران