هشدار؛ نیمه تاریک هوش مصنوعی در سیستم های بهداشتی و درمانی در حال قدرت گرفتن است!

به گزارش علی آباد جدید، این روزها حضور فناوری در حوزه هایی مثل پزشکی بسیار رایج است. اما پژوهشگران نگران هستند که هوش مصنوعی با حضور در حوزه پزشکی مخاطراتی جدی را برای سلامت انسان ها ایجاد کند و این درست برخلاف آن چیزی است که برای رسالت هوش مصنوعی در حوزه پزشکی در نظر گرفته شده است.

هشدار؛ نیمه تاریک هوش مصنوعی در سیستم های بهداشتی و درمانی در حال قدرت گرفتن است!

به گزارش سرویس آی تی و فناوری انتخاب، دانشمندان نگران هستند که با کمی تغییرات در داده ها، می توان شبکه های پزشکی هوشمند را به سیستم هایی برای ارتکاب حملات به سلامتی انسان ها تبدیل کرد. طی سال گذشته، اداره مواد غذایی و دارویی ایالات متحده دستگاهی را تایید کرد که می تواند تصویری از شبکیه چشم شما گرفته و به طور اتوماتیک علائم کوری دیابتی را تشخیص دهد.

این نسل تازه تکنولوژی هوش مصنوعی به سرعت در حال توسعه در زمینه پزشکی است، زیرا دانشمندان سیستم هایی را ایجاد می نمایند که می توانند نشانه هایی از بیماری را در انواع مختلفی از تصاویر از اشعه X از ریه ها تا اسکن مغز را تشخیص دهد. این سیستم ها وعده داده اند که به پزشکان یاری می نمایند تا بیماران را موثرتر و مقرون به صرفه تر از قبل آنالیز نمایند.

اشکال مشابه هوش مصنوعی نیز در بیمارستان ها به عنوان سیستم های کامپیوتری که تنظیم نماینده های مراقبت های بهداشتی، صدور صورت حساب و ارائه دهنده بیمه هستند، استفاده می گردد، در حالت ایده آل، چنین سیستمی باعث بهبود کارایی سیستم های مراقبت بهداشتی خواهد شد. اما این سیستم ها همزمان می توانند عواقبی ناخواست داشته باشند. این موضوعی است که از سوی پژوهشگران دانشگاه هاروارد و ام آی تی مطرح می گردد.

در مقاله ای که روز پنجشنبه در مجله ساینس منتشر شد، پژوهشگران به منظره خدمات متضاد هوش مصنوعی پرداختند. بر اساس این پژوهش ها این سیستم ها با استفاده از قطعات کوچک داده های دیجیتال می توانند خطراتی جدی ایجاد نمایند. برای مثال، با تغییر چند پیکسل روی یک اسکن ریه، هوش مصنوعی می تواند یک بیماری را تشخیص دهد که درواقع وجود خارجی ندارد.

توسعه دهندگان و تنظیم نماینده های نرم افزارهای مرتبط با پزشکی باید چنین سناریوهایی را در نظر بگیرند که هوش مصنوعی ممکن است بیماری را به اشتباه تشخیص دهد. ساموئل فینلایسون، پژوهشگر دانشکده پزشکی هاروارد و ام آی تی و یکی از نویسندگان این مقاله، هشدار داد که به علت اینکه سرمایه زیادی در صنعت مراقبت های بهداشتی تغییر می نماید، ذینفعان در حال حاضر بدون در نظر گرفتن ریسک ها، در تلاشند هوش مصنوعی را در مراکز مراقبت بهداشتی پیاده نمایند.

یکی از موضوعات مهم در خصوص کاربرد هوش مصنوعی در مراقبت های بهداشتی این است که با تجزیه و تحلیل هزاران اسکن چشم، شبکه عصبی می تواند یاد بگیرد که علائم کوری دیابتی را تشخیص دهد. این یادگیری ماشینی روی چنین مقیاس عظیمی اتفاق می افتد: رفتار انسانی به وسیله جداول بی شماری از داده ها تعریف می گردد که می تواند رفتار غیرمنتظره را پیش بینی کند.

یک نگرانی دیگر به مسئله شرکت های بیمه مرتبط است. درواقع اگر یک شرکت بیمه با استفاده از هوش مصنوعی برای ارزیابی اسکن های پزشکی اقدام کند، می تواند اسکن ها را برای افزایش پرداخت ها دستکاری کند.

محققان در پژوهش های خود نشان دادند که با تغییر تعداد کمی از پیکسل ها در یک تصویر از یک ضایعه خوش خیم پوست، یک سیستم تشخیصی A.I می تواند به شناسایی ضایعه به عنوان بدخیم فریب. به سادگی چرخش تصویر بعلاوه می تواند یک اثر مشابه داشته باشد، آنها یافتند.

تغییرات کوچک به توصیف نوشته شده در خصوص شرایط بیمار می تواند بسیار ظریف اما خطرناک باشد برای مثال سنجش اشتباه مقادیر الکل در خون می تواند منجر به تشخیص وابستگی شدید به الکل یا اعتیاد الکلی گردد.

منبع: انتخاب
انتشار: 27 آذر 1401 بروزرسانی: 27 آذر 1401 گردآورنده: aliabad-new.ir شناسه مطلب: 2274

به "هشدار؛ نیمه تاریک هوش مصنوعی در سیستم های بهداشتی و درمانی در حال قدرت گرفتن است!" امتیاز دهید

امتیاز دهید:

دیدگاه های مرتبط با "هشدار؛ نیمه تاریک هوش مصنوعی در سیستم های بهداشتی و درمانی در حال قدرت گرفتن است!"

* نظرتان را در مورد این مقاله با ما درمیان بگذارید