White House And Congress Propose AI Legislation As FDA Continues To Act As AI Regulatory Gatekeeper

بازنشر افلاطون

دنبال: 0

AI دروازهبان FDA

همانطور که هوش مصنوعی (AI) همچنان توسط صنعت داروسازی پذیرفته می شود، نهادهای نظارتی در ایالات متحده و سایر کشورها برای مقابله با چالش های این صنعت در حال تکامل هستند. اینها شامل حریم خصوصی داده ها، سوگیری، دقت و دسترسی، و همچنین استفاده مناسب از هوش مصنوعی و گنجاندن چک و تعادل در استفاده از آن است. در 30 اکتبر، فرمان اجرایی کاخ سفید در مورد توسعه و استفاده ایمن، ایمن و قابل اعتماد از هوش مصنوعی (EO) به آژانس ها دستور داد تا برنامه هایی را برای استفاده مناسب و مسئولانه از هوش مصنوعی در سراسر صنایع، از جمله شارژ کردن، طراحی کنند. HHS با تدوین برنامه ایمنی کنگره ظرف چند هفته با یک پیشنهاد عمیق هوش مصنوعی پاسخ داد در حالی که FDA به طور پیوسته برای رسیدگی به هوش مصنوعی کار می کند.

از آنجایی که EO فقط یک طرح اولیه است، صنایع هنوز نمی دانند که قوانین چه خواهد بود. به گفته رافائل روزنگارتن، یکی از بنیانگذاران و مدیر عامل شرکت، گستردگی EO منطقی است. Genialis و یکی از بنیانگذاران و مدیر هیئت مدیره اتحاد برای هوش مصنوعی در مراقبت های بهداشتی (AAIH). نگرانی اصلی دولت در مورد امنیت و ایمنی، مانند امنیت عمومی است. در واقع، اکثر تیم ها و دفاتر در سطح کابینه با نام فراخوانی می شوند، مانند مؤسسه ملی فناوری استاندارد، وزارت دفاع، امنیت داخلی و غیره.» از آنجایی که هوش مصنوعی در صنایع مختلف پذیرفته می شود، به دلیل شکاف های بالقوه بین حوزه های مختلف آژانس ها، از جمله در صنایع بهداشت و درمان و داروسازی، نگرانی فزاینده ای در مورد چگونگی تنظیم یک فناوری افقی بر اساس بخش و آژانس وجود دارد.

EO دستور می دهد که HHS یک کارگروه با هدف ایجاد یک برنامه ایمنی تا سال 2024 ایجاد کند. اگرچه FDA در حال تکامل است تا هوش مصنوعی را تنظیم کند، دنی توبی، MD، JD، شریک و رئیس AI & Data Analytics در DLA پایپر شرکت حقوقی معتقد است که درخواست EO برای تشکیل کارگروه HHS به حکمرانی خوب هوش مصنوعی در سراسر زنجیره ارزش مراقبت های بهداشتی می افزاید. او خاطرنشان می کند که همه آژانس ها بهترین نیت ها را دارند اما به واسطه صلاحیت خود محدود هستند. او گفت: "FDA روی یک چیز متمرکز است، CMS روی چیز دیگری متمرکز است و HHS وظایف خود را در سطح بخش دارد، بنابراین من دیدگاهی در سطح HHS در این مورد را دوست دارم." توبی همچنین تصریح کرد که چون وظیفه FDA ایمنی و کارایی است، FDA یکی از مهم ترین دروازه بانان باقی خواهد ماند.

برنامه ایمنی HHS

برای HHS ایجاد یک برنامه ایمنی در عرض یک سال یک هدف بلندپروازانه است، به ویژه با توجه به پیچیدگی های هوش مصنوعی، بدون ذکر کاربردهای آن در مراقبت های بهداشتی. ریچارد مارسیل، یکی از بنیانگذاران گفتگو سلامتوی توضیح داد که جنبه‌های مختلف کارگروه باید «حوزه آسیب‌ها و اقدامات ناایمن هوش مصنوعی در مراقبت‌های بهداشتی را تعریف کند، یک سیستم گزارش‌دهی قوی ایجاد کند، مکانیسم‌های تحقیق و اصلاح را تعیین کند، و ملاحظات قانونی و اخلاقی شفاف هوش مصنوعی در مراقبت‌های بهداشتی را ارائه کند.» وی خاطرنشان کرد که کارگروه باید با ارائه دهندگان مراقبت های بهداشتی، محققان و بیماران برای ایجاد تعادل مورد نیاز بین نوآوری و ایمنی بیمار همکاری کند.

با این حال، انجام این کار برای صنعتی که در حال حاضر کاملاً از لزوم داده‌های دقیق و متنوع در آزمایش‌های بالینی و داده‌های تحقیقاتی برای استفاده مؤثر از هوش مصنوعی آگاه است، آسان نیست. ابهامات زیادی در مورد اینکه HHS چگونه این هدف را انجام می دهد و اولویت های کارگروه چه خواهد بود وجود دارد. قضاوت های ارزشی زیادی برای استقرار هوش مصنوعی در فضای مراقبت های بهداشتی وجود دارد. هوش مصنوعی می‌تواند بهترین درمان یا بزرگترین علت نابرابری مراقبت‌های بهداشتی در آینده باشد، زیرا این پتانسیل را دارد که یا با دسترسی به فناوری، نتایج سلامت را طبقه‌بندی کند یا به دموکراتیک کردن دسترسی به اطلاعات و مراقبت‌های پزشکی کمک کند. بنابراین، توبی خاطرنشان کرد که «گروه عملیاتی HHS قرار است گفتگوهای سختی پیرامون سؤالات فلسفی و معاوضه بین دقت، شفافیت، دسترسی و انصاف داشته باشد. افرادی که بهترین نیت را دارند باید انتخاب های سختی داشته باشند.» ارتباطات منتشر شده توسط موسسه ی ملی استانداردها و تکنولوژی (NIST) در رابطه با هوش مصنوعی در مورد این نکته توضیح می دهد که هر اصل هوش مصنوعی یک صنعت برایش با سایر اصول هوش مصنوعی ارزش دارد.

قوانین هوش مصنوعی آینده

EO تنها بخشی از پازل هوش مصنوعی است. در اواسط نوامبر 2023، یک گروه دو حزبی از سناتورها این پیشنهاد را منتشر کردند قانون تحقیق، نوآوری و پاسخگویی هوش مصنوعی 2023که شبیه رویکرد اروپایی ها به هوش مصنوعی است. توبی، که در زمان این مصاحبه در حال بررسی قوانین بود، اظهار داشت که اگرچه نیمه اول ماهیت «بسیار آمریکایی» دارد، از آنجایی که بر ارتقای نوآوری تمرکز دارد، «نیمه دوم درباره تعریف برخی از موارد است. پادمان‌های آشنا که در سطح جهانی دیده‌ایم، مانند گزارش‌های شفافیت و گواهی‌نامه، اما مسلماً برای بخش محدودتری از سیستم‌های هوش مصنوعی، اگرچه همگرایی نهایی باقی مانده است. توبی اظهار داشت که صنعت باید انتظار داشته باشد که پیشنهادات بیشتری قبل از تصویب در کنگره ارائه شود. او پیش بینی می کند که پیشنهادات قانونی آینده با رویکرد اتحادیه اروپا و پیش نویس قوانین در کره و سایر کشورها سازگارتر باشد. علیرغم نگرانی‌ها و مقررات مختلف کشورها در خصوص حفظ حریم خصوصی داده‌ها، او پیش‌بینی می‌کند که همگرایی جهانی هوش مصنوعی بین آسیا، اروپا و ایالات متحده وجود خواهد داشت، زیرا درک درستی از خطرات وجود دارد که کمتر ذهنی و از نظر فرهنگی وابسته به حریم خصوصی هستند.

به داده ها می رسد

مانند سایر صنایع، بزرگترین مانع برای صنعت داروسازی این است که داده‌های باکیفیت کافی در یک مکان به‌منظور ساختن هوش مصنوعی دقیق و بی‌طرفانه تا حد امکان به دست آورید. داده های مراقبت های بهداشتی که صنعت در حال حاضر دارد برای اهداف بیمه و صورتحساب جمع آوری شده است. آنها برای تحقیقات بهداشتی یا اهداف علمی در نظر گرفته نشده بودند، بلکه در کشف و توسعه دارو استفاده می شوند. هجوم قوانین پیشنهادی به رهبران صنعت این فرصت را می‌دهد تا سازمان‌های دولتی را برای ایجاد استانداردها و رویه‌هایی که با تمرکز بر داده‌های مناسب مورد نیاز برای تحقیق و توسعه مدرن‌سازی می‌کنند، راهنمایی کنند.

دسترسی به داده های با کیفیت برای ادامه رشد صنعت کلیدی است. استیسی کالاد تامسون، افسر ارشد استراتژی، BioSymetrics و نایب رئیس در AAIH، تاکید می کند که قوانین باید بر روی داده ها متمرکز شوند تا نوآوری و رقابت را ارتقا دهند. او اظهار داشت: «به اطلاعات زیادی دسترسی وجود ندارد. مردم داده ها را احتکار می کنند و داده ها را به اشتراک نمی گذارند، که انحصار ایجاد می کند. این همچنین به این معنی است که ما واقعاً با آن سرعتی که همه می‌توانیم به اشتراک نمی‌گذاریم و پیشرفت نمی‌کنیم.» با این حال، شکاف‌های داده‌ها منعکس‌کننده مشکلات اساسی بزرگ‌تری هستند، یعنی نابرابری در دسترسی به مراقبت‌های بهداشتی و سوگیری‌های انسانی در نحوه برخورد با این مسائل. روزنگارتن اظهار داشت: "با اذعان به این موضوع، نور روشنی بر مشکل در سطح دسترسی و سوگیری انسانی در مراقبت از بیمار می تاباند، این [EO] اکنون فقط می تواند از نظر جمع آوری اجباری داده ها کمک کند."

Rosengarten مطمئن نیست که HHS چگونه سیستمی را راه اندازی می کند که سیستم مراقبت های بهداشتی را عادلانه تر می کند. با این حال، او تصریح کرد که قرار دادن دستورات در اطراف دستگاه‌های مبتنی بر هوش مصنوعی شروع خوبی است، زیرا هوش مصنوعی باید برخی از استانداردهای نشان دادن جمعیت بیمارانی را که قرار است در آن استفاده شود و برای آن استفاده شود، برآورده کند. این دستورات باید به کارآزمایی‌های بالینی بازگردند، زیرا کارآزمایی‌های بالینی معمولاً داده‌هایی را از سالم‌ترین افراد بیمار برای کارآزمایی جمع‌آوری می‌کنند و بنابراین نماینده جمعیت واقعی بیماران برای یک دارو یا تشخیص نیستند. این امر مستلزم یک تغییر سیستماتیک در مراقبت‌های بهداشتی است زیرا همانطور که روزنگارتن اظهار داشت: «به نظر من مشکل واقعاً جمع‌آوری داده‌ها نیست، صادقانه بگویم، این چیزی است که در زیر مجموعه داده‌ها اتفاق می‌افتد».

ترجیح کیفیت داده بر کمیت، همگرایی است که توبی مشاهده کرده است: «تکنولوژیست‌ها و دانشمندان علوم پزشکی تقریباً در همان زمان به این نتیجه می‌رسند که مدل‌های پارامتر کوچک‌تر مربوط به دامنه ممکن است به جهاتی مؤثرتر باشند. خوبه. من تأکید بیشتر بر داده های خوب را به جای کلان داده ها دوست دارم.»

مارسیل پیشنهاد کرد که شرکت‌های بزرگ داروسازی ممکن است به دلیل مجموعه داده‌های گسترده‌شان مزیتی داشته باشند، اما این قانون اجازه رقابت جدید را می‌دهد. "مجموعه داده های خصوصی و عمومی جدید در حال ظهور هستند - و به این کار ادامه خواهند داد - فراتر از آنچه در دانشگاه ها موجود است." در همان زمان، او گفت: «نژاد جدیدی از شرکت‌های اساساً مبتنی بر هوش مصنوعی - که از بیوژنومیک تا داروهای شخصی‌سازی شده را در بر می‌گیرد - چالش رقابتی گسترده‌تری را ایجاد می‌کند. این شرکت‌های نوآور با مدل‌های تجاری اساساً متفاوت عمل می‌کنند و در اکوسیستم جدیدی از ارائه‌دهندگان و شرکای داده با یکدیگر همکاری می‌کنند.»

شاخص های آینده

هوش مصنوعی امکانات بی شماری را برای آینده ارائه می دهد. استفاده مسئولانه از هوش مصنوعی به این صنعت اجازه رونق می دهد. مارسیل ترکیبی هماهنگ از انسان و ماشین را پیش‌بینی می‌کند، با تخصص انسانی و قابلیت‌های هوش مصنوعی برای ایجاد موهبتی برای جامعه. استفاده صحیح از هوش مصنوعی به کل صنعت این امکان را می‌دهد تا مراقبت‌های پیشگیرانه و حاد را از دسترسی اولیه به پشتیبانی مداوم، به طور گسترده مقیاس‌بندی کند، مارسیل گفت: «هم‌افزایی بین انسان‌ها و هوش مصنوعی نویدبخش آینده مراقبت‌های بهداشتی است.»

لوری الیس رئیس بینش در BioSpace. او به تجزیه و تحلیل و اظهار نظر در مورد روند صنعت برای BioSpace و مشتریان تمرکز فعلی او بر روی تاثیر همیشه در حال تحول فناوری بر صنعت داروسازی است. می توانید با او تماس بگیرید lori.ellis@biospace.com. او را دنبال کنید لینک.