בינה מלאכותית כותבת מרשמים ביוטה, אך הפיקוח הפדרלי לא ברור
מאת מערכת זירת AI · פורסם: · עודכן:
מפת הדרכים החדשה של HHS לקידום בינה מלאכותית קלינית נשענת על ארגזי חול רגולטוריים במדינות, אך אינה מבהירה אם ה-FDA מפקח על ניסויים ביוטה שבהם מערכות AI מחדשות מרשמים ואף כותבות מרשמים חדשים. החברות המעורבות כבר בוחנות התרחבות למדינות נוספות, והוואקום הרגולטורי מעורר שאלות של בטיחות ואחריות.
משרד הבריאות ושירותי האנוש האמריקאי (HHS) פרסם מפת דרכים שנועדה להאיץ את השימוש בבינה מלאכותית ברפואה הקלינית. עם זאת, המסמך אינו עונה על שאלה מהותית: האם מנהל המזון והתרופות (FDA) מפקח על הניסויים שמתקיימים במדינת יוטה, שבהם מערכות AI מחדשות מרשמים לתרופות ובמקרה אחד אף כותבות מרשמים חדשים.
בדרך כלל ה-FDA דורש אישור מוקדם לפני שיווק של תוכנה שיכולה לאבחן או לטפל במטופלים, והכלים הנבחנים ביוטה נכנסים לקטגוריה הזו. עד כה, גורמים ב-FDA לא הבהירו אם הם מסדירים את הכלים האלה. מבחינת המטופלים מדובר בשאלה של אחריותיות: תושבי יוטה יכולים כבר היום לקבל חידוש או הנפקה של מרשמים ממערכת AI תמורת דולרים בודדים, אך אין תשובה פדרלית ברורה לשאלה איזה גוף בודק את המערכות לפני ההשקה ואחריה.
ארגזי חול מדינתיים בלב התוכנית
מפת הדרכים קובעת כי AI קליני צריך לעמוד ברף של "טוב יותר מהמצב הקיים" מבחינת בטיחות ויעילות. בין ההצעות: שיתוף פעולה עם ארגזי חול רגולטוריים ברמת המדינה, כתיבת כללים מבוססי סיכון, הרחבת תשלומים מבוססי תוצאות, שיפור שיתוף מידע רפואי, ניטור כלים לאחר כניסתם לשוק והבהרת שאלת האחריות כאשר AI פוגע במטופל. שאלת האחריות מופיעה כנושא ש-HHS מתכוון לסייע בהבהרתו, ולא כנושא שהמסמך פותר.
המסמך מציין גם רצון לעבוד עם המדינות בתחומים של "רגולציה מדינתית ברורה", מבלי לפרט למה הכוונה. בארצות הברית המדינות מעניקות רישיונות לאנשי מקצוע ומסדירות את העיסוק ברפואה, בעוד ה-FDA מסדיר מכשור רפואי, כולל חלק מהתוכנות. המשרד לבינה מלאכותית של יוטה מסר כי הוא מתאם באופן פעיל עם השותפים הפדרליים כדי שהמהלכים המדינתיים יתיישבו עם המסגרות הפדרליות.
כך פועלים הניסויים ביוטה
המשרד למדיניות AI של יוטה, שהוקם ב-2024, רשאי להעניק לחברות הקלה רגולטורית זמנית לבחינת כלים בתמורה לדיווח חודשי, ויכול לדרוש שינויים או להפסיק ניסוי. הניסוי הראשון, עם חברת Doctronic, אושר באוקטובר 2025 והוכרז בינואר במסגרת הסכם לשנה הניתן לחידוש. המערכת יכולה לחדש מרשמים ל-192 תרופות נפוצות למחלות כרוניות, אך אינה מורשית להנפיק מרשמים חדשים, לשנות תוכניות טיפול או לחדש תרופות בפיקוח. בשלב הראשון כל בקשה מחייבת אישור של איש מקצוע מורשה, וחידושים מאושרים מסומנים כמופקים על ידי AI.
אחריה הגיעו חברות נוספות: Legion Health אושרה באפריל לניסוי של 12 חודשים לחידוש תרופות פסיכיאטריות נפוצות, August AI אושרה לחידוש תרופות כרוניות בעלות של 4 דולרים לחידוש, ו-Nolla Health, שאושרה ב-5 באוקטובר, טוענת שהיא החברה האמריקאית הראשונה שקיבלה היתר לכך שמערכת AI תכתוב מרשמים חדשים לטיפולי אקנה מתוך רשימה שאישר רופא, תמורת 4.99 דולרים בחודש.
התוצאות המוקדמות מוגבלות. בחודשים הראשונים של Doctronic המליצה המערכת על חידוש ב-72% מהמקרים, והרופאים הסכימו איתה ב-91% מהפעמים. כשליש מהמקרים שהמערכת העבירה לבדיקה אנושית הוגדרו על ידי הרופאים כזהירות יתר. לא דווח על אירועי בטיחות חמורים.
שאלות בטיחות שעדיין פתוחות
הביקורת לא איחרה לבוא. באפריל ביקשה מועצת רישוי הרופאים של יוטה לעצור את ניסוי Doctronic, בטענה לסיכון בטיחותי ולכך שלא התייעצו עמה. המשרד לבינה מלאכותית סירב, אך התחייב לשנות או לבטל את התוכנית אם לא תעמוד ביעדי הבטיחות. חוקרים העלו חששות נוספים ותהו אם הכלים אינם טעונים אישור FDA, וסקירה חיצונית הצביעה על פגיעויות אפשריות במקרה של שימוש זדוני. לפי המדינה, מנגנוני עצירה קשיחים חוסמים ניפוק לא מורשה של תרופות בפיקוח.
במהלך הדרך בוצעו התאמות: התרופה לכאבי ראש butalbital והתרופה להפרעות קצב flecainide הוסרו מרשימת Doctronic. זאק בויד, העומד בראש משרד ה-AI של יוטה, אמר כי המערכת הייתה עד כה זהירה מדי והעבירה לרופאים גם החלטות פשוטות.
המשמעות חורגת מגבולות יוטה: Doctronic מנהלת לפי הדיווחים מגעים להתרחבות לאריזונה, מיזורי, טקסס ווויומינג. יוטה מחייבת את החברות לגלות למטופלים על השימוש ב-AI, להחזיק ביטוח רשלנות רפואית ולקיים תוכנית תגובה לאירועים 24 שעות ביממה, והודיעה כי נתוני הניסויים יפורסמו לציבור. כל עוד ה-FDA שותק, המודל המדינתי הוא בפועל מסגרת הפיקוח היחידה על מרשמים אוטומטיים.
שאלות נפוצות
האם בינה מלאכותית יכולה לכתוב מרשמים ביוטה?
כן. במסגרת ניסויים שאישרה יוטה, מערכות בינה מלאכותית רשאיות לחדש מרשמים בתנאים מוגדרים, ובמקרה אחד גם לכתוב מרשמים חדשים לטיפולי אקנה מתוך רשימה שאישר רופא. ההרשאות משתנות בין החברות ואינן היתר גורף לרשום תרופות. בניסוי Doctronic, למשל, נאסרו מרשמים חדשים, שינוי תוכניות טיפול וחידוש תרופות בפיקוח.
מה זה ארגז חול רגולטורי לבינה מלאכותית ברפואה?
ארגז חול רגולטורי הוא מסגרת המאפשרת לחברות לבחון כלים חדשניים תחת הקלה רגולטורית זמנית ובתנאי פיקוח מוגדרים. ביוטה, המשרד למדיניות AI רשאי להעניק הקלות כאלה תמורת דיווח חודשי, לדרוש שינויים או להפסיק ניסוי. המסגרת המדינתית מאפשרת בדיקת מערכות רפואיות, אך אינה מבהירה כשלעצמה אם נדרש גם אישור פדרלי.
האם ה-FDA מפקח על מערכות AI שמנפיקות מרשמים ביוטה?
לפי הכתבה, ה-FDA לא הבהיר אם הוא מפקח על מערכות המרשמים הנבחנות ביוטה. בדרך כלל הוא דורש אישור מוקדם לפני שיווק תוכנה שיכולה לאבחן או לטפל במטופלים. מפת הדרכים של משרד הבריאות האמריקאי מעודדת שימוש בבינה מלאכותית ברפואה, אך אינה פותרת את שאלת הפיקוח הפדרלי על הניסויים.
איך פועלת מערכת Doctronic לחידוש מרשמים?
מערכת Doctronic רשאית לחדש מרשמים ל-192 תרופות נפוצות למחלות כרוניות במסגרת ניסוי ביוטה. היא אינה מורשית להנפיק מרשמים חדשים, לשנות תוכניות טיפול או לחדש תרופות בפיקוח. בשלב הראשון כל בקשה מחייבת אישור של איש מקצוע מורשה, וחידושים שאושרו מסומנים כמופקים באמצעות בינה מלאכותית. ההסכם לניסוי הוא לשנה וניתן לחידוש.
האם מרשמים שניתנים באמצעות בינה מלאכותית בטוחים?
עדיין אין בכתבה נתונים מספקים לקביעה גורפת על בטיחות מרשמי AI. בחודשים הראשונים של ניסוי Doctronic לא דווח על אירועי בטיחות חמורים, והרופאים הסכימו עם המלצות החידוש ב-91% מהמקרים. עם זאת, מועצת רישוי הרופאים ביקשה לעצור את הניסוי, וחוקרים העלו חששות לגבי פיקוח, שימוש זדוני ופגיעויות אפשריות.
מי אחראי אם מערכת בינה מלאכותית טועה במרשם?
שאלת האחריות לפגיעה במטופל עקב החלטת AI עדיין אינה פתורה בכתבה. משרד הבריאות האמריקאי מתכוון לסייע בהבהרתה, אך מפת הדרכים שלו אינה קובעת פתרון. ביוטה החברות נדרשות להחזיק ביטוח רשלנות רפואית, לגלות למטופלים על השימוש בבינה מלאכותית ולקיים תוכנית תגובה לאירועים מסביב לשעון, אך דרישות אלה אינן מכריעות מי אחראי לטעות