2 min read
W ostatnim czasie wykorzystanie AI/ML (sztucznej inteligencji/uczenia maszynowego) przybrało ogromny technologiczny rozmach w branży urządzeń medycznych i opieki zdrowotnej ze względu na ich zdolność do diagnozowania, zarządzania i leczenia szerokiej gamy schorzeń oraz poprawy opieki nad pacjentem. Wydaje się jednak, że istnieją przeszkody we wdrażaniu AI/ML w codziennych praktykach, w odniesieniu do kwestii przejrzystości związanych z ich oprogramowaniem. W związku z tym kluczowe znaczenie ma uregulowanie tych technologii, a w tym celu organy regulacyjne bez wysiłku starają się regulować wdrażanie AI/ML.
Na tej podstawie FDA opublikowała pięcioczęściowy plan działania dotyczący nadzoru nad bezpiecznymi i zorientowanymi na pacjenta SaMD opartymi na AI/ML. Co zawiera plan działania? Spróbujmy to zrozumieć.
FDA zamierza pobudzić rozwój SaMD i nakreśliła następujący pięcioczęściowy plan działania:
- Opracowanie dostosowanych ram regulacyjnych dla oprogramowania medycznego poprzez wydanie projektu wytycznych dotyczących wstępnie określonego planu kontroli zmian w oprogramowaniu edukacyjnym.
- Dobre praktyki uczenia maszynowego (GMPL) do oceny algorytmów uczenia maszynowego
- Podejście skoncentrowane na pacjencie obejmujące przejrzystość dla użytkowników
- Metody nauki regulacyjnej związane z tendencyjnością i odpornością algorytmów
- Monitorowanie rzeczywistej wydajności (RWP)
FDA stwierdziła, że będzie nadal rozwijać i aktualizować własne proponowane ramy regulacyjne dla SaMD opartego na AI/ML, wydając projekt wytycznych dotyczących wstępnie określonego planu kontroli zmian. Elementy określone w wytycznych będą wspierać bezpieczeństwo i skuteczność algorytmów SaMD, a także będą obejmować udoskonalenie identyfikacji typów modyfikacji, odpowiednich w ramach ram.
Biorąc pod uwagę potrzebę GMPL, FDA planuje skupić się na najlepszych praktykach AI/ML, takich jak zarządzanie danymi, ekstrakcja funkcji, szkolenie, interpretowalność oraz ocena i dokumentacja, które są podobne do dobrych praktyk inżynierii oprogramowania lub praktyk systemu jakości. Agencja planuje również wspierać harmonizację licznych wysiłków na rzecz opracowania GMPL poprzez wykorzystanie już istniejących strumieni roboczych i zaangażowanie innych społeczności skupionych na AI/ML.
Agencja przyznała, że promowanie przejrzystości jest kluczowym aspektem podejścia skoncentrowanego na pacjencie i jest szczególnie ważne w przypadku wyrobów medycznych opartych na AI/ML, które mogą zmieniać się w czasie i mogą zawierać algorytmy wykazujące pewien stopień nieprzejrzystości. Jeśli chodzi o rozwój i wykorzystanie urządzeń opartych na AI/ML, istnieją wyjątkowe względy, które wymagają proaktywnego podejścia skoncentrowanego na pacjencie i uwzględniają kilka kwestii, w tym użyteczność, sprawiedliwość, zaufanie i odpowiedzialność. FDA zajmuje się tymi kwestiami w celu zbudowania zaufania użytkowników do funkcjonalności urządzenia i zapewnienia zrozumienia przez pacjentów korzyści, zagrożeń i wad urządzenia.
FDA informuje, że biorąc pod uwagę nieprzejrzystość funkcjonowania wielu algorytmów AI/ML i ich rozwój przy użyciu danych z historycznych zbiorów danych, są one podatne na stronniczość i skłonne do odzwierciedlania stronniczości obecnych w danych. W związku z tym Agencja wspiera wysiłki badawcze w zakresie nauk regulacyjnych i współpracuje z wiodącymi naukowcami w celu opracowania metod oceny oprogramowania medycznego opartego na sztucznej inteligencji/ML. Metody te obejmują identyfikację i eliminację stronniczości oraz zapewniają solidność i odporność tych algorytmów na zmieniające się dane i warunki kliniczne.
W odniesieniu do RWP, FDA twierdzi, że gromadzenie danych dotyczących rzeczywistego wykorzystania SaMD może pozwolić producentom zidentyfikować możliwości ulepszeń, zrozumieć, w jaki sposób ich produkty są używane i proaktywnie reagować na obawy dotyczące bezpieczeństwa lub użyteczności. W ramach planu działania FDA będzie współpracować z zainteresowanymi stronami na zasadzie dobrowolności i w koordynacji z innymi trwającymi programami FDA koncentrującymi się na wykorzystaniu danych ze świata rzeczywistego, a tym samym wspierać pilotażowe monitorowanie wydajności w świecie rzeczywistym.
Na koniec FDA przyznała, że ponieważ SaMD oparte na AI/ML szybko się rozwija, Agencja przewiduje, że ten plan działania będzie nadal ewoluował i zapewni dodatkową jasność. Dlatego też, aby uzyskać dalsze aktualizacje planu działania FDA w zakresie SaMD opartego na AI/ML, bądź na bieżąco z naszym blogiem. Bądź na bieżąco. Zachowaj zgodność z przepisami.
