미국 FDA가 인공지능(AI) 기반 디지털 치료제(디지털 치료기기)에 대한 규제 실행 계획을 최근 발표해 관련업계가 주목하고 있다.

기계학습 알고리즘의 투명공개와 인공지능 학습 및 소프트웨어 업데이트에 따라 변경될 수 있는 제품에 대한 사전 계획이 주요 내용이다.

FDA는 이번 규제 계획으로 알고리즘 투명 공개를 통한 환자 접근성 확대와 환자 사용 사례 수에 따라 기능이 개선·변경될 수 있는 인공지능 기반 기기 특성을 반영한 규제 프레임 워크를 구축한다는 설명이다.

앞서 FDA는 작년 2월 인공지능 응용분야 논의를 위한 워크숍을 진행한 바 있다. 이후 FDA는 워크숍 및 관련 제품에 대한 피드백을 통해 5개 실행계획을 마련했고, 이를 통해 올해 안에는 새로운 규제 내용을 확정·공개한다는 계획이다.

■ 변경관리 사전 계획

주요 내용은 인공지능·기계학습 특성에 따른 변경관리에 대한 사전 계획 수립이다. 

이 부분에서 제조업체는 제품에 대한 사전 사양(SPS)와 기계학습을 통해 변경하고자하는 부분을 설명하고 알고리즘 변경 프로토콜(ACP)의 안전성 및 유용성을 유지할 수 있다는 점을 설명해야 한다.

■ 투명성 증진

FDA는 투명성을 증진하는 것이 환자 중심 접근 방식의 핵심이라는 설명이다.

제품 사양과 기계학습 알고리즘을 공개하는 투명성은 시간이 지남에 따라 변경되는 인공지능 기반 장치의 불투명성을 보완할 수 있다는 의미다.

또한 제조업체는 알고리즘 교육에 사용된 데이터를 명확하게 설명하고, 자료 입력의 연관성, 사용하는 로직, 향후 출력될 정보가 제공할 역할 등을 명확히 해 제품 성능에 대한 신뢰도를 확보해야 한다고 설명했다.

환자 사용에 따라 제품의 성능이 변할 수 있는 특성 반영을 위해 FDA는 이들 제품을 평가 및 문제해결을 위한 알고리즘 바이어스 규제 개선이 필요하다고 밝혔다.

바이어스(Bias)는 전자공학에서 전압이나 전류의 동작점을 미리 결정하는 행위로 알고리즘 바이어스는 학습 행위에 대한 목적과 수행방법을 조성하는 것을 의미한다.

특히 현재 기계학습은 과거 데이터를 활용하는 만큼 입력된 데이터들이 얼마만큼의 객관성을 갖고 있느냐가 화두인데, 인공지능이 인종, 민족성 및 사회·경제적 요인들이 반영된 자료들 학습할 경우 편향된 데이터를 미러링할 가능성이 충분하기 때문이다.

이에 FDA는 다양한 환자 집단에 대한 식별과 식별을 위한 개선된 방법 개발을 통해 기계학습 알고리즘을 개선해야 한다고 설명했다.