미국 보건복지부는 목요일에 인공지능 기반 의료기기의 사용과 유지관리를 개선하는 데 도움이 되는 새로운 예산을 발표했습니다.
연구에 따르면 임상 환경에서 사용되는 머신 러닝 모델은 시간이 지남에 따라 저하될 수 있습니다. HHS의 새로운 자금은 Advanced Research Projects Agency for Health(ARPA-H)에 배정되어 의사에게 AI 도구를 보다 신뢰할 수 있고 환자에게 보다 유익하게 만들기 위한 노력을 혁신하는 데 사용될 것입니다.
해당 이니셔티브는 인공지능의 지속적 수정과 사용성에 대한 성능 및 신뢰성 평가, 즉 PRECISE-AI로 알려져 있습니다.
왜 중요한가
ARPA-H에 따르면, 미국 식품의약국(FDA)은 통합 AI 기능을 갖춘 950개 이상의 의료 기기를 승인했는데, 이는 2018년 대비 10배 증가한 수치입니다.
이러한 새로운 AI 기반 도구가 의사의 치료 능력을 혁신할 수 있지만, 임상 운영, 데이터 수집, 환자 집단 또는 IT 인프라에서 입력 데이터가 변경됨에 따라 시간이 지남에 따라 ML이 저하될 수 있습니다.
“헬스케어를 위한 AI 기반 도구의 약속은 이를 알려주는 관련 실제 데이터만큼만 강력할 수 있습니다.” PRECISE-AI 프로그램 관리자인 Berkman Sahiner가 성명을 통해 밝혔습니다.
현재의 기술은 사용자에게 실제 임상 환경에서 AI 기반 장치 성능을 모니터링하고 유지하도록 요구합니다.
Sahiner는 “실제 운영을 기반으로 AI 기반 의료 기기의 성능을 자동으로 모니터링하고 유지할 수 없으면 임상의와 환자에게 위험이 발생합니다.”라고 덧붙였습니다.
HHS는 PRECISE-AI를 통해 인간의 감독 없이도 성능 저하를 자동으로 식별하고 수정하여 AI 기반 임상 의사 결정 지원을 유지하는 도구의 오픈 소스 저장소를 구축하고자 한다고 밝혔습니다.
근본 원인 분석 도구는 또한 의료 사용자가 모델 불확실성을 더 잘 해석할 수 있도록 저하의 원인에 대한 명확하고 실행 가능한 정보를 전달해야 합니다.
Sahiner는 “기본 AI 모델 성능 저하를 감지하고 완화하기 위한 최적의 접근 방식을 권장함으로써” 임상의가 환자에게 더 나은 치료를 제공할 수 있다고 말했습니다.
기관은 다가올 최종 프로그램 모집은 5가지 기술 분야에 초점을 맞출 것이며, 팀은 이용 가능한 증거나 “실제 상황”을 토대로 환자 진단에 대한 가장 정확한 추정치를 확립하기 위한 도구 개발부터 시작할 것이라고 밝혔습니다.
그런 다음 팀은 이러한 기본 사실과 비교하여 AI 도구의 성능을 모니터링하고, 저하의 근본 원인을 파악하여 필요한 수정을 수행하는 자율적인 방법을 개발합니다.
또한 성능 저하가 발생할 경우 임상의, AI 도구 개발자, 병원 관리자 및 규제 기관에 알리는 메커니즘과 기반 데이터 인프라도 구축할 예정입니다.
공고에 대한 응답 날짜는 현재 2025년 1월 15일입니다.
더 큰 추세
ARPA-H는 미국 국립보건원의 독립 기관으로서, 더욱 강력하고 건강하며 회복력 있는 의료 시스템을 구축하는 방법에 투자하고자 합니다.
이 프로젝트는 농촌 지역에서 급성 치료를 제공하는 첨단 모바일 병원에서부터 중요 인프라에 사용되는 오픈소스 소프트웨어 확보에 이르기까지 확장 가능한 플랫폼과 전략을 구축하는 데 중점을 두고 있습니다.
ARPA-H는 디지털 건강 보안 이니셔티브인 DIGIHEALS의 일환으로 국방 고등 연구 계획국과 협력하여 인공지능 사이버 챌린지를 진행했으며, HHS는 5월에 ARPA-H에 따라 네트워크 및 의료 기기의 랜섬웨어 취약점을 패치하는 데 도움을 주기 위해 5,000만 달러를 지원한다고 발표했습니다.
기록에 따르면
ARPA-H 이사인 레네 웨그진은 모집 발표에서 “PRECISE-AI는 임상적 의사 결정에 사용되는 AI 도구가 실제 환경에서 정확하고 안전하며 견고하도록 보장하는 데 있어 커지는 격차를 해소하고 있습니다.”라고 말했습니다. “그렇게 함으로써 ARPA-H는 임상의와 이러한 AI 도구 간의 신뢰 기반을 구축하고 있으며, 이는 모든 미국인의 건강 결과를 개선하는 데 있어 AI의 잠재력을 더욱 확대할 것입니다.”
안드레아 폭스는 Healthcare IT News의 수석 편집자입니다.
이메일: afox@himss.org
Healthcare IT News는 HIMSS Media에서 발행하는 출판물입니다.
HIMSS AI in Healthcare Forum은 9월 5-6일 보스턴에서 개최될 예정입니다. 자세히 알아보고 등록하세요.
