소식

Apr 14, 2024

'오펜하이머'와 의료 분야 AI의 위험성

작성자: Junaid NabiAug. 2023년 2월 2일 모든 위대한 이야기에는 복잡한 결말이 있습니다. 그러나 이것이 간단하고 유익한 수업을 제공할 수 없다는 의미는 아닙니다. 크리스토퍼 놀란의 대작 '오펜하이머'의 하이라이트

작성자: Junaid NabiAug. 2023년 2월 2일

모든 위대한 이야기에는 복잡한 결말이 있습니다. 그러나 이것이 간단하고 유익한 수업을 제공할 수 없다는 의미는 아닙니다. 크리스토퍼 놀란의 대작 '오펜하이머'는 '원자폭탄의 아버지'에 관한 비극적인 이야기를 강조합니다. 그러나 이는 또한 미국이 20세기를 정의할 혁신 개발에서 글로벌 리더가 될 기회를 어떻게 놓쳤는지에 대한 이야기이기도 합니다. 금세기는 혁신적인 기술, 특히 인공 지능으로 정의될 것입니다. J. Robert Oppenheimer의 이야기는 의료계 리더, 기업가 및 정책 입안자에게 특히 중요한 교훈을 제공합니다.

오펜하이머의 시대는 원자력 경쟁으로 정의되었다면, 우리 시대는 인공지능 기술 경쟁으로 정의되고 있습니다. 두 기술 모두 인류의 궤적을 바꿀 강력한 도구입니다. 오펜하이머 시대와 또 다른 당혹스러운 유사점은 혁신을 중심으로 국가 정책을 수립하는 정치 행위자들이 과학의 뉘앙스에 무관심하거나 이를 정치화하고 있다는 점입니다. 이러한 정치적 논쟁으로 인해 의료 혁신의 미래에 대해 건설적인 대화를 나누는 것이 점점 더 어려워졌습니다. 우리는 이미 mRNA 기술에 대한 잘못된 정보와 과학자에 대한 지속적인 괴롭힘을 통해 이런 일이 일어나는 것을 목격하고 있습니다.

광고

한편, 이미 12개 이상의 의료 회사가 OpenAI가 개발한 AI 기반 챗봇인 ChatGPT를 다양한 기능에 사용하고 있습니다. 그러나 우리는 이러한 대규모 언어 모델을 건강 기능에 통합한 결과를 완전히 이해하지 못합니다. 놀랍게도 AI 정책 입안 및 규제에 대해 진행 중인 많은 대화는 기술 산업 리더에 초점을 맞추고 있으며, 건강 및 의학에 AI 적용에 대한 고유한 통찰력을 갖고 있는 의료 업계 리더의 전문 지식을 완전히 활용하지 못했습니다. 이것은 나에게 명목상의 과학자가 트루먼 ​​대통령에게 원자력의 위험성에 대해 설득하려고 시도했지만 그의 우려가 일축되는 영화 “오펜하이머”의 강력한 장면을 생각나게 했습니다.

기술의 급속한 발전과 소비자 데이터 사용에 대한 우려에 대한 언론의 관심도 입법자들의 행동에 압력을 가하고 있습니다. 지난 주 공화당 상원의원 린지 그레이엄(Lindsey Graham)과 민주당 상원의원 엘리자베스 워렌(Elizabeth Warren)은 “의회가 너무 느리고 기술 전문성이 부족하다”는 점을 인정하고 디지털 소비자 보호 위원회법(Digital Consumer Protection Commission Act)을 통해 초당적인 규제 기관 창설의 중요성을 강조했습니다. 제안된 아이디어는 대규모 기술 회사에 더 초점을 맞춘 것으로 보이며 AI 애플리케이션과 의료 분야 노력에 이러한 보호가 필요한 이유에 대한 요점을 놓치고 있습니다. 연구 조사에서는 기계 학습 기반 도구가 어떻게 부적절한 의료로 이어질 수 있는지 계속해서 강조하고 있습니다.

건강과 의학에 관한 일일 뉴스

오펜하이머의 이야기는 또한 투명성, 협력, 진실 추구와 같은 과학의 목표와 항상 유동적인 정치적 목표 사이에 어떻게 단절이 있는지를 보여주었습니다. AI가 의료를 포함한 산업을 어떻게 변화시킬 것인지 대중이 지속적으로 배우고 있기 때문에 이를 이해하는 것이 특히 시급합니다.

광고

그러나 이러한 변화가 환자 치료에 어떤 영향을 미칠지 명확하지 않으면 두려움과 불신의 환경이 조성되어 궁극적으로 혁신을 저해할 수 있습니다. 왜냐하면 건강은 경제보다 훨씬 더 개인적이기 때문입니다. 이러한 기술을 사용하여 디지털 애플리케이션을 구축하는 의료계 리더는 과학 커뮤니케이터로서 중요한 역할을 할 수 있습니다. 예를 들어 환자가 자신의 기술이 제공할 것으로 기대하는 내용에 대한 커뮤니케이션 자료 전용 섹션을 마련할 수 있습니다.

마지막으로, 우리는 의료 불평등의 격차를 줄이는 방향으로 디지털 혁신 노력의 방향을 바꾸고 취약 계층을 더 이상 소외시키지 않는 조치를 취해야 합니다. 오펜하이머의 이야기는 또한 삼위일체 시험 기간 동안 뉴멕시코의 히스패닉계와 아메리카 원주민 공동체에 가해진 고통을 상기시켜 줍니다. 최근 연구에서는 의료 의사 결정의 디지털 알고리즘이 어떻게 불평등을 악화시킬 수 있는지를 이미 보여주고 있습니다. 의료 기술 기업가와 정책 입안자는 디지털 애플리케이션 구축을 위한 대표 데이터 세트 배포를 포함하여 필요한 모든 편견 완화 전략을 구현하여 소외된 환자에게 부정적인 결과가 발생하지 않도록 해야 합니다. 이는 또한 디지털 의료 기업이 신뢰를 구축하는 가장 효과적인 방법 중 하나입니다.