정하준 | 기자 2026년 04월 15일
AI 기술 확산에 따른 리스크 관리 체계 구축 필요성이 높아지고 있다
인공지능(AI)이 의료·금융·안보 등 사회 전반으로 빠르게 확산하면서 기술 활용에 상응하는 안전성 감독 체계 마련이 시급하다는 목소리가 높아지고 있습니다. 의료 분야에서는 'AI 오진' 문제가, 군사·안보 영역에서도 오인 식별·오폭 등이 드러나면서 AI 리스크를 체계적으로 관리할 수 있는 거버넌스 구축 필요성이 커지고 있습니다.
의학 학술지 BMJ오픈은 14일(현지시간) 미국·캐나다·영국 연구진이 참여한 하버-UCLA 메디컬 센터의 연구자료에서 AI 챗봇이 제공한 의료 정보의 절반가량은 부정확하거나 부적절한 것으로 나타났다고 밝혔습니다. 평가는 챗GPT, 제미나이, 메타 AI, 그록, 딥시크 등 5개 주요 AI 플랫폼을 대상으로 5개 건강 분야에 걸쳐 각각 10개의 질문을 던져 이루어졌으며, 전체 답변 가운데 약 20%는 '심각한 오류'로 분류되었습니다.
연구진은 AI가 의료 효율성을 높일 잠재력은 크지만, 근거가 불충분한 정보를 단정적으로 제시하거나 맥락을 생략하면 공중 보건에 부정적 영향을 미칠 수 있다고 경고했습니다. 오픈AI에 따르면 매주 2억 명의 사용자가 챗GPT에 건강 관련 질문을 하고 있어, AI 챗봇이 사실상 '비공식 의료 상담 창구'로 활용되고 있는 만큼 잘못된 답변이 실제 사용자 건강에 위협이 될 수 있습니다.
군사·안보 영역에서도 우려가 커지고 있습니다. AI가 결합한 드론 등 인간 개입 없이 목표를 식별·추적하는 준 자율 무기 체계가 실제 전장에서 운용되면서 오인 식별과 민간인 피해 가능성을 높이고 있다는 지적입니다.
하지만 AI 활용에 대한 국제적 규범과 책임 체계는 여전히 미비합니다. 크리스틴 라가르드 유럽중앙은행(ECB) 총재는 블룸버그TV 인터뷰에서 AI 통제 문제를 "중대한 과제"로 규정하며, "AI는 긍정적·부정적 측면 모두에서 매우 파괴적일 수 있다"며 "이를 제대로 감독할 수 있는 거버넌스 체계에 대한 작업이 필요하다"고 강조했습니다.
거버넌스 공백 속에서 기업도 자율적인 대응에 나서고 있습니다. 앤스로픽은 최신 모델 '미토스'를 전면 공개하는 대신 아마존, 애플, JP모건 등 일부 대형 기업에 제한적으로 제공하고 사전 점검을 진행하고 있습니다. 에반 솔로몬 캐나다 인공지능부 장관은 "앤스로픽은 위험을 조기에 식별하고 정부와 보안 커뮤니티와 협력해 기술을 널리 확산하기 전 안전 장치를 마련했다"며 "이것이 최첨단 AI 기업에 기대하는 책임감"이라고 평가했습니다.