한예슬 | 기자 작성일 2026년 03월 31일
대법원 산하 법원행정처가 AI 생성 허위 판례 제출 대응 방안을 마련했다.
생성형 인공지능(AI)이 만들어낸 허위 판례나 위·변조된 증거가 법정에 제출되는 사례가 늘면서, 사법부가 허위 자료를 제출한 당사자에게 소송비용을 부담시키거나 변호사 징계를 의뢰하는 등 대응책 마련에 나섰다.
대법원 산하 법원행정처는 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'가 약 5개월간의 활동을 마무리하고 제도 개선안을 마련했다고 31일 밝혔다.
이번 조치는 생성형 AI의 '환각' 현상으로 실제 존재하지 않는 법령과 판례가 소송당사자와 법률 전문가에 의해 인용되는 사례가 다수 보고된 데 따른 것이다. 법원행정처는 지난해 11월 법관 8인과 변호사 2인으로 TF를 구성해 각급 법원의 의견을 수렴하고 해외의 판결 및 실무동향 등을 조사해 현행법 체계 내 적용 가능한 방안을 제시했다.
허위 자료 제출 시 소송비용 부담·변호사 징계 의뢰
개선안에 따르면 AI가 생성한 허위 법령 등을 인용해 불필요한 소송비용을 발생시키거나 재판을 지연시킨 경우 해당 비용의 전부 또는 일부를 당사자가 부담하도록 할 수 있다. 허위 내용이 포함된 서면에 대해서는 변론에서 진술을 제한하고 판결문에 해당 내용이 허위임을 적시하는 방안도 담겼다.
변호사가 AI 생성 자료를 제대로 검증하지 않고 제출한 경우에는 대한변호사협회에 징계를 의뢰할 수 있도록 했다. 다만 이런 조치의 시행 여부는 개별 재판부의 재량에 따른다.
제도 개선안으로는 AI 활용 사실을 법원과 상대방에게 고지하고 내용의 정확성을 당사자가 스스로 확인하도록 의무화하는 민사소송규칙 개정안을 제안했다. 악의적인 허위 판례 인용에 대해서는 과태료를 부과할 수 있는 근거 법령 마련도 제시됐다.
전산시스템 개편으로 판례 실존 여부 자동 판별 추진
기술적으로는 법원 전산시스템을 개편해 제출 서류에 인용된 판례의 실존 여부와 실제 내용과의 유사도를 자동으로 판별하는 기능 도입이 필요하다고 봤다. 또 AI가 제시한 판결의 실재 여부를 일반 국민이 확인할 수 있도록 판결 공개 범위를 확대해야 한다고 지적했다. 앞서 법원은 지난 2월 20일 사법정보공개포털에 허위 사건번호 확인 기능을 추가한 바 있다.
법원행정처 관계자는 "생성형 AI의 활용 확대는 거스를 수 없는 흐름이고 법원은 이에 따른 변화와 위험에 체계적으로 대비할 필요가 있다"며 "향후 기술 발전 추이와 재판에 미치는 영향, 국민의 인식 변화 등을 면밀히 살펴 추가 방안을 마련하겠다"고 말했다.