예전에 AI를 법률업무에 활용할 때 조심해야 할 문제로 이른바 할루시네이션을 말씀드린 적이 있습니다.
존재하지 않는 판례를 있는 것처럼 말하거나, 실제와 다른 법리를 그럴듯하게 설명하는 문제입니다.
법률 분야에서는 특히 위험합니다. 판례 하나, 조문 하나가 사건의 방향을 바꿀 수 있기 때문입니다.
그런데 지금은 상황이 조금 달라졌습니다.
AI를 계속 활용해 보면서 느끼는 점은, 적어도 예전과 같은 형태의 할루시네이션 문제는 눈에 띄게 줄었다는 것입니다.
물론 완전히 사라졌다고 말할 수는 없습니다.
여전히 검증은 필요하고, 법률문제에서 AI 답변을 그대로 믿어서는 안 됩니다.
다만 일정한 기준에 따라 질문하고, 답변을 다시 확인하고, 판례나 조문을 별도로 대조해 보면 예전보다 훨씬 안정적으로 활용할 수 있게 된 것은 사실입니다.
그렇다면 지금 AI 법률상담의 문제는 어디에 있을까요.
저는 이제 문제의 중심이 판례나 조문에서 사실관계로 옮겨가고 있다고 생각합니다.
지금 AI 법률상담의 문제는 더 이상 단순히 “AI가 틀린 판례를 말하는가”에만 있지 않습니다.
오히려 더 큰 문제는 AI에게 입력된 사실관계가 정확한가, 그리고 그 사실관계가 법적으로 의미 있는 사실관계인가에 있습니다.
AI는 질문자가 제공한 사실관계를 바탕으로 답을 냅니다.
그런데 법률문제에서 가장 어려운 부분은 법조문을 찾는 일이 아닙니다.
어떤 사실이 정말 중요한지, 그 사실이 증거로 입증될 수 있는지, 빠진 사실은 없는지, 상대방이 전혀 다른 자료를 가지고 있는지 가려내는 일입니다.
▶ [A&P 법률가이드] 변호사 상담 제대로 받는 법｜선임 전 반드시 확인해야 할 기준 FAQ (클릭)
사람은 누구나 자기 사건을 자기에게 유리하게 봅니다.
아무리 객관적으로 말하려고 해도 기억은 선택적으로 남고, 감정은 판단에 섞입니다.
억울한 부분은 크게 보이고, 불리한 부분은 작게 보입니다. 그러면 AI도 그 사실관계를 전제로 답을 내릴 수밖에 없습니다.
반대로 자신의 사건을 유리하게만 보지 않으려다가, 오히려 지나치게 불리하게 사실관계를 입력하는 경우도 있습니다.
“제가 잘못한 것 같아요”, “제가 불리한 것 아닌가요”, “이건 제 책임 아닌가요”라는 전제에서 출발하면, 실제로는 다툴 수 있는 부분이 있는데도 답변이 불리한 방향으로 정리될 수 있습니다.
본인은 객관적으로 설명한다고 생각하지만, 법적으로 중요한 방어 사정을 빠뜨리거나, 아직 입증되지 않은 상대방 주장을 사실처럼 넣는 경우도 있습니다.
이 경우 AI가 법률적 판단을 잘못하는 것이 아니라, 잘못된 전제를 충실히 따라가는 것에 불과합니다.
결국 문제는 AI가 똑똑한지 아닌지가 아닙니다.
입력된 사실관계가 법적으로 의미 있는 사실관계인지가 문제입니다.
예를 들어 보이스피싱 계좌 제공 사건에서 “제 계좌가 사용되었습니다”라는 사실만으로 결론이 정해지는 것은 아닙니다.
어떤 경위로 상대방을 알게 되었는지, 어떤 설명을 들었는지, 정상적인 업체라고 믿을 만한 자료가 있었는지, 실제 이익을 얻었는지, 수사기관에서 어떤 진술을 했는지에 따라 결론은 달라질 수 있습니다.
민사사건도 마찬가지입니다. 계약서 한 문장만 보면 결론이 명확해 보일 때가 있습니다.
그러나 그 문장이 작성된 경위, 실제 이행 과정, 주고받은 메시지, 상대방의 태도, 입증 가능한 자료에 따라 판단은 달라질 수 있습니다.
결국 법률문제의 난점은 법이 아니라 사실입니다.
어떤 사실은 감정적으로는 매우 중요하지만 법적으로는 큰 의미가 없을 수 있습니다.
반대로 의뢰인이 대수롭지 않게 넘긴 문자 한 줄, 입금내역 하나, 조사 당시 진술 한 문장이 사건의 핵심이 될 수도 있습니다.
요즘 상담을 하다 보면 “AI는 된다고 하던데요”라는 말을 종종 듣습니다.
실제로 의뢰인들이 AI 검색을 통해 어느 정도 법률정보를 확인하고 오시는 경우가 많아졌습니다.
예전에는 처음부터 설명해야 했던 부분을 이제는 이미 알고 오시는 경우도 있습니다.
나쁘기만 한 변화는 아닙니다.
의뢰인들의 법적 이해도가 높아지면 상담에서 더 중요한 쟁점에 집중할 수 있습니다.
변호사 입장에서도 기본 개념을 설명하는 데 시간을 쓰기보다, 사건의 핵심을 더 깊게 볼 수 있습니다.
동시에 좋은 긴장감도 생겼습니다.
의뢰인이 이미 검색하고, 비교하고, AI를 통해 질문을 정리해 오는 시대라면 변호사도 더 정확하게 알고, 더 분명하게 판단해야 합니다.
여기서 변호사의 역할이 남습니다.
▶ [A&P 언론보도] 인공지능(AI) 활용과 한계, 그리고 변호사의 역할 (클릭)
AI가 초안을 만들고, 자료를 정리하고, 일반적인 법률정보를 제공할 수는 있습니다.
그러나 의뢰인의 말 속에서 법적으로 중요한 사실을 추출하고, 기록과 증거에 비추어 다시 확인하고, 유리한 사정과 불리한 사정을 함께 놓고 판단하는 일은 여전히 사람의 영역입니다.
AI가 업무의 기본 도구가 되어가는 모습은 스마트폰과도 닮아 있습니다.
처음에는 편리한 기기였지만, 이제 스마트폰은 비용이 얼마이든 사실상 안 쓰기 어려운 생활 인프라가 되었습니다.
지금은 여러 제조사와 통신사, 운영체제가 경쟁하고 있기에 가격과 서비스가 어느 정도 유지되는 측면이 있습니다.
AI 역시 현재는 여러 회사들이 경쟁하고 있고, 이용자에게도 선택지가 있습니다.
하지만 그 구조가 언제까지 지금과 같을지는 알 수 없습니다.
AI가 업무와 생활 속에 더 깊이 들어오고, 특정 서비스에 대한 의존도가 높아질수록 가격이나 정책 변화에도 민감해질 수밖에 없습니다.
그래서 더 조심스럽습니다. 앞으로 AI를 쓰지 않는 것은 점점 어려워질 수 있습니다.
그러나 중요한 것은 AI를 쓰느냐 마느냐가 아닙니다.
AI를 활용하되 의존하지 않는 태도입니다.
저는 AI를 멀리해야 한다고 생각하지 않습니다. 오히려 적극적으로 활용해야 한다고 생각합니다.
AI를 잘 활용하는 사람과 그렇지 않은 사람의 차이는 앞으로 더 커질 것입니다. 법률시장도 예외는 아닙니다.
다만 AI를 활용한다는 것과 AI의 답변에 판단을 맡긴다는 것은 전혀 다른 문제입니다.
AI는 좋은 도구가 될 수 있습니다. 그러나 사건의 책임은 AI가 지지 않습니다. 잘못된 판단의 결과도 AI가 대신 감당하지 않습니다.
결국 소송을 할지, 합의를 할지, 진술을 어떻게 할지, 어떤 위험을 감수할지는 사람이 결정해야 합니다.
▶ [A&P 언론보도] AI 상담 시대, 그 판단의 결과는 누구의 책임인가 (클릭)
법률문제는 결국 사람의 문제이고, 기록의 문제이며, 판단의 문제입니다.
AI가 아무리 발전하더라도, 무엇을 믿고 어떤 결정을 내릴 것인지는 여전히 책임 있는 사람의 몫입니다.
저 역시 마찬가지입니다.
AI를 적극적으로 활용하되, AI에 의존하지 않기 위해 계속 노력해야 할 것입니다.
더 빠르게 일하기 위해 AI를 쓰되, 더 쉽게 판단하기 위해 AI에 기대지는 않겠습니다.
결국 판단의 책임은 변호사에게 있습니다.
법률가에게 필요한 것은 더 많은 답을 빠르게 받아내는 능력만이 아니라, 그 답이 어떤 사실관계를 전제로 한 것인지 끝까지 확인하는 태도라고 생각합니다.
AI 시대에도 변하지 않는 것이 있다면, 바로 이 부분입니다.
법률문제의 난점은 법이 아니라 사실입니다.
법률사무소 A&P
박사훈 대표변호사
