AI, 법정에서 '가짜 판례'를 만들다: 최첨단 기술의 오남용이 부른 참사
Published May 19, 2026
지난주 금요일, 미국 제7항소법원의 한 선임 판사는 인공지능(AI)이 만들어낸 허위 정보가 법정에 제출된 브리프에 포함되었다는 이유로 한 로펌에 대한 제재 가능성을 언급했습니다. 2023년, 변호사가 AI가 생성한 가짜 판례를 인용한 사실이 밝혀져 업계를 발칵 뒤집었던 사건이 채 잊히기도 전에, 이처럼 황당하고 충격적인 뉴스가 다시금 우리를 찾아왔습니다. 이번에는 단순히 ‘실수’를 넘어선, 어쩌면 의도된 AI 오남용의 그림자가 드리워져 더욱 씁쓸함을 안겨줍니다.
인공지능에 기댄 황당한 복수극의 전말
이야기는 시카고의 한 페이스북 그룹, “Are We Dating the Same Guy(우리가 같은 남자와 데이트하고 있을까)“에서 시작됩니다. 이 그룹은 여성들이 데이트 경험을 공유하며 잠재적인 위험을 경고하는 공간으로 알려져 있죠. 니코 댐브로시오(Nikko D’Ambrosio)라는 남성이 전 여자친구 애비게일 라잘라(Abbigail Rajala)에게 위협적인 문자를 보낸 후 차단당하자, 그는 다른 번호로 문자를 계속 보냈습니다. 이에 라잘라는 댐브로시오가 보낸 문자 메시지 스크린샷을 그룹에 공유했고, 이를 본 스무 명이 넘는 여성들이 댐브로시오의 사진을 올리며 그에 대한 비판적인 경험담을 쏟아내기 시작했습니다.
여기까지만 해도 이미 진흙탕 싸움인데, 댐브로시오는 여기서 멈추지 않았습니다. 그는 자신을 비방한 여성들은 물론, 그룹 운영자와 심지어 페이스북의 모회사인 메타(Meta)까지 상대로 소송을 제기했습니다. 그의 주장은 기괴했습니다. 라잘라가 부모님의 인터넷으로 글을 올렸으니 부모님까지 ‘개인 정보 유출(doxing)‘에 해당하며, 메타는 게시물 옆에 광고를 붙여 자신의 초상권을 침해하고 수익을 올렸다는 것이었죠. 심지어 한 여성이 올린, 다른 강간범의 머그샷(범인 식별용 사진) 링크가 달린 댓글 때문에 자신이 명예훼손을 당하고 “정신적 고통, 전문적 기회 상실, 명성 및 관계 손상”을 입었다고 주장했습니다. 그의 목표는 자신과 “그 게시물에 조금이라도 관련된 모든 사람을 상대로 가능한 모든 상상할 수 있는 주장을 펼치는 것”이었다고 합니다.
솔직히 말해서, 이런 주장을 보면서 과연 법정에서 받아들여질까 의문이 들 수밖에 없습니다. 하지만 댐브로시오는 자신의 변호를 맡은 ‘마크트렌트.AI(MarcTrent.AI)‘라는 로펌을 믿었던 것 같습니다.
”AI가 메타도 이길 수 있다”? - 오만과 몰락의 시작
마크트렌트.AI는 스스로를 “AI를 사용하여 전통적인 로펌이 놓치는 법적 기회를 발굴하고 예측 모델링을 통해 법률 성공률을 35% 높인다”고 홍보하는 로펌이었습니다. 창립자 마크 트렌트는 2025년에 올린 블로그에서 이 사건을 언급하며, 초기 소장을 “우리 기술팀을 활용해 작성했다”고 자랑했습니다. 그는 “진화한” 로펌이 “현재 AI와 관련된 모든 것을 사용하고 있다”며, “메타조차 우리를 이길 수 없다”고 호언장담했습니다. 또한, 이 소송에서 승리하면 페이스북이 모두에게 더 안전해질 것이라고 주장하기까지 했습니다.
트렌트는 메타가 게시물을 즉시 삭제할 것이라고 예상했지만, 메타가 그러지 않자 섹션 230(Section 230: 온라인 플랫폼의 콘텐츠에 대한 책임을 면제하는 법률)을 극복하는 것이 가장 큰 장애물이 될 것이라고 생각했습니다. 하지만 그는 “자신의 로펌의 기술적 역량”이 메타의 막강한 법무팀과 대등하게 싸울 수 있게 해줄 것이라고 확신했습니다.
그러나 현실은 달랐습니다. 지방법원은 댐브로시오의 소송이 “어떤 식으로도 수정할 수 없을 정도로 부실하다”며 기각했습니다. 하지만 댐브로시오는 이에 불복해 항소했고, 이 과정에서 마크트렌트.AI의 ‘정확한 논증 실행’을 위한 AI 의존이 오히려 독이 되어 돌아왔습니다. 항소심 판사들은 이 사건이 너무나도 미약하여 섹션 230조차 고려할 필요가 없다고 판단했습니다.
AI가 낳은 ‘유령 판례’와 법정의 경고
지난 금요일, 미국 제7항소법원의 데이비드 해밀턴(David Hamilton) 선임 판사는 이번 항소가 “경솔하다”며 댐브로시오의 주장을 전혀 진전시키지 못했을 뿐만 아니라, “생성형 인공지능의 오용 특징을 띠는 실수와 허구적 인용문(fictitious quotations)으로 가득 차 있었다”고 판결했습니다. 그는 “초보적인 전문적 주의만 기울여도 발견할 수 있는 부정확성, 즉 허구적 인용문을 포함하는 브리프와 기타 법원 제출 자료는 용납할 수 없다”고 강조했습니다. 정말이지, 이 사건은 마치 영화 속 한 장면처럼 비현실적으로 다가옵니다. AI가 없는 사실을 창조해낸 것이죠.
이 대목에서 저는 소름이 돋을 수밖에 없었습니다. 단순히 논리가 부족한 것이 아니라, 존재하지도 않는 판례를 ‘창조’해낸 AI의 결과물을 여과 없이 제출했다는 사실 자체가 충격입니다. 이는 단순한 실수 차원을 넘어섭니다. 법률 시스템의 근간을 흔들 수 있는 심각한 문제이며, 변호사의 기본적인 직업 윤리와 책임감을 심각하게 훼손하는 행위입니다. 마크트렌트.AI는 이번 잠재적 제재에 대해 공식적인 답변을 내놓지 않았으며, 6월 16일까지 청문회를 요청하거나 제재의 정당성에 대한 의견을 제출해야 합니다.
댐브로시오의 주장이 얼마나 허황되었는지 다시 한번 되짚어보면, 그는 게시물로 인해 구체적인 피해를 입었다는 증거를 전혀 제시하지 못했습니다. 또한, 여성들이 자신에 대해 말한 내용이 거짓이라고 주장하지도 않았습니다. 심지어 소송이 막바지에 이르러서야 라잘라가 공유한 스크린샷이 위조되었을 가능성을 주장했지만, 이미 소송 초기부터 문자 메시지의 진위를 다툴 기회가 많았음에도 그러지 않았다는 이유로 기각당했습니다. 인터넷 법률 전문가 에릭 골드만(Eric Goldman)은 댐브로시오의 사건이 “Spill the Tea” 유형의 페이스북 그룹에서 비판적인 게시물을 삭제하려다 실패한 다른 남성들의 소송과 유사하다고 설명합니다. 이러한 시도들은 대부분 라잘라의 게시물처럼 미국 수정헌법 제1조와 명예훼손법에 의해 보호받는 ‘의견’으로 간주되기 때문에 실패로 돌아갑니다.
AI 시대, 법률 전문가의 역할과 책임감
이번 사건은 AI 기술이 가져올 미래에 대한 밝은 전망과 동시에 어두운 그림자도 함께 보여줍니다. 마크트렌트.AI의 창립자가 그랬듯이, 많은 이들이 AI를 만능 해결사로 여기거나, AI가 만들어낸 결과물을 맹목적으로 신뢰하는 경향이 있습니다. 하지만 이번 ‘유령 판례’ 스캔들은 그 위험성을 극명하게 드러냅니다.
업계 흐름을 보면, 법률 분야의 AI 도입은 거스를 수 없는 대세입니다. 법률 문서 검토, 리서치, 계약서 작성 등 다양한 영역에서 AI는 효율성을 크게 높일 잠재력을 가지고 있습니다. 하지만 이번 사건은 AI를 단순히 ‘만능 도구’로 여기거나 ‘검증 없이 맹신’했을 때 어떤 비극적인 결과를 초래할 수 있는지 여실히 보여줍니다. AI는 강력한 도구이지만, 그 결과물을 비판적으로 평가하고 검증하는 인간의 역할은 여전히, 아니 오히려 더 중요해졌습니다.
개인적으로는 이번 사건이 법률 AI 산업에 경종을 울리는 계기가 되기를 바랍니다. 기술 혁신은 중요하지만, 법률과 같이 신뢰와 윤리가 핵심인 분야에서는 그 어떤 타협도 허용되어서는 안 됩니다. AI 도구를 사용하는 변호사는 AI의 한계를 명확히 인지하고, 생성된 정보의 정확성을 꼼꼼하게 검증해야 할 것입니다. 그렇지 않다면, 이번 마크트렌트.AI처럼 법정에서 신뢰를 잃고 제재를 받는 상황은 언제든 다시 발생할 수 있습니다. AI 시대를 맞아 법률 전문가들에게는 새로운 기술적 역량과 함께, 더욱 강화된 윤리 의식과 책임감이 요구되고 있습니다.
출처
- 원문 제목: Legal fail: Don’t use AI to sue Facebook users for calling you a bad date
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
