해외에서 ChatGPT가 만든 가짜 판례를 제출한 변호사 벌금형.

해외에서 변호사가 ChatGPT를 활용하여 소송을 제기하였는데 소송 내용 중 기존 판례 사례들이 가짜 인용문으로 밣혀졌으며 가짜 판례는 ChatGPT가 제시한 것으로 그는 출처를 확인하지 않은 것에 대한 책임을 인정하였습니다.

가짜 판례를 제출한 벌금으로 연방 판사는 항공 상해 소송에서 가상의 법률 연구 자료를 제출한 혐의로 ChatGPT가 비난을 받은 전례 없는 사건에서 두 명의 변호사와 한 로펌에 5,000달러의 벌금을 금주에 부과했습니다.

아래의 기사는 진행된 내용이며 벌금 결과의 기사는 금주 기사화 됐습니다.

 

기사 제목 : Lawyer apologizes for fake court citations from ChatGPT. (CNN 기사 발췌)

https://edition.cnn.com/2023/05/27/business/chat-gpt-avianca-mata-lawyers/index.html

(변호사가 ChatGPT의 가짜 법원 인용에 대해 사과했습니다.)

Lawyer apologizes for fake court citations from ChatGPT | CNN Business

최근 한 변호사의 사례에서 알 수 있듯이 ChatGPT의 급격한 부상은 법률을 포함한 여러 산업을 뒤흔들고 있습니다.

로베르토 마타는 2019년 아비앙카 항공을 이용하던 중 서빙 카트에서 넘어져 부상을 입었다며 직원의 과실을 주장하며 아비앙카 항공을 상대로 소송을 제기했습니다. 30년 이상 뉴욕에서 변호사 자격을 취득한 Levidow, Levidow & Oberman의 스티븐 슈워츠 변호사가 마타의 변호를 맡았습니다.

하지만 뉴욕 남부지방법원의 케빈 카스텔 판사는 슈워츠가 연구 자료로 제출한 사례 중 최소 6건이 "가짜 인용문과 가짜 내부 인용문을 사용한 가짜 사법 결정인 것으로 보인다"라고 명령했습니다.

가짜 판례의 출처는? ChatGPT입니다.
"법원은 전례 없는 상황에 직면해 있습니다."라고 카스텔 판사는 5월 4일 명령서에 적었습니다.

가짜 사건 중 바르게스 대 중국남방항공, 마르티네즈 대 델타항공, 샤분 대 이집트항공, 피터슨 대 이란항공, 밀러 대 유나이티드항공, 더든의 유산 대 KLM 네덜란드항공 사건은 모두 판사나 변호인 측에 존재하지 않는 것으로 보인다고 서류에 적혀 있습니다.

슈워츠는 진술서에서 이 사건 이전에는 ChatGPT를 법률 연구 자료로 사용한 적이 없었으며, 따라서 "그 내용이 허위일 수 있다는 가능성을 알지 못했다"고 진술했습니다. 그는 챗봇의 출처를 확인하지 않은 것에 대한 책임을 인정했습니다.

현재 슈워츠는 6월 8일에 제재 청문회를 앞두고 있습니다.

이번 주에 제출한 진술서에서 그는 "여기서 수행한 법적 연구를 보완하기 위해 생성 인공 지능을 사용한 것을 크게 후회하며, 앞으로는 진위 여부에 대한 확실한 검증 없이는 절대 그렇게 하지 않을 것"이라고 말했습니다.
4월 말, 아비앙카의 콘돈 앤 포사이스 변호사들은 카스텔에게 이 사건의 진위 여부에 대해 의문을 제기하는 서한을 보냈습니다.

목요일에 제출된 진술서에서 동료 변호사 피터 로두카는 슈워츠의 연구에 대해 "진정성을 의심할 이유가 없다"며 자신은 연구에 아무런 역할도 하지 않았다고 말했습니다.

슈워츠는 4월 25일에 제출된 진술서에서 "허위 및 사기 공증 사용"에 대해 제재를 받아서는 안 되는 이유를 제시하라는 명령을 받았습니다.

수요일에 제출된 슈워트의 진술서에는 변호사가 ChatGPT를 통해 사건의 진위를 확인하는 것처럼 보이는 스크린샷이 포함되어 있습니다.

슈워츠는 챗봇에게 "바르게스가 진짜 사건인가요?"라고 물었습니다.
ChatGPT는 "네"라고 대답하며 "실제 사건입니다."라고 두 번 답했습니다.
그런 다음 슈워츠는 그 출처를 물었습니다. 챗봇은 다시 가짜 사건이 진짜 사건이라고 주장했습니다.

"아까 혼란을 드려 죄송합니다."라고 ChatGPT가 대답했습니다. "다시 확인해보 Varghese v. China Southern Airlines Co. 925F.3d 1339 (11th Cir. 2019) 사건은 실제로 존재하며 Westlaw 및 LexisNexis와 같은 법률 검색 데이터베이스에서 찾을 수 있습니다. 이전 답변으로 인해 불편을 끼치거나 혼란을 드린 점에 대해 사과드립니다."

슈워츠가 챗봇에게 다른 사건도 가짜인지 묻자 ChatGPT는 다른 사건은 "진짜"이며 "평판이 좋은 법률 데이터베이스"에서 찾을 수 있다고 답했습니다.