법무법인 민후 김경환 대표변호사는 전자신문 「김경환 변호사의 IT법」 제14편을 통해 생성형 AI의 프롬프트 대화 이력이 형사사건과 기업 분쟁에서 핵심 증거로 부상하고 있다고 설명했습니다.

김경환 변호사는 과거 웹 브라우저 검색 기록이나 이메일, 문자메시지가 디지털 포렌식의 주요 대상이었다면, 이제는 이용자가 AI에 어떤 내용을 질문하고 어떠한 문맥으로 대화했는지가 범행의 고의와 목적을 판단하는 중요한 자료가 될 수 있다고 강조했습니다. 특히 영업비밀 유출이나 임직원의 비위 사건에서 프롬프트 기록은 행위자의 의도를 입증하는 결정적 증거가 될 수 있는 반면, 기업이 적절한 관리·감독 체계를 마련하지 않았다면 회사 역시 법적 책임에서 자유롭기 어렵다고 지적했습니다.

이에 기업이 갖추어야 할 대응 체계로 △개인 계정 사용을 줄이고 중앙 로그 관리가 가능한 기업용 AI 환경 구축 △DLP 솔루션과 AI 문맥 분석 모니터링의 연계 △적법절차를 반영한 생성형 AI 이용규정 제정과 임직원 동의 절차 마련 △정기적인 프롬프트 감사 및 사후 디지털 포렌식 대응 절차의 표준화를 제시했습니다.

아울러 과도한 통제가 비인가 AI를 은밀하게 사용하는 ‘섀도 AI’로 이어지지 않도록 공식적인 업무용 AI 채널을 제공하고, 로그 수집의 목적과 범위를 명확히 고지하며, 규정 제정뿐 아니라 정기적인 교육과 실제 모니터링까지 병행해야 한다고 설명했습니다.

김경환 변호사는 AI 시대의 증거가 ‘무엇을 검색했는가’에서 ‘AI와 어떠한 문맥으로 대화했는가’로 전환되고 있다며, 법적 적법절차가 반영된 프롬프트 관리 체계를 구축하는 것이 기업을 예기치 않은 형사적 위험과 법적 혼란으로부터 보호하는 핵심 방안이라고 강조했습니다.