AI가 만든 콘텐츠를 찾아내는 일은 "진짜"와 "가짜" 중 하나를 고르는 퀴즈가 아니다. Pangram의 공동창업자이자 CEO인 Max Spero는 TechCrunch Equity에서 AI 보조와 AI 생성 사이의 경계를 어떻게 다룰지 이야기했다. 사람이 쓴 글을 AI가 일부 다듬은 경우와 AI가 글 전체를 만든 경우를 같은 표시로 묶으면, 탐지 결과는 신뢰를 높이기보다 새로운 오해를 낳을 수 있다.
이 문제는 소셜 미디어 피드에 올라오는 AI 콘텐츠에만 해당하지 않는다. AI로 만든 텍스트와 이미지는 채용 지원서, 상품 리뷰, 보험 청구서에도 들어오고 있다. 단일 점수나 라벨이 사람의 판단을 대신하면 위험이 커진다. 채용 담당자가 탐지 결과를 불합격 사유로 받아들이거나, 독자가 뉴스레터 작성자를 표시 하나만으로 평가할 수 있기 때문이다.
Pangram은 이런 수요를 인터넷의 "trust layer"로 풀려는 스타트업이다. 회사는 최근 900만 달러를 조달했고 Substack과 협력해 뉴스레터 작성에 AI가 사용됐는지 독자에게 표시하고 있다. 텍스트를 넘어 AI 이미지 탐지 도구도 출시했다. 기능의 범위가 넓어질수록 무엇을 감지했는지, 어느 정도 확신하는지, 사용자가 결과를 어떻게 해석해야 하는지 설명해야 한다.
AI 탐지기는 "AI가 들어갔다"는 사실만 알릴 수도 있고, 콘텐츠의 작성 과정과 사용 맥락을 더 세밀하게 보여줄 수도 있다. 전자는 쉽지만 문맥을 지우고 사람의 판단을 라벨 하나로 압축한다. 후자는 설명이 더 필요하지만, AI를 조금 사용했다는 이유만으로 전체 결과물을 불신하는 상황을 줄일 수 있다.
Pangram 사례가 남기는 질문은 탐지 정확도 하나가 아니다. AI 보조와 AI 생성의 경계를 어떻게 설명할지, 그리고 그 결과에 이의를 제기할 방법을 어떻게 제공할지까지 제품에 들어가야 한다. 신뢰를 만드는 도구는 AI를 찾아내는 도구이면서, 그 결과를 과신하지 않게 만드는 도구여야 한다.