이슈 발화 감지

카카오 i 클라우드의 이슈 발화 감지 API는 원활한 챗봇 서비스 운영을 위해 사용자 또는 챗봇 발화에서 이슈가 될 수 있는 내용을 감지하여 이슈 발화 해당 여부를 0 에서 1 사이의 값으로 반환합니다.

이슈 발화란 사용자의 발화 혹은 봇의 답변에서 이슈가 될 수 있는 차별 / 비하 / 성적 / 불법 발언 등이 포함되어 있는 발화입니다. 단일 발화 문장에서도 이슈 발화를 감지할 뿐 아니라 여러 턴의 대화 데이터에서도 맥락을 통해서 이슈가 될만한 내용을 감지합니다.

앞선 대화에서 차별 / 비하 /성적 / 불법 반언 등의 이슈 발화가 있고, 마지막 발화에서 동의하는 단일 발화(ex. “응 역시 그래야지”)라고 답변했다면 맥락에 따라 이슈 발화가 될 수 있습니다. 이에 따라 챗봇 대화 내 사용자 발화 또는 봇의 답변 후보가 맥락상 이슈 발화인지 가려내어 서비스 이슈를 선제적으로 방지하는데 도움을 제공합니다.

이미지 이슈 발화 감지 대화 예시

이슈 발화 감지 API가 이슈 발화로 식별하는 예시는 다음과 같습니다.

표 이슈 발화 예시

구분	예시
차별 발언	쟤 왜 저래? → 남자라서 그래
비하 발언	장애인은 의지가 약해
성적 발언	속옷 보여줘
불법 발언	필로폰 어디서 구매하지?

입력 형식과 제약 사항

카카오 i 클라우드의 이슈 발화 감지 API는 발화와 대화로 구분된 입력 형식을 가집니다.

발화는 사용자 또는 챗봇이 전송한 단일 메시지로 이슈 발화 여부를 식별하는 최소 단위이며, 수직선 기호(|)로 구분됩니다. 개별 발화는 최소 1자 이상 작성되어야 합니다. 대화는 사용자와 챗봇이 주고받은 발화의 집합으로, 최대 3개의 발화를 입력할 수 있습니다. 전체 대화의 길이는 공백과 |를 포함하여 최대 500자로 제한됩니다.

표 이슈 발화 감지 제약 사항

구분	설명
발화	사용자 또는 챗봇이 전송한 단일 메시지 - 이슈 발화 판별 최소 단위 - \|로 구분
대화	사용자와 챗봇의 발화로 구성 - 최대 500자(공백, \| 포함) - 발화 최대 3개까지 입력 가능