배재미디어센터

이제 인공지능과 대화하는 것이 더 이상 낯선 일이 아니다. 최근 정보를 검색하거나 업무를 돕는 AI를 넘어, 특정 캐릭터와 대화하는 ‘대화형 AI’까지 등장했다. 실제 국내외에서 생성형 AI 챗봇의 이용 시간이 증가하고 있으며, 와이즈앱·리테일이 공개한 보고서에 따르면 한국인 스마트폰 사용자를 표본 분석한 결과 AI 챗봇 앱 총 사용 시간 1위는 스캐터랩의 캐릭터형 서비스 '제타'로 집계되었다. 2026년 2월 기준 이용자들이 한 달 동안 제타에서 총 1억 1341만 시간을 접속한 것으로 나타났다. 어떻게 정보 검색이나 업무를 보조하는 생성형 AI보다 대화형 AI가 더 높은 사용 시간을 기록할 수 있는 것일까?

 

초기 대화형 AI가 생성한 글은 문장이 단순하고 정형화되어, 앞뒤 맥락을 길게 유지하는 데 한계가 있었다. 또한 반복적인 표현을 사용하고 캐릭터의 성격이나 상황에 대한 이해가 부족하여 창의적인 문장을 만들어내기 어려웠다. 하지만 생성형 AI 기술이 발전하면서 대화형 AI 역시 단순한 질의응답을 넘어 이용자의 말에 맞춰 상황과 맥락을 이해하고 원하는 캐릭터와 세계관을 설정하여 이야기를 만들어낼 수 있게 되었다.

 

이러한 변화는 이용자가 AI 채팅에 더욱 몰입하는 이유가 되기도 한다. 이용자는 캐릭터의 성격과 외모, 자신과의 관계 등을 직접 설정할 수 있으며, 마음에 들지 않는 대답을 삭제하고 새로운 대답을 생성할 수도 있다. 즉 정해진 이야기를 수동적으로 읽는 것이 아닌, 직접 이야기를 설정하고 변화시키며, 제3자의 입장에서 스토리를 지켜보는 것을 넘어 이야기 속 관계의 당사자가 될 수 있는 것이다. 웹소설의 경우 독자는 제3자로서 작가의 글 속 주인공의 연애를 지켜보며 자신의 연애처럼 느낄 수 있다. 하지만 AI 채팅의 경우 그 ‘처럼’이 사라진다. 이용자는 자신의 이름을 입력함으로써 직접 그 관계의 당사자가 될 수 있다.

 

대화형 AI는 사용자의 말에 거절하는 반응을 보이기보다 대체로 이용자의 의도에 맞춰 대화를 이어간다는 특징이 있다. 이는 이용자가 편안하게 대화를 지속하고 몰입할 수 있다는 장점이 있지만, 한편으로 AI가 사용자의 생각이나 행동을 지나치게 긍정하거나 맞춰주는 현상이 단점으로 작용할 가능성도 있다. 또한 성차별과 성희롱, 협박, 성폭행 등 성범죄를 다룬 장면이 쉽게 등장한다. 최근 방송통신위원회는 머니투데이의 질의에 대해 “AI 캐릭터 채팅 앱의 선정성 및 자극적인 콘텐츠에 관한 민원은 지속 접수 중”이라 밝히며, “생성형 인공지능 이용자 보호 가이드라인 준수 여부는 별도 조사한 적 없다”고 덧붙였다. 조사가 제대로 이루어지지 못한 이유는 법적 강제력이 없기 때문이다. 방송미디어통신위원회 측은 "가이드라인은 법적 구속력이 없고 자율적 조치를 권고하는 수준에 그치다 보니 준수 여부를 조사하지 않은 것"이라고 설명했다.

 

이처럼 현재의 법적 규제와 보호 정책만으로는 AI 챗봇 이용자를 충분히 보호하기 어려운 상황이다. 따라서 개인정보 보호에 유의하고, 과도하게 의존하지 않도록 주의해야 한다. AI 챗봇과의 감정적 교류는 외로움 감소에 도움을 줄 수 있지만, 과도한 몰두는 사회적 고립을 초래할 수 있다는 전문가의 경고가 있다. 따라서 이용자 스스로 AI 챗봇의 한계를 인식하고 적절한 이용 기준을 세워야 한다. 또한 청소년과 이용자를 보호할 수 있는 구체적인 제도와 관리 체계가 마련될 필요가 있다.