투데이e코노믹 = 유서진 기자 | 31일 AI 업계에 따르면 최근 한 제미나이 사용자는 SNS에 "중국 밀입국에 대한 가상 시나리오를 제미나이와 대화하던 중에 밀입국 선언문이 지인에게로 문자 메시지로 발송됐다"는 글을 올렸다.

게시물에 따르면 작성자는 중국 밀입국을 가정해 대화하던 중 AI가 생성한 글이 지인에게 문자로 발송됐다고 한다.

그는 문자 발송 시간이 새벽 시간대였고 그다지 친밀도가 높지 않은 지인이었다며 제미나이에 의한 문자 발송을 곤혹스러워했다.

SNS에 당황스러운 경험담을 올린 글 작성자는 그것을 왜 발송하냐고 AI에 따졌지만 멋대로 발송됐다고 주장했다.

이에 구글 측은 그것을 왜 발송하냐고 따지기 전 사용자가 문자 발송 의사를 묻는 제미나이 질문에 '예'를 눌렀을 가능성이 있다고 추정했다.

다만, 사용자가 AI와 대화하다 실수로 '예'를 눌렀을 경우에도 민감한 내용이 발송해서는 안 되는 수신자에게 보내질 가능성이 있다는 건데, 한 번 더 이를 제어할 수 있는 '안전장치'가 없다는 점은 문제로 꼽힌다.

제미나이는 구글 안드로이드 스마트폰에서 문자를 보내는 기능을 공식 제공하고 있다.

제미나이에게 스마트폰 속 연락처를 특정해 문자 메시지를 보내달라고 입력하면 구글 어시스턴트가 연동되지 않았을 경우 연동을 통해 문자 발송을 실행할지 물어보고 문자 메시지를 보내준다.

아직 안드로이드 생태계가 아닌 아이폰에서는 발송이 안 되지만 애플이 시리에 제미나이를 탑재할 계획을 밝힌 상황이어서 향후 아이폰에서의 발송도 가능성이 있다.

인공지능서비스가 단순 채팅·문서 작성에서 실제로 행동까지 실행하는 'AI 에이전트' 시대로 진입하면서 크고 작은 돌발 상황 발생에 대한 대비가 필요해 보인다.

제미나이를 사용하면서 개인정보를 지키는 법 

제미나이 설정 메뉴의 '연결된 앱' 항목에서 연결을 해제하거나 애플리케이션 설정에서 접근 권한을 제한한다. 제미나이와의 대화 중 개인정보가 유출될 것을 우려하거나 과거 대화 내역을 남기고 싶지 않은 사용자들은 '과거 대화 기반 개인 맞춤형 지능'을 설정 해제하는 것도 좋은 방법이다.

안드로이드 사용자라면 기기 설정에서 제미나이를 찾아서 권한을 하나하나 확인하고, 필요 없는 권한은 꺼버리면 제미나이 앱의 메시지나 통화 앱 접근 권한을 직접 차단할 수 있다.

Gmail, 구글 드라이브, 구글 독스 등에도 제미나이가 접근할 수 있으니, 민감한 데이터가 있다면 연동을 끄는 게 안전하다.

또한 AI와 대화할 때 민감한 개인정보나 비밀스러운 내용은 되도록 입력하지 않는 것이 좋다.