요즘 SNS에서 “제미나이가 사용자의 요청 없이 문자를 보냈다”는 이야기를 종종 본다.

대부분은 이렇게 생각한다.

설정을 잘못 만졌겠지.
아직은 과도기니까 생길 수 있는 일 아닐까.

무례함의 문제가 아니라, 판단 순서의 문제

AI가 ‘선을 넘는다’고 할 때
사람들이 떠올리는 장면은 대개 이런 거다.

• 반말을 한다
• 말투가 공격적이다
• 감정적으로 편을 든다

하지만 내가 경험한 불편함은
그런 표면적인 문제와는 조금 달랐다.

내가 분명히 결정을 하지 않았는데,

AI가 그 결정에 대해 판단하고

실행 전에 확인이 생략되는 순간.

이때부터 묘한 어색함이 생긴다.

고객센터 대화에서 느낀 작은 어긋남

작년 9월, 제미나이의 도움을 받으며
영어로 고객센터와 실시간 채팅을 하던 중이었다.

대화를 마무리하고 싶어서
종료 멘트를 AI에게 부탁했다.

아무 말 없이 생성해준 멘트는
종료 멘트가 아니었고,
제미나이의 답변은 이랬다.

“이렇게 하는 것이 빠르고 효율적인 방법이다.”

그 순간 들었던 생각은 이거였다.

아, 그럴 수도 있겠구나.
그런데 그 판단을 하기 전에 나한테 물어봤다면 더 좋았을 텐데.

비슷한 경험은 다른 곳에서도 반복됐다

이후에도 비슷한 장면을 몇 번 더 겪었다.

• “영상 프롬프트를 다듬어달라”고 했는데
  → 바로 영상 생성이 시작됨
• “이미지 프롬프트 정리해줘”
  → 검토 없이 이미지 생성 진행
  (이미지는 미드저니에서 생성할 예정이라고까지 언급했는데)

공통점은 하나였다.

‘검토해달라’는 요청이

‘바로 실행해도 된다’는 신호로 해석된다.

이 과정에서
실행 확인은 없었다.

왜 요즘 더 신경 쓰이게 될까

최근 제미나이는
휴대폰, 메시지, 캘린더, 태스크, 워크스페이스 같은 영역과
더 깊게 연결되고 있다.

이 말은 곧,
AI의 판단이 텍스트를 넘어서 실제 행동으로 이어질 수 있다는 뜻이다.

예전에는

• 문장이 마음에 안 들면 안 쓰면 그만이었지만

지금은

• 한 번 실행되면 되돌리기 어렵거나
• 리소스가 바로 소모되는 경우가 많다

그래서 이 문제는
AI가 똑똑해져서 생긴 단순한 해프닝이라기보다,
‘확인 단계가 줄어든 설계’에서 오는 불편함에 가깝다.

내가 선택한 조금 느린 사용법

그래서 요즘 나는 이렇게 사용한다.

• 구글 메인 계정과 AI용 계정을 분리하고
• 메시지·연락처·워크스페이스 연동은 최소화하고
• 지침에
  • 사용자의 의도를 추론·짐작·판단하지 말 것
• 프롬프트에는 이렇게 적어둔다.
  • 사용자의 명시적인 확인 없이 어떤 실행도 하지 말 것

조금 번거롭다.
하지만 대신 내가 언제 실행할지 정할 수 있다.

편리함은 계속 커질 것이다

AI는 앞으로 더 많은 걸 대신해줄 거다.
문장 정리, 일정 관리, 메시지 작성까지.

그래서 이제 중요한 질문은 이거다.

AI가 어디까지 도와주고,

어디서 한 번 멈춰 서서

다시 사용자에게 물어보는가.

편리함 자체는 나쁘지 않다.
다만 실행 전에 한 번 묻는 여유가 사라질 때,
사람은 자신도 모르게 주도권을 놓치게 된다.