AI 사기 탐지를 폰 안에서만 돌리는 시도가 나왔습니다. 구글 딥마인드는 2026년 10월 14일, 싱가포르 정부 기술청(GovTech)과 함께 가벼운 AI 모델 '젬마(Gemma)'를 현지 사기 대화로 다듬어 휴대폰 안에서만 분석하고, 수상한 대화가 보이면 "돈이나 정보를 보내기 전에 잠깐 멈추세요"라고 경고하는 기능을 만들고 있다고 밝혔습니다.
AI 사기 탐지, 싱가포르에서 무슨 일이 있었나요?
요약하면 "내 폰이 대화를 읽고, 사기 냄새가 나면 바로 알려 준다"는 이야기입니다. 다만 그 판단을 구글 서버가 아니라 휴대폰이 직접 해요. 배터리를 덜 쓰려고 두 단계로 나눴습니다.
먼저 아주 가벼운 1차 걸러내기가 들어오는 메시지를 훑습니다. 평범한 메시지는 여기서 "문제없음"으로 끝나요. 의심스러운 것만 2단계로 넘어가는데, 이때 젬마가 대화 앞뒤를 더 넓게 읽고 진짜 위험인지, 괜히 놀란 건지를 가립니다. 위험이라고 판단되면 그 자리에서 경고를 띄우는 방식이죠.
왜 싱가포르였을까요. 딥마인드 발표에 따르면 투자 사기, 가짜 채용 제안, 공무원 사칭이 싱가포르 신고 범죄의 절반을 넘습니다. 일반 AI 모델은 그 나라 사기꾼이 쓰는 말투나 수법을 잘 못 알아듣는다는 문제도 있었고요. 그래서 공공기관·은행·현지 유명인 사칭 같은 그 지역 대화로 모델을 따로 훈련했습니다.
핵심 숫자와 사실 한눈에 보기
| 항목 | 내용 (구글 딥마인드 공식 발표 기준) |
|---|---|
| 발표일 | 2026년 10월 14일 (싱가포르 국제 사이버 주간에서 소개) |
| 함께 만드는 곳 | 구글 딥마인드 + 싱가포르 정부 기술청(GovTech) |
| 쓰는 모델 | 구글의 가벼운 모델 '젬마'를 현지 사기 대화로 추가 훈련 (버전·크기는 아직 발표 안 됨) |
| 2019년 이후 사기 피해 | 40억 싱가포르달러 이상 |
| 대화로 믿음을 쌓은 뒤 돈을 요구하는 사기 | 전체 피해액의 최대 80% |
| 대화가 분석되는 곳 | 휴대폰 안 (서버로 보내 검사하지 않음) |
| 출시 일정·대상 앱 | 아직 발표 안 됨 ("단계적으로" 도입 예정) |
표에서 제가 가장 눈여겨본 숫자는 80%입니다. 링크 하나 눌러서 당하는 사기보다, 며칠씩 대화하며 믿음을 쌓은 다음 돈을 요구하는 사기가 피해의 대부분이라는 뜻이거든요. 스팸 문자 차단처럼 메시지 한 줄만 보는 방식으로는 못 막는 영역이라, 대화 흐름을 읽는 AI가 필요하다는 논리입니다.
"AI 사기 탐지가 내 대화를 다 본다"는 오해
이런 기사를 보면 먼저 드는 생각이 있죠. "결국 정부나 구글이 내 메시지를 들여다본다는 거 아니야?" 발표 내용만 보면 답은 반대에 가깝습니다.
딥마인드는 모델이 휴대폰 안에서만 돌기 때문에 이 방식으로는 싱가포르 정부도, 구글도 사용자의 대화를 볼 수 없다고 적었습니다. 모델이 대화에 접근하는 것도 사용자가 동의했을 때, 그리고 그 기능이 들어간 앱의 약관 범위 안에서만이라고 해요.
훈련 과정도 따로 설명했습니다. 학습은 GovTech가 관리하는 별도 클라우드 공간에서 했고, 국민 개인정보는 쓰지 않았으며, 이름 등을 지운 사기 신고 자료와 정보 자료만 썼다고 합니다. 가짜로 만든 대화와 현지 자료로 여러 사기 유형을 시험해 봤다는 내용도 있고요.
물론 "어떤 앱에 들어가는지", "한국어도 되는지"는 아직 나오지 않았습니다. 발표문에는 종단간 암호화를 쓰는 메신저에도 이 방식이 본보기가 될 수 있다는 말 정도만 있어요.
직장인에게 무슨 의미일까? (제 해석)
저는 이 소식을 "사기 막기" 기능 하나보다, 회사에서 AI를 들일 때의 기준이 바뀌는 신호로 봅니다. 그동안 회사 보안팀이 AI 도입을 망설인 가장 큰 이유는 "자료가 밖으로 나간다"였잖아요. 이번 사례는 작은 모델을 그 일에 맞게 다듬으면, 자료를 서버로 보내지 않고도 쓸 만한 판단을 할 수 있다는 걸 정부 사업으로 보여 준 셈입니다.
그러니 앞으로 사내 AI 도구를 고를 때는 "얼마나 똑똑한가"만큼 "어디서 도는가"를 묻게 될 거예요. 고객 상담 기록 분류, 계약서 속 위험 문구 표시, 메일 속 피싱 의심 표시처럼 범위가 정해진 일이라면 큰 모델 대신 기기 안이나 회사 서버 안에서 도는 작은 모델이 충분할 수 있습니다.
또 하나는 사기 수법 자체입니다. 발표에서 꼽은 사기 유형이 투자 권유, 가짜 채용 제안, 공무원 사칭이었는데, 직장인이 메신저로 자주 받는 연락과 겹치죠. 기술이 우리나라에 오기 전까지는 사람이 먼저 알아채는 수밖에 없습니다. 솔직히 저라면 "대화가 길어지고 친해진 다음 돈 이야기가 나온다"는 흐름 자체를 경고 신호로 삼겠어요. 80%라는 숫자가 바로 그 흐름에서 나왔으니까요.
지금 바로 해 볼 것
아직 내 폰에 깔 수 있는 기능은 아닙니다. 대신 오늘 할 수 있는 일이 있어요.
- 회사 메신저나 문자로 상사·거래처가 급하게 송금이나 상품권을 부탁하면, 그 대화창이 아닌 전화·사내 번호로 한 번 더 확인합니다.
- "부업·투자 수익 보장" 단체방 초대, 면접 없이 바로 채용한다는 제안은 일단 답하지 않고 회사 이름과 담당자를 따로 찾아봅니다.
- 팀에서 AI 도구 도입을 이야기하고 있다면 "입력한 내용이 어디로 가나요, 기기·회사 안에서 처리되나요?"를 질문 목록에 넣어 둡니다.
- 부모님 폰은 모르는 번호 문자 링크를 누르지 않도록 한 번 더 말씀드려 두세요. 이번 기술이 노리는 사람도 결국 그런 분들입니다.
자주 묻는 질문
Q. 한국에서도 쓸 수 있나요?
아직은 아닙니다. 이번 발표는 싱가포르 정부와의 사업이고, 출시 일정과 대상 앱, 지원 언어는 발표되지 않았어요. 딥마인드는 다른 나라에서도 비슷한 기술을 찾아보겠다고만 밝혔습니다.
Q. 폰에서 AI가 계속 돌면 배터리가 빨리 닳지 않나요?
그 걱정 때문에 두 단계로 나눴다고 합니다. 대부분의 메시지는 가벼운 1차 검사에서 끝나고, 의심스러운 것만 젬마가 더 자세히 봐요. 실제 배터리 사용량 숫자는 아직 나오지 않았습니다.
Q. 젬마는 어떤 모델인가요?
구글이 만든 가벼운 AI 모델 계열입니다. 크기가 작아 휴대폰·노트북 같은 기기에서도 돌릴 수 있는 게 특징이에요. 이번에 쓴 젬마의 정확한 버전과 크기는 발표문에 나와 있지 않습니다.
참고한 자료
- 구글 딥마인드 공식 블로그 — 싱가포르 정부와 만드는 기기 안 AI 사기 탐지 (2026년 10월 14일)
- 알고싶AI — 증류 공격 방어, 회사에서 클로드 쓰는 직장인이 알아둘 것
2026년 10월 15일 기준