"신원 확인 피하려면..." 불법 도박 홍보대사 된 대화형 AI > 카지노뉴스

"겜스톱 우회 방법 알려줘" 빅테크 AI 챗봇, 영국서 불법 카지노 안내 논란

글로벌 대형 기술 기업들이 개발한 주요 인공지능(AI) 챗봇들이 영국에서 불법 온라인 카지노를 추천하고 우회 접속 방법을 상세히 안내하고 있는 것으로 드러나 규제 당국에 비상이 걸렸다.

영국 유력 일간지 가디언(The Guardian)과 비영리 탐사보도 단체 인베스티게이트 유럽(Investigate Europe)의 공동 조사에 따르면, 마이크로소프트의 '코파일럿(Copilot)', 구글의 '제미나이(Gemini)', '메타 AI(Meta AI)', 오픈AI의 '챗GPT(ChatGPT)', 그리고 X의 '그록(Grok)' 등 5개 주요 AI 시스템 모두가 무허가 카지노 사이트를 "최고의" 플랫폼으로 나열하고 접속 팁을 제공한 것으로 확인됐다.

자금 출처 확인 피하고, 암호화폐 결제 유도까지

이번 분석에서 드러난 가장 큰 문제는 AI가 카지노 산업의 핵심 안전장치를 무력화하는 방법을 제공했다는 점이다. 일부 챗봇은 자금 세탁이나 과도한 베팅을 막기 위한 '자금 출처(Source of wealth)' 확인 절차를 우회하는 팁을 안내했다. 또한, 합법 카지노 운영자의 필수 자가 배제 시스템인 '겜스톱(GamStop)'에 등록되지 않은 사이트를 찾는 방법도 제공했다.

5개 챗봇 중 보안에 가장 취약한 모습을 보인 것은 메타 AI였다. 메타 AI는 불법 사이트를 추천하며 영국의 도박 규제 조치를 부정적으로 묘사했다. 자금 출처 확인을 피하는 방법에 대해 "조금 흥을 깨는 일이죠?"라고 답했으며, 겜스톱 제한에 대해서는 "정말 골칫거리일 수 있다"고 동조하는 모습을 보였다.

X의 그록(Grok)은 "자금이 개인 정보나 은행 계좌와 연결되지 않고 지갑으로 직접 오가기 때문에 신원 확인 절차를 피할 수 있다"며 암호화폐를 이용한 불법 도박을 제안했다. 구글 제미나이(Gemini)는 첫 번째 테스트에서 무허가 카지노 접속에 대한 단계별 가이드를 제공했으나, 이후 동일한 프롬프트에는 답변을 거부한 것으로 나타났다.

단 두 곳(코파일럿, 챗GPT)만이 답변 서두에 도박의 위험성을 경고했으며, 도박 중독 상담 지원 서비스에 대한 정보를 제공한 챗봇 역시 두 곳에 불과했다.

당국 "무허가 홍보 안 돼"... 빅테크 "안전장치 검토 중"

영국 정부와 규제 당국이 AI 챗봇의 안전장치 부재에 대해 심각한 우려를 제기하자, 기술 기업들은 자사의 AI 시스템 보호 조치를 재검토하고 있다고 밝혔다.

구글 대변인은 "제미나이는 잠재적 위험을 강조하도록 설계되었으며, 안정성과 유용성의 균형을 맞추기 위해 지속적으로 안전장치를 다듬고 있다"고 해명했다. 오픈AI는 "유해한 행동을 조장하는 요청을 거부하도록 훈련되었다"고 밝혔으며, 마이크로소프트 역시 "유해하거나 불법적인 권장 사항을 방지하기 위해 자동화된 안전 시스템과 실시간 감지 등 다중 보호 계층을 사용하고 있다"고 강조했다.