기업용 AI 계정과 클라우드 자원을 노린 ‘LLM 재킹’이 증가했다.

• AI 계정과 클라우드 자원을 노린 ‘LLM 재킹’ 증가 가능성이 제기됐다.
• AI 서비스의 로그인 정보와 API 키는 비용·데이터·연산 자원에 연결되는 중요 자산이다.
• 권한관리, 사용량 모니터링, 비밀정보 관리, 사고 대응 절차를 AI 환경에 맞게 점검할 필요가 있다.

발췌에 따르면 구글 위협분석그룹(TAG)의 분석가는 다크웹과 암시장에서 AI 서비스 로그인 정보가 거래되고, 타인의 서버 자원이 무단 도용되는 사례가 올해 들어 뚜렷하게 늘었다고 밝혔다. 훔친 대형언어모델(LLM) 접근권을 활용하는 행위가 ‘LLM 재킹’으로 언급됐다. 다만 실제 피해 규모, 주요 공격 방식, 특정 기업이나 서비스의 피해 여부는 발췌만으로는 확인되지 않는다.

생성형 AI와 클라우드 서비스는 계정·API 키·접근 토큰 등을 통해 사용 권한과 연산 자원을 연결하는 경우가 많다. 이 정보가 탈취되면 공격자는 비용이 발생하는 모델 호출이나 컴퓨팅 자원을 무단 사용할 수 있고, 서비스 환경에 따라 민감한 입력·출력 정보에 접근할 위험도 생길 수 있다. 기사 발췌는 이를 단순한 금전 목적을 넘어 전쟁·첩보와 연결될 수 있는 문제로도 언급하지만, 구체적 사례는 원문 확인이 필요하다.

실무적으로는 AI 서비스 계정과 일반 업무 계정을 같은 수준으로 취급하기보다, 비용·데이터·모델 권한이 결합된 중요 자산으로 분류할 필요가 있다. 다중인증, 최소권한 부여, 퇴직·부서이동 시 권한 회수, API 키와 비밀정보의 별도 관리, 비정상 사용량 탐지 등 기존 접근통제 절차가 AI·클라우드 환경에서도 작동하는지 점검할 수 있다. 클라우드 비용이 급증하거나 평소와 다른 지역·시간대의 모델 호출이 발생했을 때의 보고 및 차단 절차도 검토 대상이 된다.

법무·감사·개인정보·정보보호 부서는 사고 발생 시 계약상 통지 의무, 비용 부담, 로그 보존 및 조사 협조 범위를 사전에 살펴볼 필요가 있다. 외부 AI 서비스 이용 부서가 개별적으로 계정을 개설하는 이른바 섀도 AI가 존재하는지도 함께 확인할 만하다. 다만 구체적인 통제 수준은 사용하는 모델, 클라우드 구조, 처리 데이터의 성격에 따라 달라질 수 있다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.