디즈니 얼굴 인식 시스템
‘지상에서 가장 행복한 곳’이 조금 더 섬뜩해졌습니다. 월트 디즈니 컴퍼니는 이번 주, 디즈니랜드 파크와 디즈니 캘리포니아 어드벤처 파크 방문객들이 얼굴 인식 기술이 설치된 통로를 ‘선택’적으로 이용할 수 있다고 발표했습니다. 물론 디즈니 측은 얼굴 인식 동의가 ‘전적으로 선택 사항’이라고 강조하지만, 얼굴 인식 시스템이 없는 통로로 입장할 경우 ‘이미지가 촬영될 수 있다’고 덧붙였습니다. 다른 많은 시스템과 마찬가지로 디즈니의 얼굴 인식 기술은 사람 얼굴 이미지를 수치 값으로 변환하고, 이를 다른 이미지 속 얼굴과 대조하는 방식으로 작동합니다. 디즈니는 이 수치 값들이 30일 후에 삭제될 것이며, ‘법적 또는 사기 방지 목적의 데이터 유지 의무가 있는 경우 제외’라고 밝혔습니다.
솔직히 이런 ‘선택적 동의’라는 문구 때문에 저는 제 추로스를 내던지고 싶을 지경입니다. 이런 표현 자체가 당신을 안심시키기 위해 고안된 것이나 다름없어요. “이미지가 촬영될 수 있다”니, 이건 코스트코에서 시식 코너를 거절할 수 있지만 여전히 작은 핫도그를 얼굴 앞에 들이미는 격이죠. 은근한 압박, 즉 따르지 않으면 이상한 사람 취급받을 거라는 뉘앙스가 있습니다. 그리고 30일 데이터 보관? ‘법적 또는 사기 방지 목적’이라는 예외 조항까지요? 결국 그들이 보기에 합당한 이유, 역사적으로 볼 때 언제나 이익과 통제를 향해 달려왔던 이유로 당신의 사진을 보관할 충분한 여지를 남겨둔 셈입니다. 누가 이득을 볼까요? 당연히 디즈니죠. 더 많은 데이터, 더 개인화된 마케팅, 누가 ‘들어가고’ 누가 ‘나가고’ 하는지, 적어도 누가 주목받는지에 대한 더 많은 통제권을 갖게 되는 겁니다.
NSA의 AI 버그 사냥
한편, 디지털 전선에서는 국가안보국(NSA)이 AI를 이용해 취약점을 탐지하는 데 공을 들이고 있다는 소식입니다. 앤트로픽의 ‘미소스(Mythos)’ AI 모델은 너무 강력해서 철저히 비공개로 유지되어 왔지만, 미 정부의 손에 들어갔다는 보고가 나왔습니다. 블룸버그 뉴스 및 악시오스는 NSA가 미소스 모델을 이용해 마이크로소프트 소프트웨어의 허점을 찌르고 있다고 전하며, 특히 “속도와 효과에 깊은 인상을 받았다”고 밝혔습니다. 놀랍지도 않네요. 취약한 버그를 찾는 데 특화된 AI가 취약한 버그를 찾는 데 능숙할 줄 누가 알았겠어요?
여기서 진짜 문제는, 미 국방부(DOD)가 앤트로픽 도구 사용을 금지했을 당시에도 이런 일이 벌어지고 있다는 겁니다. 피트 헤그세스 국방장관은 지난 2월 ‘공급망 위험’을 이유로 앤트로픽 도구 사용을 전면 금지했습니다. 그런데도 국방부 산하 기관인 NSA가 이 금지령을 무시하고 있는 것으로 보입니다. 이게 6개월간의 전환 기간 때문일까요, 아니면 미소스가 너무 뛰어나서 NSA가 입장을 재고하거나 최소한 예외를 만들려고 하는 걸까요? 이건 전형적인 실리콘밸리와 정보기관의 춤사위입니다. 도구가 너무 강력해서 무시할 수 없으니, 규칙은 구부러지고, 정의는 왜곡되고, 관련된 모든 사람은 새로운, 끊임없이 변화하는 패러다임 안에서 운영되고 있다고 주장합니다.
스캐터드 스파이더의 젊은 주역들
그리고 MGM, Caesars 같은 대기업을 뒤흔든 랜섬웨어 그룹 ‘스캐터드 스파이더(Scattered Spider)’의 이야기도 있습니다. 이들의 특징은 단순히 피해 규모뿐만 아니라 그들의 인구 통계학적 특징, 즉 대개 젊고 영어를 쓰는 해커들이라는 점입니다. 특히 이들은 미국 법 집행 기관과 협력하는 국가 출신이라는 점이 눈에 띕니다. 물론, 그렇기 때문에 잡히는 경우도 많죠. 이 클럽에 새로 가입했다는 혐의를 받는 인물은… 글쎄요, 원문 기사가 여기서 끊겼는데, 심층 취재로는 아주 흥미로운 부분입니다. 하지만 분명한 것은, 젊고 야심 찬 해커들의 파이프라인이 간간히 유명 인사들이 체포됨에도 불구하고 줄어들 기미가 보이지 않는다는 겁니다. 끝없는 랜섬웨어 공격과 그에 따른 사이버 보안 지출 증대의 순환 속에서 실제로 누가 이득을 보고 있는지 궁금하게 만듭니다. 힌트: 피해자는 아닙니다.
디즈니의 역사적 평행 이론?
이 디즈니 얼굴 인식 문제, 옛날 영화관마다 있던 투박하고 비싼 ‘자동 티켓 판매기’가 생각나네요. 물 흐르듯 처리해 준다고 했지만, 오히려 그 반대였습니다. 더 번거롭고, 오락이 아닌 ‘처리’받는다는 느낌을 주었죠. 디즈니는 여기서 한 발 더 나아가, 입구 자체를 생체 인식 검문소로 만들고 있습니다. 마법보다는 순전히 데이터 수집에 가깝죠. 그리고 이 편리함에 누가 실제 ‘돈’을 내고 있을까요? 디즈니가 아닙니다. 그들은 데이터로 돈을 벌고 있는 겁니다.
NSA의 미소스 상황은요? 마치 첩보 영화 같아요. 기관이 슈퍼 무기를 개발했는데, 상부에서 사용하지 말라고 했지만, 너무 효과적이어서 몰래 배치하는 거죠. 이는 보안 임무와 기술적 우위를 끊임없이 추구하는 것 사이의 내재된 긴장감을 강조합니다. 앤트로픽에 대한 국방부의 금지는 명백한 정책 결정이지만, NSA의 행동은 (사실이라면) 운영상의 필요성과 최첨단 AI의 유혹이 때때로 관료적인 지침을 압도할 수 있음을 시사합니다. 버그를 찾는 데는 반드시 나쁜 일은 아니겠지만, 새로운 기술을 채택할 때 정부 기관 내의 일관성과 책임에 대한 질문을 제기합니다.
스캐터드 스파이더의 방식, 즉 젊고 재능 있는 (비록 범죄자일지라도) 인력을 쉽게 확보할 수 있다는 점은 더 넓은 경제적 질문으로 이어집니다. 특정 인구 통계학적 그룹에게 상당한 금전적 보상을 얻는 가장 빠른 길이 불법적인 사이버 활동에 관여하는 환경을 조성하고 있는 것일까요? 만약 그렇다면, 합법적인 기술 경제가 그 인재를 생산적으로 흡수하고 활용하는 능력에 대해 무엇을 말해주는 걸까요? 체포와 신규 채용의 순환은 억제책이라기보다는 현대 사이버 범죄의 엄청난 수익성에 힘입어 윤활유칠된 회전문처럼 느껴집니다.
근본적인 질문
그렇다면 여기서 공통점은 무엇일까요? 그것은 종종 우리가 그 의미를 이해하는 능력을 앞질러가는 기술의 끊임없는 진보와, 사생활이나 보안 결과를 고려하지 않고 다음 빅싱글을 수익화하는 데 언제나 열심인 상업적 생태계입니다. 테마파크가 당신의 얼굴을 추적하는 것부터 정보 기관이 버그 사냥을 위해 AI를 악용하는 것까지, 경계선이 흐릿해지고 있으며, 궁극적인 수혜자는 데이터를 수집당하거나 시스템이 조사당하는 개인들이 아닌 경우가 많습니다.
실제로 누가 돈을 벌고 있는 걸까요? 디즈니는 미래 마케팅과 행동 통찰력으로 돈을 벌고 있습니다. NSA는 정부의 보안 수정 비용을 절감하거나 (잠재적으로 공격적인 작전을 가능하게 하는) 도구를 사용하고 있습니다. 그리고 랜섬웨어 그룹들은요? 직접적으로 돈을 갈취하여 벌고 있습니다. 이것은 하나의 생태계이며, 우리 대부분은 사용자이거나 표적일 뿐입니다.
디즈니 얼굴 인식, 정말 선택 사항인가요?
아니요, 완전히는 아닙니다. 디즈니가 얼굴 인식 통로를 ‘선택적으로’ 이용할 수 있다고 말하지만, 인식 통로가 아닌 곳으로 들어오는 방문객도 ‘이미지가 촬영될 수 있다’고 명시하고 있습니다. 이는 진정한 선택적 시스템이라기보다는 만연한 데이터 수집 전략을 시사합니다. 데이터는 또한 30일간 보관되며, 법적 및 사기 방지 목적으로 예외가 있어 추가 사용의 여지를 남깁니다.
앤트로픽의 미소스 AI는 무엇을 하나요?
미소스는 소프트웨어의 취약점과 결함을 식별하도록 설계된 AI 모델입니다. 보고에 따르면 매우 효과적이어서 악의적인 사용을 방지하기 위해 접근이 제한되어 있습니다. NSA는 마이크로소프트 시스템의 보안 허점을 찾는 데 이를 사용하고 있습니다.
스캐터드 스파이더 해커들은 어떻게 잡히나요?
스캐터드 스파이더는 젊고 영어를 구사하는 해커들을 모집하는 것으로 유명합니다. 기사에서 최신 체포에 대한 자세한 내용은 다루지 않지만, 이 그룹의 구성원들은 종종 미국 법 집행 기관과 협력하는 국가에 기반을 두고 있어 체포되는 경우가 많습니다. 이는 관련된 많은 사람들에게 결국 체포되는 패턴을 시사합니다.
