AI 파이팅

2022년 미국 은행은 P2P(Peer-to-Peer) 거래에서 4,480억 달러 이상을 처리했습니다., 이러한 플랫폼은 사기꾼의 주요 표적이 됩니다. 피싱과 같은 "전통적인" 사기 패러다임의 경우와 마찬가지로 Zelle 또는 Venmo 사기도 인공 지능(AI)에 의해 점점 더 가속화되고 있습니다.사이버 범죄자들이 사기 탐지 시스템을 속이기 위해 기계 학습(그리고 머지않아) 생성 AI의 힘을 활용함에 따라 온라인 사기 방지 기술도 이에 맞춰 발전해야 합니다.

디지털 전환의 급속한 속도는 우리 사회와 경제에 헤아릴 수 없을 만큼 많은 혜택을 주었습니다. 또한 표적 기업처럼 매일 클라우드 인프라를 사용하여 운영을 확장하는 사이버 범죄자들에게도 큰 도움이 되었습니다. 클라우드의 힘을 활용하는 새로운 악성 기계 학습(ML) 모델은 몇 년 전에는 인간만이 수행할 수 있었던 작업을 자동화할 수 있는 가능성을 제공합니다.

결과적으로 사기에 대한 차세대 혁신의 물결은 클라우드 기반 AI, 더 정확하게는 ML을 특징으로 하며 현대 사기 방지를 "기계의 전투"로 효과적으로 만듭니다. 이러한 싸움은 일반적으로 사기꾼이 클라우드 서비스를 사용하여 명백한 사기를 발견하기 위해 구축한 방어를 우회할 수 있는 ML 모델을 구축하는 첫 번째 움직임으로 시작됩니다.

소매업 환경의 일반적인 사기 완화 시스템을 생각해 보십시오. 회사가 특정 지역에서 900달러가 넘는 거래가 자동으로 2차 확인을 위해 표시된다는 규칙을 설정했다고 가정해 보겠습니다. ML 도구는 시행착오를 통해 고액 거래가 검사되는 지점을 계산하도록 프로그래밍할 수 있습니다. 그런 다음 공격자는 사기 거래가 900달러 미만으로 유지되고 탐지를 피하기 위해 올바른 지리적 위치에 기반을 두기만 하면 됩니다. 한때 시간이 많이 걸리는 프로세스는 클라우드 기반 분석의 단순한 문제가 됩니다.

정교한 ML 모델도 악의적인 AI에 의해 약점을 조사하고 공격받을 수 있습니다. AI 시스템이 불투명해질수록 프로덕션 환경에 배포하는 것이 더 위험해집니다. 인간은 자신의 행동과 자신이 생성할 수 있는 결과에 대해 제한적으로만 이해합니다. 또한 효율성을 유지하려면 이전 공격의 데이터에 대한 교육을 받아야 합니다. 이러한 조합으로 인해 약간 다른 시나리오가 제시될 때 악용에 취약해집니다. 악의적인 AI가 이러한 감독과 사각지대를 학습하려면 일부 표적화된 시험과 개선만 필요합니다.

그게 다가 아닙니다. 또한 AI는 거래를 진행할 수 있을 만큼 매력적인 사용자 얼굴의 가짜 이미지 데이터를 생성할 수도 있습니다. 검사 컴퓨터는 이를 새로운 사용자의 사진으로 가정하기 때문입니다. 또는 인증 확인 시 합법적인 고객을 사칭하기 위해 공개 비디오 또는 오디오 데이터(예: 소셜 미디어에 게시된 클립)를 학습할 수도 있습니다. 마찬가지로, AI는 거래에서 인간이 아닌 활동의 징후를 찾아내도록 설계된 기계를 속이기 위해 마우스 움직임과 같은 인간 행동을 모방하도록 훈련될 수 있습니다. 검증 검사를 우회하기 위해 도난당한 데이터의 다양한 조합을 생성할 수도 있습니다. 이는 퍼블릭 클라우드를 사용하여 해결할 수 있는 컴퓨팅 집약적인 작업입니다.

사이버 범죄자는 방어자보다 유리한 경우가 많으며, 현재 AI를 활용하는 온라인 사기꾼의 경우가 그렇습니다. 그들은 놀라움의 요소와 성공을 위한 재정적 동기를 가지고 있습니다. 그러나 사기 및 위험 팀은 자체 접근 방식을 조정하여 악의적인 AI에 대응할 수 있습니다. AI는 인간의 행동을 보다 현실적으로 모방하도록 악당에 의해 훈련될 수 있습니다. 그러나 자동화된 공격에 사용된다면 사기 탐지 알고리즘을 조정하고 혁신하여 탐지할 수 있는 봇처럼 배포해야 합니다.

방어자는 새롭고 향상된 ML 알고리즘을 배포하여 방어를 강화할 수 있을 뿐만 아니라 전장을 전략적 이점을 제공하는 전장으로 변경할 수도 있습니다. 예를 들어, 사기 탐지를 온라인 거래에 사용되는 장치에 훨씬 더 가까운 네트워크 에지로 이동함으로써 방어자는 비정상적이거나 위험성이 높은 행동을 더 높은 정확도로 더 쉽게 찾아낼 수 있는 역동적인 환경을 조성합니다.