Ấn Độ cảnh báo các ngân hàng và công ty fintech về mối đe dọa gia tăng từ gian lận deepfake do AI gây ra.

Bộ Nội vụ Ấn Độ (MHA) đã ban hành một cảnh báo trên toàn quốc, cảnh báo các ngân hàng, công ty fintech và người tiêu dùng về làn sóng lừa đảo deepfake sử dụng trí tuệ nhân tạo đang gia tăng, nhắm vào hệ sinh thái tài chính kỹ thuật số của nước này.

Cảnh báo được phát đi thông qua Trung tâm Điều phối Tội phạm mạng Ấn Độ (I4C) nhấn mạnh cách thức tội phạm mạng ngày càng sử dụng trí tuệ nhân tạo để tạo ra các video deepfake chân thực và danh tính giả mạo có khả năng vượt qua xác thực khuôn mặt, phát hiện sự sống, kiểm tra "Biết khách hàng của bạn" (KYC) dựa trên video và các thủ tục khôi phục tài khoản.

Theo cảnh báo, những kẻ lừa đảo thường tiếp cận nạn nhân thông qua các nền tảng mạng xã hội, ứng dụng nhắn tin, trang web hẹn hò, cổng thông tin việc làm hoặc các cuộc gọi điện thoại. Trong các cuộc tương tác video, những kẻ lừa đảo có thể bí mật ghi lại chuyển động khuôn mặt, mẫu giọng nói và các dữ liệu sinh trắc học khác, sau đó được sử dụng để tạo ra các bản sao kỹ thuật số được hỗ trợ bởi trí tuệ nhân tạo.

Các nhà chức trách cảnh báo rằng những video deepfake này có thể tinh vi đến mức bắt chước được các biểu cảm khuôn mặt, chuyển động mắt và giọng nói tự nhiên, tiềm ẩn nguy cơ cho phép tội phạm vượt qua các hệ thống xác minh danh tính thiếu khả năng phát hiện deepfake tiên tiến.

Sau khi có được quyền truy cập, tội phạm có thể sử dụng danh tính giả để mở tài khoản tài chính, kích hoạt ví điện tử, hoàn tất các yêu cầu KYC hoặc truy cập trái phép vào các tài khoản ngân hàng và thanh toán hiện có.

Bộ Nội vụ Ấn Độ (MHA) mô tả gian lận danh tính bằng trí tuệ nhân tạo (AI) là mối đe dọa mới nổi đối với lĩnh vực thanh toán kỹ thuật số đang phát triển nhanh chóng của Ấn Độ và kêu gọi các tổ chức tài chính tăng cường quy trình đăng ký khách hàng. Các ngân hàng và công ty fintech được khuyến cáo triển khai các công nghệ phát hiện deepfake tiên tiến và cải thiện các biện pháp bảo vệ chống lại các cuộc tấn công bằng phương tiện truyền thông tổng hợp.

Thông báo này cũng khuyến khích người tiêu dùng bảo mật thông tin sinh trắc học khi có thể, theo dõi thông báo ngân hàng và email để phát hiện hoạt động đáng ngờ, và thận trọng khi tham gia các cuộc gọi video không được yêu cầu.

Các nhà chức trách cũng cảnh báo rằng sự gián đoạn đột ngột của mạng di động có thể là dấu hiệu của các nỗ lực lừa đảo đổi SIM liên quan đến tội phạm tài chính và kêu gọi người dùng liên hệ ngay với nhà cung cấp dịch vụ viễn thông của họ nếu những sự cố như vậy xảy ra.

Cảnh báo này phản ánh những lo ngại ngày càng tăng trên toàn cầu về việc lạm dụng các công nghệ trí tuệ nhân tạo tạo sinh, khi các cơ quan quản lý và các tổ chức tài chính ngày càng phải đối mặt với thách thức từ những kẻ lừa đảo lợi dụng công nghệ deepfake để vượt qua các biện pháp kiểm soát xác minh danh tính truyền thống.