Xuất hiện hình thức lừa đảo bằng deepfake

Tội phạm sử dụng AI đang dần xuất hiện.

Deepfake là thuật ngữ dùng để chỉ những video giả mạo, bị chỉnh sửa, bóp méo khiến chúng trông như thật nhờ sự hỗ trợ của phần mềm trí tuệ nhân tạo đang gây bão trong cộng đồng mạng thế giới. Phần mềm này vốn được xây dựng để phô diễn sức mạnh của trí tuệ nhân tạo, nhưng hiện đang bắt đầu bị lợi dụng để trục lợi.

Theo tờ The Wall Street Journal, tuần trước một CEO của một công ty năng lượng tại Anh đã bị lừa gửi 200.000 Bảng Anh tới một nhà cung cấp Hungary bởi ông này tin rằng cấp trên của mình đang ra chỉ thị cho ông làm điều đó. Nhưng công ty bảo hiểm của họ, Euler Hermes Group SA, tiết lộ rằng một kẻ lừa đảo đã sử dụng phần mềm deepfake để giả mạo giọng nói của lãnh đạo và yêu cầu ông này chuyển tiền.

Theo phát ngôn viên của Euler Hermes, phần mềm này có thể giả mạo từ giọng nói cho đến tông giọng, cách nhấn nhá và cả phương ngữ của người nói. Cuộc gọi tới cùng với một email, và CEO này đã làm theo. Số tiền đã bị chuyển qua hàng loạt tài khoản ở Hungary và Mexico và hiện không còn khả năng truy dấu.

Còn theo The Washington Post, công ty an ninh mạng Symantec cho biết đã gặp ít nhất ba vụ việc kẻ lừa đảo sử dụng deepfake để lừa các công ty gửi tiền. Trong đó ít nhất một vụ việc gây thiệt hại lên đến hàng triệu đô la.

Điều này cũng nhấn mạnh sự nguy hiểm của việc nghiên cứu trí tuệ nhân tạo, đặc biệt xung quanh mảng tái tạo hình ảnh và âm thanh. Dịch vụ Duplex đang gây tranh cãi của Google sử dụng AI để giả giọng một người thật để nó có thể thực hiện cuộc gọi thay cho người dùng. Một vài công ty các cũng cung cấp các dịch vụ tương tự một cách miễn phí trên các điện thoại thông minh.

Các nhà nghiên cứu đang tập trung phát triển phần mềm nhận diện deepfake. Họ đang dần xác định một deepfake có thể được tạo nên một cách thuyết phục tới đâu khi sử dụng lượng dữ liệu ít hơn. Nói cách khác, deepfake đã hiện diện, và nó có thể trở nên cực kì nguy hiểm. Và chúng ta cần phải có những công cụ để phân biệt thật và giả càng sớm càng tốt.

                                                                                                                                                                   Theo TĐHNN