Cách bảo vệ doanh nghiệp của bạn khỏi những video giả mạo được tạo ra bởi trí tuệ nhân tạo

Gần đây, các tội phạm mạng đã sử dụng các video deepfake của các nhà điều hành của một tập đoàn đa quốc gia để thuyết phục nhân viên của công ty đó tại Hồng Kông chuyển khoản ra ngoài 25,6 triệu đô la Mỹ. Dựa trên một cuộc họp trực tuyến hiển thị nhiều video deepfake, các nhân viên tin rằng giám đốc tài chính của công ty đó đặt tên ở Anh đã yêu cầu chuyển khoản số tiền. Cảnh sát đã bắt giữ được sáu người liên quan đến vụ lừa đảo này. Việc sử dụng công nghệ trí tuệ nhân tạo này là nguy hiểm và gian lận. Nếu không có các hướng dẫn và khung cơ sở phù hợp, nhiều tổ chức sẽ rơi vào bẫy của các vụ lừa đảo AI như deepfakes.

Deepfakes 101 và sự đe dọa ngày càng tăng cao

Deepfakes là các hình thức của phương tiện truyền thông bị chỉnh sửa kỹ thuật số – bao gồm ảnh, video và đoạn âm thanh – có vẻ như mô tả một người thật. Chúng được tạo ra bằng cách huấn luyện một hệ thống trí tuệ nhân tạo trên các đoạn clip thực sự có mặt của một người, và sau đó sử dụng hệ thống trí tuệ nhân tạo đó để tạo ra các phương tiện mới (tuyệt vời nhưng không chân thực). Việc sử dụng deepfake đang trở nên phổ biến hơn. Vụ việc tại Hồng Kông là một trong loạt các vụ việc deepfake nổi bật trong những tuần gần đây. Hình ảnh giả mạo và tường thuật về Taylor Swift đã lan truyền trên mạng xã hội, đảng chính trị của một ứng cử viên bị giam giữ trong bầu cử tại Pakistan đã sử dụng video deepfake của ông để phát biểu và một ‘bản sao giọng nói’ deepfake của Tổng thống Biden đã gọi điện cho cử tri chính để yêu cầu họ không bầu cử.

Các vụ án deepfake ít nổi bật hơn do tội phạm mạng cũng đang tăng lên cả về quy mô và sự tinh vi. Trong lĩnh vực ngân hàng, các tội phạm mạng hiện đang cố gắng vượt qua xác thực giọng nói bằng cách sử dụng bản sao giọng nói của mọi người để giả mạo người dùng và tiếp cận với quỹ của họ. Ngân hàng đã phản ứng bằng cách cải thiện khả năng xác định việc sử dụng deepfake và tăng yêu cầu xác thực.

Tội phạm mạng cũng đã nhắm đến các cá nhân bằng cách sử dụng các cuộc tấn công “spear phishing” sử dụng deepfakes. Một phương pháp phổ biến là đánh lừa gia đình và bạn bè của một người bằng cách sử dụng bản sao giọng nói để giả mạo ai đó trong cuộc gọi điện và yêu cầu chuyển khoản tiền vào một tài khoản của bên thứ ba. Trong năm ngoái, một cuộc khảo sát của McAfee cho thấy 70% người được khảo sát không tự tin rằng họ có thể phân biệt giữa người và bản sao giọng nói của họ và gần một nửa số người được khảo sát sẽ phản ứng với yêu cầu chuyển khoản tiền nếu người thân hoặc bạn bè gọi điện khẳng định rằng họ đã bị cướp hoặc gặp tai nạn xe hơi.

Tội phạm mạng cũng đã gọi điện cho người dân giả mạo là các cơ quan thuế, ngân hàng, nhà cung cấp dịch vụ y tế và bảo hiểm trong nỗ lực để thu thập thông tin tài chính và cá nhân.

Vào tháng 2, Ủy ban Truyền thông Liên bang quy định rằng các cuộc gọi điện sử dụng giọng nói con người được tạo ra bởi trí tuệ nhân tạo là bất hợp pháp trừ khi được sự đồng ý rõ ràng trước đó của bên được gọi. Ủy ban Thương mại Liên bang cũng đã hoàn thiện một quy định cấm giả mạo của trí tuệ nhân tạo của các tổ chức chính phủ và doanh nghiệp và đề xuất một quy định tương tự cấm giả mạo của cá nhân. Điều này thêm vào danh sách ngày càng tăng về các biện pháp pháp lý và quy định được đưa ra trên toàn thế giới để chống lại deepfakes.

Để bảo vệ mình khỏi các deepfake

Để bảo vệ nhân viên và uy tín thương hiệu khỏi các deepfake, các nhà lãnh đạo nên tuân theo các bước sau:

• Hướng dẫn nhân viên 1 cách liên tục: Cả về các dạng lừa đảo có sử dụng trí tuệ nhân tạo và, nói chung, về các khả năng mới của trí tuệ nhân tạo và những rủi ro của chúng.

• Nâng cấp hướng dẫn phòng tránh lừa đảo: Bao gồm các mối đe dọa từ deepfake. Nhiều công ty đã giáo dục nhân viên về các email lừa đảo và khuyến cáo cảnh giác khi nhận các yêu cầu nghi ngờ qua email không mời. Hướng dẫn này nên bao gồm cả các chiêu thức lừa đảo sử dụng deepfake và lưu ý rằng chúng có thể sử dụng không chỉ văn bản và email mà còn video, hình ảnh và âm thanh.

• Tăng cường hoặc hiệu chỉnh việc xác thực: Nhân viên đối tác kinh doanh và khách hàng một cách thích hợp. Ví dụ, sử dụng hơn một phương thức xác thực tùy thuộc vào tính nhạy cảm và rủi ro của một quyết định hoặc giao dịch.

• Xem xét tác động của deepfake đối với tài sản của công ty: Như logo, nhân vật quảng cáo và chiến dịch quảng cáo. Những tài sản của công ty này có thể dễ dàng được sao chép bằng deepfake và lan truyền nhanh chóng qua mạng xã hội và các kênh internet khác. Xem xét cách công ty sẽ giảm thiểu những rủi ro này và giáo dục các bên liên quan.

• Mong đợi nhiều hơn và deepfake tốt hơn  : Do tốc độ cải thiện của trí tuệ nhân tạo phát sinh, số lượng quá trình bầu cử lớn đang diễn ra trong năm 2024, và sự dễ dàng mà deepfake có thể lan truyền giữa người và qua biên giới.

Mặc dù deepfake là một vấn đề an ninh mạng, các công ty cũng nên coi chúng như là những hiện tượng phức tạp và mới nổi có những hậu quả rộng lớn hơn. Một cách tiếp cận tích cực và cân nhắc để đối phó với deepfake có thể giúp giáo dục các bên liên quan và đảm bảo rằng các biện pháp chống lại chúng là có trách nhiệm, cân xứng và thích hợp.

(Nguồn: ai-news.com)

 

☞ Có thể bạn quan tâm