Lừa đảo bằng công nghệ AI (deepfake)

Deepfake là một công nghệ sử dụng trí tuệ nhân tạo (AI), đặc biệt là các thuật toán học sâu (deep learning), để tạo ra hoặc chỉnh sửa nội dung đa phương tiện như video, hình ảnh, hoặc âm thanh, sao cho trông giống thật nhưng thực chất là giả mạo. Tên "deepfake" xuất phát từ sự kết hợp giữa "deep learning" và "fake" (giả). Công nghệ này thường được dùng để thay đổi khuôn mặt, giọng nói, hoặc hành động của một người trong video, khiến người xem khó phân biệt đâu là thật, đâu là giả.


Deepfake hoạt động dựa trên các mạng nơ-ron nhân tạo, đặc biệt là Generative Adversarial Networks (GANs). GANs bao gồm hai mô hình: một mô hình tạo nội dung giả (generator) và một mô hình đánh giá xem nội dung đó có giống thật không (discriminator). Qua quá trình huấn luyện với lượng lớn dữ liệu (như hình ảnh hoặc video của một người), deepfake có thể tạo ra kết quả rất chân thực.

Công cụ nào hay được sử dụng để làm deepfake?

Có nhiều công cụ và phần mềm được sử dụng để tạo deepfake, từ những công cụ mã nguồn mở dành cho người có kiến thức kỹ thuật đến các ứng dụng đơn giản hơn dành cho người dùng phổ thông. Một số công cụ phổ biến bao gồm:

  1. DeepFaceLab: Một phần mềm mã nguồn mở, được sử dụng rộng rãi để tạo deepfake video. Nó yêu cầu người dùng có kiến thức cơ bản về lập trình và cần một máy tính mạnh để xử lý.
  2. Zao: Một ứng dụng di động của Trung Quốc, cho phép người dùng dễ dàng thay đổi khuôn mặt trong video chỉ với vài thao tác. Ứng dụng này từng gây tranh cãi vì tính đơn giản và khả năng lạm dụng.
  3. MyHeritage Deep Nostalgia: Dùng để "hồi sinh" ảnh cũ, làm cho người trong ảnh cử động như thật, nhưng cũng có thể bị lạm dụng.
  4. Faceswap: Một dự án mã nguồn mở khác, tương tự DeepFaceLab, tập trung vào việc hoán đổi khuôn mặt.
  5. Adobe After Effects kết hợp AI: Dùng trong các sản phẩm chuyên nghiệp, kết hợp với plugin AI để chỉnh sửa video tinh vi hơn.

Ngoài ra, các nhà phát triển chuyên nghiệp có thể sử dụng các thư viện lập trình như TensorFlow hoặc PyTorch để xây dựng deepfake tùy chỉnh.

Lĩnh vực nào bị ảnh hưởng bởi deepfake nhiều nhất?

Deepfake tác động đến nhiều lĩnh vực, nhưng dưới đây là những lĩnh vực chịu ảnh hưởng nặng nề nhất:

  1. Giải trí và truyền thông:
    • Ví dụ: Deepfake được dùng để tạo video giả mạo người nổi tiếng. Chẳng hạn, một video deepfake từng lan truyền cho thấy diễn viên Tom Cruise thực hiện các hành động kỳ lạ, nhưng thực tế là giả.
    • Tác động: Làm mất uy tín của người nổi tiếng hoặc bị lợi dụng để tạo nội dung khiêu dâm không mong muốn.
  2. Chính trị:
    • Ví dụ: Video giả mạo cựu Tổng thống Mỹ Barack Obama phát biểu những điều ông không bao giờ nói, được tạo ra bởi Jordan Peele năm 2018 để cảnh báo về deepfake.
    • Tác động: Có thể làm sai lệch thông tin trong các cuộc bầu cử hoặc gây hoang mang dư luận.
  3. Tài chính và lừa đảo:
    • Ví dụ: Năm 2019, một CEO ở Anh bị lừa chuyển 243.000 USD sau khi nhận cuộc gọi từ một giọng nói giả mạo (voice deepfake) của sếp mình.
    • Tác động: Deepfake âm thanh hoặc video được dùng để giả danh người có thẩm quyền, lừa đảo tiền bạc.
  4. Cá nhân và đời sống riêng tư:
    • Ví dụ: Deepfake khiêu dâm chiếm hơn 90% các video deepfake trên mạng, thường nhắm vào phụ nữ, bao gồm cả người nổi tiếng và người thường.
    • Tác động: Gây tổn hại danh tiếng, tâm lý cho nạn nhân.

Lừa đảo bằng deepfake tràn lan khắp Châu Á

Châu Á đang chứng kiến sự gia tăng chóng mặt của các vụ lừa đảo deepfake. Theo báo cáo từ Global Initiative, khu vực châu Á - Thái Bình Dương ghi nhận mức tăng 1.530% các vụ deepfake từ năm 2022 đến 2023, đứng thứ hai thế giới sau Bắc Mỹ. Việt Nam có mức tăng lừa đảo deepfake cao nhất khu vực (25,3%), tiếp theo là Nhật Bản (23,4%), và Philippines ghi nhận mức tăng trưởng số vụ lên đến 4.500%. Sự phát triển của các công cụ AI dễ tiếp cận, cùng với việc người dân chưa quen với việc nhận diện deepfake, đã tạo điều kiện cho tội phạm hoạt động.

Lý do vì ở khu vực châu Á, nơi công nghệ này đang được tội phạm khai thác ngày càng nhiều, có sự tăng trưởng mạnh mẽ và phổ biến của công nghệ số; song song là sự thiếu nhận thức của một lượng đáng kể người dân.
  1. Vụ lừa đảo 25 triệu USD tại Hồng Kông (2024)
    Một nhân viên tài chính tại chi nhánh Hồng Kông của công ty kỹ thuật Arup (Anh) đã bị lừa chuyển 25 triệu USD sau khi tham gia một cuộc gọi video hội nghị. Trong cuộc gọi, anh ta thấy "giám đốc tài chính" (CFO) và các đồng nghiệp khác yêu cầu thực hiện giao dịch bí mật. Sau khi kiểm tra với trụ sở chính, anh ta phát hiện tất cả những người trong video đều là deepfake, được tạo ra từ các đoạn phim công khai. Đây là một trong những vụ lừa đảo deepfake lớn nhất được ghi nhận ở châu Á, cho thấy mức độ tinh vi của tội phạm.
  2. Lừa đảo tình cảm "pig-butchering" ở Hồng Kông (2024)
    Cảnh sát Hồng Kông đã triệt phá một đường dây lừa đảo tình cảm sử dụng deepfake, thu về hơn 46 triệu USD từ các nạn nhân khắp châu Á, từ Đài Loan, Singapore đến Ấn Độ. Kẻ lừa đảo sử dụng video deepfake giả dạng phụ nữ xinh đẹp để xây dựng mối quan hệ trực tuyến với nạn nhân, sau đó dụ họ đầu tư vào các nền tảng tiền điện tử giả mạo. Đường dây này hoạt động trong một trung tâm công nghiệp rộng 4.000 feet vuông, với 27 nghi phạm bị bắt, phần lớn là những người trẻ tốt nghiệp ngành công nghệ và truyền thông.
  3. Deepfake của Thủ tướng Singapore Lý Hiển Long (2023)
    Một video deepfake lan truyền trên mạng cho thấy ông Lý Hiển Long "quảng bá" một cơ hội đầu tư tiền điện tử với lợi nhuận đảm bảo. Video này sử dụng giọng nói và hình ảnh được chỉnh sửa từ các bài phát biểu công khai của ông, khiến nhiều người dân Singapore suýt trở thành nạn nhân. Chính phủ đã phải lên tiếng cảnh báo và kêu gọi người dân kiểm tra nguồn thông tin.
  4. Lừa đảo bằng deepfake ở Trung Quốc (2023)
    Một phụ nữ làm việc trong lĩnh vực tài chính ở tỉnh Sơn Tây, Trung Quốc, đã bị lừa chuyển 1,86 triệu nhân dân tệ (khoảng 262.000 USD) sau khi nhận cuộc gọi video từ "sếp" của mình. Thực tế, đó là một video deepfake sử dụng giọng nói và khuôn mặt được sao chép từ các tài liệu công khai của người sếp. Vụ việc này cho thấy deepfake không chỉ nhắm vào cá nhân mà còn các doanh nghiệp nhỏ.
  5. Deepfake giả danh cảnh sát ở Thái Lan (2022)
    Tội phạm ở Thái Lan đã sử dụng deepfake để giả danh cảnh sát trong các cuộc gọi video, đe dọa nạn nhân rằng họ đang bị điều tra và yêu cầu chuyển tiền để "giải quyết vụ việc". Một số nạn nhân đã mất hàng chục nghìn baht trước khi phát hiện ra sự thật. Vụ việc này làm dấy lên lo ngại về việc deepfake bị lạm dụng để khai thác lòng tin vào cơ quan chức năng.
  6. Lừa đảo đầu tư giả danh người nổi tiếng ở Ấn Độ (2024)
    Các video deepfake giả mạo những người nổi tiếng như Shahrukh Khan và Virat Kohli đã được sử dụng để quảng bá các ứng dụng cá cược và đầu tư giả mạo. Những video này lan truyền trên mạng xã hội, thu hút hàng nghìn nạn nhân đầu tư tiền trước khi các nền tảng biến mất. Đây là một xu hướng phổ biến ở Nam Á, nơi người nổi tiếng có sức ảnh hưởng lớn.

Những người nào hay sử dụng deepfake?

  1. Tội phạm mạng: Sử dụng deepfake để lừa đảo tài chính, tống tiền, hoặc phát tán thông tin sai lệch.
  2. Nhà sáng tạo nội dung: Một số người dùng deepfake để làm video hài hước hoặc nghệ thuật, nhưng đôi khi vượt qua ranh giới đạo đức.
  3. Các tổ chức chính trị hoặc tuyên truyền: Dùng deepfake để thao túng dư luận hoặc bôi nhọ đối thủ.
  4. Người dùng cá nhân: Với các ứng dụng đơn giản như Zao, bất kỳ ai cũng có thể thử tạo deepfake cho mục đích cá nhân, nhưng đôi khi vô tình hoặc cố ý gây hại.

Có cách nào nhận ra deepfake và ngăn chặn nó?

Cách nhận ra deepfake:

  1. Quan sát chi tiết hình ảnh/video:
    • Nháy mắt không tự nhiên hoặc thiếu nháy mắt (một số deepfake cũ không tái tạo tốt hành vi này).
    • Biến dạng ở vùng ranh giới khuôn mặt (như tai, cổ) hoặc ánh sáng không đồng đều.
    • Chuyển động môi không khớp với âm thanh.
  2. Phân tích kỹ thuật:
    • Sử dụng phần mềm phát hiện deepfake như Sensity, Deepware Scanner, hoặc công cụ của Microsoft (Video Authenticator).
    • Kiểm tra metadata của file để xem có dấu hiệu chỉnh sửa không.
  3. Hành vi bất thường:
    • Nếu nội dung quá kỳ lạ hoặc không phù hợp với tính cách của người trong video, hãy nghi ngờ.

Cách ngăn chặn deepfake:

  1. Công nghệ chống deepfake:
    • Các công ty như xAI, Google, và Facebook đang phát triển AI để phát hiện và đánh dấu nội dung deepfake.
    • Blockchain có thể được dùng để xác thực nguồn gốc video/hình ảnh.
  2. Pháp luật và quy định:
    • Nhiều quốc gia (như Mỹ, Trung Quốc) đã ban hành luật cấm sử dụng deepfake gây hại, với mức phạt nặng.
    • Ví dụ: California (Mỹ) cấm deepfake trong chính trị trước bầu cử.
  3. Nâng cao nhận thức:
    • Giáo dục cộng đồng về deepfake để họ cảnh giác hơn với nội dung trực tuyến.
    • Khuyến khích xác minh thông tin từ nhiều nguồn đáng tin cậy.
  4. Bảo vệ cá nhân:
    • Hạn chế chia sẻ hình ảnh/video cá nhân công khai để tránh bị thu thập dữ liệu huấn luyện deepfake.

Deepfake là một công nghệ đầy tiềm năng nhưng cũng rất nguy hiểm nếu bị lạm dụng. Hiện nay, dù có cách nhận diện và ngăn chặn, cuộc đua giữa những kẻ tạo deepfake và những người chống lại nó vẫn tiếp diễn. Để bảo vệ bản thân, sự kết hợp giữa nhận thức cá nhân, công nghệ, và pháp luật là rất cần thiết.

Nhận xét

Đăng nhận xét

Popular Posts

Kỹ năng quan trọng nhất không ai dạy bạn - Zat Rana

Hình ảnh
Trước khi chết ở tuổi 39, Blaise Pascal đã có những đóng góp lớn lao cho cả vật lý và toán học, đáng chú ý nhất là trong chất lưu, hình học và xác suất. Tuy nhiên công trình này có thể còn tác động nhiều hơn phạm vi lĩnh vực khoa học tự nhiên. Nhiều lĩnh vực ngày nay chúng ta phân loại theo nhóm khoa học xã hội, trong thực tế cũng đã phát triển vượt ra khỏi nền tảng ông giúp xây dựng nên. Thú vị là rất nhiều công trình đã được hoàn thành trong những năm tháng ông còn tuổi teen, chỉ có một số ra đời vào những năm hai mươi tuổi. Khi là người trưởng thành, lấy cảm hứng từ trải nghiệm tôn giáo, ông đã thực sự bắt đầu tiến vào lĩnh vực triết học và thần học. Ngay trước khi qua đời, ông đã đưa ra những quan điểm cá nhân, sau này được phát hành thành một bộ sưu tập dưới cái tên Pensées (Suy tưởng) . Trong khi cuốn sách chủ yếu chỉ coi như một trường hợp lựa chọn đời sống tôn giáo và đức tin của một nhà toán học, thì điều gây tò mò hơn cả lại là các suy tưởng rõ ràng và s...
Read more »

Mark Manson: Qui tắc của Kant

Hình ảnh
Tùy quan điểm của bạn, Immanuel Kant có lẽ là một người nhàm chán nhất hành tinh hoặc cơn mộng tinh của một hacker năng suất. Trong suốt hơn 40 năm, ông ấy đều thức dậy lúc 5 giờ sáng và viết lách chính xác trong ba giờ. Sau đó ông đi giảng dạy tại cùng một trường đại học trong chính xác 4 giờ nữa. Rồi ông tiếp tục ăn trưa tại cùng một nhà hàng mỗi ngày. Sau đó, vào buổi chiều, ông có thể đi dạo trong cùng một công viên, và trở về nhà trên một con đường vào đúng một giờ mỗi ngày. Ngày nào cũng thế. Kant dành toàn bộ cuộc đời sống ở Königsberg, đế quốc Phổ. Tôi nói là theo nghĩa đen. Ông không bao giờ rời khỏi thành phố này. Dù chỉ cách biển một giờ, nhưng ông cũng không bao giờ nhìn thấy nó. (Còn một chuyện buồn cười nữa: Isaac Newton cũng chưa bao giờ nhìn thấy biển, dù sống cách biển chỉ vài giờ. Nhưng điều không thể tin nổi là Newton lại là người khám phá ra lực hấp dẫn của mặt trăng chính là nguyên nhân gây ra thủy triều. Và ông khám phá ra điều đó mà chưa bao giờ nhìn thấy thủ...
Read more »

Những lời chúc khai trương cửa hàng, doanh nghiệp hay nhất

Hình ảnh
Ở Việt Nam, cứ hễ nghe tin ai đó khai trương cửa hàng, công ty, hay thậm chí chỉ là… mở cái năm mới, là cả làng cả xóm ùa vào chúc tụng rôm rả như hội! Lời chúc thì phải "hoành tráng", kiểu như "Làm ăn phát đạt, tiền vào như nước, khách đông như hội, giàu to như núi!" – nghe mà muốn mở thêm chục cái cửa hàng nữa cho bõ! Không chỉ dừng ở lời nói, người Việt còn sáng tạo với cả phong bì đỏ, hoa tươi, và đôi khi là nguyên con heo quay lấp lánh để "lấy hên". Chưa kể, nếu bạn lỡ quên chúc đúng giờ vàng, thể nào cũng bị bà chủ tiệm bánh mì cạnh nhà liếc xéo: "Chúc gì mà muộn thế, tiền nó chạy mất rồi!" Thôi thì, cứ chúc sớm, chúc nhiều, chúc cho vui, vì ở Việt Nam mình, lời chúc không chỉ là lời nói, mà là cả một nghệ thuật "hút lộc" đầy hài hước và ấm áp! Khai trương suôn sẻ, khách hàng tấp nập, tiền vô ào ào! Chúc mừng, chúc mừng! Chúc mừng em Thao, khai trương cửa hàng yến sào, khách vô ào ào, làm ăn phát đạt. Chúc Công ty ngày càng p...
Read more »

Dành cho người khởi nghiệp: Sức mạnh của việc Không Làm Gì

Hình ảnh
Ảnh gốc xuất bản trên jotform.com Con cá sấu già đang nằm nổi bên bờ sông khi một con cá sấu trẻ hơn bơi tới bên cạnh nó. “Tôi nghe nhiều người nói rằng bác là tay thợ săn ác liệt nhất con sông này. Làm ơn hãy dạy tôi các kỹ thuật của bác.” Bị đánh thức khỏi giấc ngủ ngắn trong một ngày đẹp trời, con cá sấu già liếc nhìn con cá sấu trẻ với đôi mắt bò sát của mình, không nói gì và sau đó lại ngủ thiếp đi trên mặt nước. Cảm thấy thất vọng và thiếu tôn trọng, cá sấu trẻ bơi ngược dòng đuổi theo mấy con cá da trơn, để lại phía sau một loạt bong bóng. Nó nhủ thầm: “Mình sẽ cho bác ta thấy.” Cuối ngày, con cá sấu trẻ trở lại bên cá sấu già, kẻ vẫn đang ngủ và bắt đầu khoe khoang về cuộc săn mồi thành tựu của nó. “Tôi đã bắt được hai con cá da trơn đầy thịt hôm nay. Bác bắt được gì rồi? Không có gì ư? Có lẽ bác không mạnh như người ta nói.” Không hề bị ảnh hưởng, con cá sấu già lại nhìn cá sấu trẻ, không nói gì, nhắm mắt lại và tiếp tục nổi trên mặt nước khi những chú...
Read more »

Machine Learning cho mọi người - 5: Học tăng cường (Reinforcement Learning)

Hình ảnh
5. Học tăng cường (Reinforcement Learning) Thăm dò và khai thác. Qui trình ra quyết định Markov. Học theo mô hình Q, học theo qui tắc, và học sâu tăng cường. “Tôi chỉ ăn một ít sôcôla để hoàn thành phần cuối này.” Trong học có giám sát, dữ liệu đào tạo đi theo một từ khóa trả lời từ đối tượng giống như “người giám sát”. Giá mà cuộc sống chỉ làm việc theo cách đó! Trong học tăng cường (reinforcement learning – RL), không có từ khóa trả lời, nhưng agent học tăng cường của bạn vẫn phải quyết định cách vận hành tác vụ của nó. Khi vắng mặt dữ liệu đào tạo, agent sẽ học từ kinh nghiệm. Nó tập hợp các ví dụ đào tạo (“hành vi này tốt, hành vi kia xấu”) thông qua thử và sai khi cố gắng hoàn thành nhiệm vụ, với mục tiêu tối đa hóa lợi ích trong dài hạn. Trong phần cuối này, chúng ta sẽ khám phá: -           Đánh đổi thăm dò/khai thác -           Qui trình ra quyết định Markov (Mark...
Read more »