Với khả năng cho phép người dùng tạo ra một deepfake gần như tức thời bằng cách sử dụng khuôn mặt của chính họ ghép vào thân của một người nổi tiếng, Zao - ứng dụng được tạo ra bởi nhà phát triển của nền tảng mạng xã hội Momo Inc. - đã trở nên cực kỳ thịnh hành kể từ khi ra mắt vào thứ sáu vừa qua.

Theo tờ South China Morning Post, các bài đăng với hashtag #zao đã nhận được hơn 8 triệu lượt xem trên Weibo, phiên bản Twitter của China. Và theo các bản tin của Bloomberg, Zao đã bước lên vị trí đầu bảng xếp hạng phần mềm miễn phí của iOS App Store ở Trung Quốc vào Chủ nhật vừa qua và hiện vẫn chưa có dấu hiệu sụt giảm.

Ứng dụng này hoạt động ra sao? Cực kỳ dễ dàng, đến mức đáng sợ. Người dùng chỉ cần trao cho ứng dụng này một bức ảnh selfie, và khuôn mặt họ sẽ được "thả" vào thân hình của một ngôi sao phim ảnh nổi tiếng như Leonardo DiCapiro, Sheldon trong The Big Bang Theory, hay John Bradley trong Game of Thrones. Bạn chỉ có thể tải lên ảnh khuôn mặt bạn vào những cảnh phim hay TV có sẵn trong ứng dụng - bạn không thể thêm khuôn mặt của ai đó vào một cảnh quay khác, như một vụ phạm tội hay một sự kiện chính trị nào đó.

Người dùng Twitter "Allan Xia" đã thử dùng ứng dụng để thay thế khuôn mặt DiCaprio trong các cảnh từ các bộ phim như Titanic và Baz Lurhmann trong Romeo + Juliet. Theo anh này, tất cả đều diễn ra chỉ trong vòng 8 giây. Và chất lượng của các video deepfake là cực cao.

Người dùng Twitter Matthew Brennan cũng thử thay khuôn mặt mình vào nhân vật Sheldon, và dù nó không xuất sắc như video trên, đoạn video deepfake được tạo ra chỉ trong vài giây.

Và đây là người dùng Twitter Sam Driver-Tweddell, anh này thay thế Samwell Tarly trong Game of Thrones.

Tuy nhiên, sự phổ biến của Zao, cũng như việc nó là một ứng dụng chuyên tạo deepfake, đã dẫn đến những quan ngại không tránh khỏi về quyền riêng tư. Đặc biệt là trong quá trình tải lên hình ảnh, khi mà người có thể thêm một ảnh đã có của chính họ, howacj chụp ảnh mới bằng ứng dụng này - bao gồm cả những hình ảnh bạn đang nháy mắt để hỗ trợ cho ứng dụng dựng nên những thước phim deepfake chân thực.

Theo nhà phát hành, trong bản "Thỏa thuận người dùng" mới được điều chỉnh của Zao, họ tuyên bố có những quyền "tự do, không thể chối bỏ, vĩnh viễn, có thể chuyển nhượng, và có thể tái cấp phép" đối với bất kỳ nội dung nào được tải lên ứng dụng.

Chính vì vậy, người dùng đã khiến ứng dụng này phải nhận một cơn lũ hơn 4.000 đánh giá tiêu cực, với điểm số chỉ 1.9/5, nhiều trong số đó đề cập đến vấn đề quyền riêng tư.

Nhà phát hành cho biết Zao đã cập nhật "Thỏa thuận người dùng" thêm lần nữa, khẳng định bất kỳ bức ảnh selfie hay video nào được thêm vào ứng dụng sẽ không được dùng vào bất kỳ việc gì khác ngoài cải tiến ứng dụng hoặc bất kỳ việc gì khác ngoài những việc người dùng đã đồng ý trước đó.

Quan trọng là, ứng dụng cho biết bất kỳ nội dung nào được xóa bởi người dùng sẽ bị xóa khỏi máy chủ của Zao, dù điều này nghe có phần "điêu".

"Chúng tôi hiểu những quan ngại về quyền riêng tư. Chúng tôi đã tiếp nhận phản hồi, và sẽ khắc phục những vấn đề mà chúng tôi chưa xem xét, nên sẽ cần thời gian" - đó là những gì tài khoản Weibo của Zao đăng tải.

Nền tảng tin nhắn WeChat của Trung Quốc đã chặn toàn bộ các nội dung chia sẻ từ Zao kể từ thứ 2 tuần này.

Người dùng đã đúng khi quan ngại về vấn đề quyền riêng tư trong các ứng dụng đổi mặt và tạo deepfake. Nền tảng gây bão mạng mới đây là FaceApp - cho phép người dùng xem lúc mình già đi hoặc chuyển giới tính sẽ ra sao - đã bị chỉ trích kịch liệt vì những chính sách về quyền riêng tư với nhiều vấn đề phức tạp cùng một số thứ khác.

Bản thân deepfake cũng đã gây ra nhiều tranh cãi. Dù chúng có thể khá thú vị, chúng ngày càng đáng sợ hơn trong bối cảnh công nghệ deepfake ngày một tinh vi - và với Zao, ngày một nhanh hơn. Thông tin giả gây hại lan nhanh như cháy rừng, và nếu một ứng dụng gây bão mạng có thể đẩy nhanh tốc độ lây lan của ngọn lửa đó, chúng ta chắc chắn sẽ gặp rắc rối.

Theo GenK