YouTube đã công bố vào thứ Ba rằng công nghệ phát hiện hình ảnh giả của hãng đã chính thức được triển khai cho các creator đủ điều kiện trong Chương trình Đối tác YouTube, sau giai đoạn thử nghiệm. Công nghệ này cho phép các creator yêu cầu gỡ bỏ nội dung do AI tạo ra sử dụng hình ảnh của họ.

Đây là làn sóng đầu tiên của việc triển khai, một phát ngôn viên YouTube thông báo với TechCrunch, và cho biết thêm rằng các creator đủ điều kiện đã nhận được email sáng nay.

Cách Thức Hoạt Động Của Công Nghệ

Công nghệ phát hiện của YouTube xác định và quản lý nội dung do AI tạo ra có sử dụng hình ảnh của creator, chẳng hạn như khuôn mặt và giọng nói của họ. Công nghệ này được thiết kế để ngăn chặn việc lạm dụng hình ảnh của mọi người, dù là để quảng cáo sản phẩm và dịch vụ mà họ chưa đồng ý hỗ trợ hay để lan truyền thông tin sai lệch.

Đã có rất nhiều ví dụ về việc lạm dụng hình ảnh AI trong những năm gần đây, chẳng hạn như công ty Elecrow sử dụng bản sao AI giọng nói của YouTuber Jeff Geerling để quảng bá sản phẩm của họ.

Trên kênh Creator Insider của mình, công ty đã cung cấp hướng dẫn về cách creator có thể sử dụng công nghệ này. Để bắt đầu quá trình đăng ký, creator cần vào tab "Likeness" (Hình ảnh), đồng ý xử lý dữ liệu, và sử dụng điện thoại thông minh để quét mã QR hiển thị trên màn hình, điều này sẽ dẫn họ đến trang web để xác minh danh tính.

Quá trình này yêu cầu ảnh chứng minh thư và một video selfie ngắn. Khi YouTube cấp quyền truy cập sử dụng công cụ, creator có thể xem tất cả video được phát hiện và gửi yêu cầu gỡ bỏ theo hướng dẫn quyền riêng tư của YouTube, hoặc họ có thể đưa ra yêu cầu bản quyền. Ngoài ra còn có tùy chọn lưu trữ video.

Creator có thể chọn không sử dụng công nghệ này bất cứ lúc nào, và YouTube sẽ ngừng quét video sau 24 giờ kể từ khi họ làm vậy. Điều này cho thấy YouTube tôn trọng quyền lựa chọn của creator và không ép buộc họ phải sử dụng công cụ này.

Công nghệ phát hiện hình ảnh giả đã ở chế độ thử nghiệm từ đầu năm nay. YouTube lần đầu công bố năm ngoái rằng họ đã hợp tác với Creative Artists Agency (CAA) để giúp người nổi tiếng, vận động viên và creator xác định nội dung trên nền tảng sử dụng hình ảnh do AI tạo ra của họ.

Vào tháng 4, YouTube đã bày tỏ sự ủng hộ đối với luật được gọi là Đạo luật NO FAKES, nhằm giải quyết vấn đề các bản sao do AI tạo ra bắt chước hình ảnh hoặc giọng nói của một người để lừa dối người khác và tạo ra nội dung có hại.

Tầm Quan Trọng Trong Và Thách Thức

Việc triển khai công nghệ này diễn ra trong bối cảnh ngày càng có nhiều lo ngại về việc lạm dụng AI để tạo ra nội dung giả mạo. Deepfake và các công nghệ AI tương tự đã trở nên ngày càng tinh vi, khiến việc phân biệt nội dung thật và giả trở nên khó khăn hơn.

Đặc biệt, các creator nổi tiếng thường xuyên trở thành mục tiêu của những kẻ lạm dụng, sử dụng hình ảnh và giọng nói của họ để quảng cáo sản phẩm kém chất lượng hoặc lừa đảo, gây tổn hại đến danh tiếng và uy tín của họ.

Việc phát triển công nghệ phát hiện hình ảnh giả không phải là điều dễ dàng. YouTube phải đầu tư đáng kể vào nghiên cứu và phát triển để tạo ra các thuật toán có thể phân biệt chính xác giữa nội dung thật và giả, đồng thời giảm thiểu tỷ lệ báo động giả.

Công nghệ này cũng phải đối mặt với cuộc chạy đua vũ trang liên tục với những người tạo ra deepfake, khi họ liên tục cải thiện kỹ thuật để tránh bị phát hiện.

Việc ra mắt công cụ này được cộng đồng creator đón nhận tích cực, vì nó cung cấp cho họ một phương tiện pháp lý để bảo vệ hình ảnh và danh tiếng của mình. Trước đây, việc chống lại nội dung deepfake thường rất khó khăn và tốn kém.

Tuy nhiên, hiệu quả của công cụ này sẽ phụ thuộc vào độ chính xác của thuật toán phát hiện và tốc độ xử lý các yêu cầu gỡ bỏ. Creator cũng cần được đào tạo về cách sử dụng công cụ này một cách hiệu quả.

Hướng Phát Triển Tương Lai

YouTube có thể sẽ mở rộng công nghệ này cho nhiều creator hơn trong tương lai, không chỉ giới hạn ở những người trong Chương trình Đối tác. Công ty cũng có thể phát triển thêm các tính năng mới để cải thiện độ chính xác và tốc độ phát hiện.

Ngoài ra, YouTube có thể hợp tác với các nền tảng khác để tạo ra một hệ thống phát hiện deepfake toàn diện trên toàn bộ internet, giúp bảo vệ creator trên nhiều nền tảng khác nhau.