Thứ Ba ngày 21 tháng 5 năm 2024

YouTube đưa ra chính sách mới đối với nội dung do AI tạo ra

Nền tảng chia sẻ video online lớn nhất thế giới YouTube ngày 14-11-2023 đã công bố cách họ sẽ tiếp cận việc xử lý nội dung do trí tuệ nhân tạo (AI) tạo ra (AI-created content) trên YouTube với một loạt chính sách mới xung quanh việc tiết lộ có trách nhiệm (responsible disclosure) cũng như các công cụ mới để yêu cầu xóa các nội dung giả mạo, cùng nhiều thứ khác. YouTube cho biết, mặc dù họ đã có chính sách cấm tác phẩm bị thao túng (manipulated media), nhưng AI vẫn đòi hỏi phải hình thành các chính sách mới vì nó có khả năng đánh lừa người xem nếu họ không biết video đã bị “thay đổi hoặc tạo một cách tổng hợp (altered or synthetically created)”.

Một trong những thay đổi sẽ được triển khai liên quan đến việc đưa ra các yêu cầu tiết lộ mới đối với người sáng tạo trên YouTube. Giờ đây, người sáng tạo sẽ phải tiết lộ thời điểm họ tạo nội dung đã được thay đổi hoặc tổng hợp trông giống thực tế, bao gồm cả các video được tạo bằng công cụ AI. Ví dụ: thông tin tiết lộ này sẽ được sử dụng nếu người sáng tạo tải lên một video có vẻ như mô tả một sự kiện trong thế giới thực chưa từng xảy ra hoặc chiếu cảnh ai đó nói những điều họ chưa từng nói hoặc làm điều gì đó họ chưa từng làm.

Cần nói rõ rằng việc tiết lộ này chỉ giới hạn ở nội dung “có vẻ thực tế” (appears realistic) và không phải là yêu cầu tiết lộ chung chung đối với tất cả video tổng hợp được thực hiện thông qua AI.

(Ảnh: Internet. Thanks.)

Ông Jack Malon, người phát ngôn của YouTube, nói với trang công nghệ TechCrunch: “Chúng tôi muốn người xem hiểu được bối cảnh khi họ xem nội dung thực tế, bao gồm cả khi các công cụ AI hoặc các thay đổi tổng hợp khác đã được sử dụng để tạo ra nội dung đó”. Ông lưu ý: “Điều này đặc biệt quan trọng khi nội dung thảo luận về các chủ đề nhạy cảm, như bầu cử hoặc xung đột đang diễn ra.”

Theo tác giả Sarah Perez trên trang TechCrunch, trên thực tế, nội dung do AI tạo ra là một lĩnh vực mà chính YouTube đang nghiên cứu. Hồi tháng 9-2023, YouTube đã công bố rằng họ đang chuẩn bị ra mắt một tính năng AI Tạo sinh (Generative AI) mới có tên Dream Screen vào đầu năm tới, cho phép người dùng YouTube tạo nền hình ảnh hoặc video do AI tạo ra bằng cách nhập những gì họ muốn xem. Cô cho biết: “Chúng tôi được biết tất cả các sản phẩm và tính năng AI tổng hợp của YouTube sẽ tự động được gắn nhãn là đã được thay đổi hoặc tổng hợp”.

YouTube cũng cảnh báo rằng những người sáng tạo không tiết lộ chính xác việc sử dụng AI của họ một cách nhất quán sẽ bị “xóa nội dung, đình chỉ khỏi Chương trình Đối tác YouTube (YouTube Partner Program) hoặc các hình phạt khác”. YouTube cho biết mình sẽ làm việc với những người sáng tạo để bảo đảm họ hiểu các yêu cầu trước khi phát trực tiếp. Tuy nhiên, YouTube lưu ý rằng một số nội dung AI, ngay cả khi được gắn nhãn, có thể bị xóa nếu chúng được sử dụng để thể hiện “bạo lực thực tế” (realistic violence) nếu mục tiêu là gây sốc hoặc khiến người xem cảm thấy ghê tởm. Đó dường như là một sự cân nhắc kịp thời, vì các nội dung giả mạo deepfake thực sự đã được sử dụng để khiến mọi người nhầm lẫn về cuộc chiến Israel-Hamas.

TechCrunch nhấn mạnh: Nếu YouTube có lập trường nhẹ nhàng hơn đối với AI bằng cách cho phép người sáng tạo mắc “sai lầm” và sau đó quay lại đăng nhiều video hơn, thì thiệt hại về việc lan truyền thông tin sai lệch có thể trở thành vấn đề. Công ty cũng không rõ các quy tắc tiết lộ AI của mình sẽ phải bị phá vỡ “nhất quán” như thế nào trước khi thực hiện các hành động trừng phạt.

Những thay đổi khác bao gồm khả năng bất kỳ người dùng YouTube nào cũng có thể yêu cầu xóa nội dung do AI tạo hoặc nội dung tổng hợp hoặc bị thay đổi khác mô phỏng một cá nhân có thể nhận dạng – hay còn gọi là nội dung giả mạo deepfake – bao gồm cả khuôn mặt hoặc giọng nói của cá nhân đó. Tuy nhiên, YouTube giải thích rằng không phải tất cả nội dung bị gắn cờ sẽ bị xóa, nhường chỗ cho nội dung nhại lại hoặc châm biếm. YouTube cũng cho biết họ sẽ xem xét liệu người yêu cầu xóa có thể được nhận dạng duy nhất hay không hoặc video có sự góp mặt của một quan chức nhà nước hoặc cá nhân nổi tiếng khác hay không, trong trường hợp đó “có thể có tiêu chuẩn cao hơn (there may be a higher bar)”.

Tất nhiên, động thái mới của YouTube chỉ nhằm ngăn ngừa việc lạm dụng AI gây ra những nguy hại cho cộng đồng. Thực tế, AI vẫn đang được sử dụng trong các lĩnh vực kinh doanh khác của YouTube, bao gồm cả việc tăng cường cho công việc của 20.000 người đánh giá nội dung (content reviewer) trên toàn thế giới và xác định những cách mới xuất hiện của các hành vi lạm dụng và đe dọa. YouTube nói rằng họ hiểu những kẻ xấu sẽ cố gắng lách các quy tắc của nền tảng và họ sẽ phát triển các biện pháp bảo vệ cũng như chính sách dựa trên phản hồi của người dùng.

Trong một bài đăng trên blog YouTube, Phó Giám đốc Quản lý Sản phẩm Jennifer Flannery O’Connor và Emily. Moxley, viết rằng: “Chúng tôi vẫn đang ở giai đoạn đầu của hành trình khám phá những hình thức đổi mới và sáng tạo mới trên YouTube bằng AI có khả năng sáng tạo. Chúng tôi vô cùng vui mừng về tiềm năng của công nghệ này và biết rằng những gì xảy ra tiếp theo sẽ gây tiếng vang trong các ngành công nghiệp sáng tạo trong nhiều năm tới. Chúng tôi đang dành thời gian để cân bằng những lợi ích này với việc bảo đảm sự an toàn liên tục cho cộng đồng của chúng tôi tại thời điểm quan trọng này – và chúng tôi sẽ hợp tác chặt chẽ với những người sáng tạo, nghệ sĩ và những người khác trong các ngành sáng tạo để xây dựng một tương lai có lợi cho tất cả chúng ta.”

S.P.T.C.

Nguồn: YouTube adapts its policies for the coming surge of AI videos.