Trung Quốc đã ban hành dự thảo quy định đối với các nhà cung cấp nội dung liên quan đến việc thay đổi dữ liệu khuôn mặt và giọng nói. Ảnh minh họa: AFP
Đây là động thái mới nhất của Bắc Kinh nhằm ngăn chặn “deepfake” - công nghệ cho phép người dùng có thể chỉnh sửa khuôn mặt, khẩu hình của nhân vật trong video hoặc ảnh bằng trí tuệ nhân tạo (AI).
Theo dự thảo được công bố trên trang web của CAC, các quy định mới nhằm tăng cường quản lý những công nghệ như công nghệ sử dụng thuật toán để tạo và chỉnh sửa văn bản, âm thanh, hình ảnh và video.
Cụ thể, bất kỳ nền tảng hoặc công ty nào sử dụng thuật toán “học sâu” (deep learning) hoặc thực tế ảo (VR) để thay đổi bất kỳ nội dung trực tuyến nào sẽ phải tôn trọng các quy định về đạo đức xã hội, tuân thủ định hướng chính trị đúng đắn. “Học sâu” là một dạng của thuật toán “máy học” (learning machine) với độ phức tạp cao hơn, giúp AI có thể tự học các kiến thức như con người.
Dự thảo quy định cũng tạo ra một hệ thống khiếu nại của người dùng và những cơ chế để ngăn chặn “deepfake” được dùng để phát tán tin giả. Các cửa hàng ứng dụng di động cũng được yêu cầu ngừng hoặc loại bỏ các nhà cung cấp công nghệ deepfake nếu cần thiết.
Theo CAC, quy định mới sẽ giúp bảo vệ người dân Trung Quốc tránh bị mạo danh trái phép do công nghệ deepfake, với những hình ảnh gần như không thể phân biệt được so với ảnh gốc, dễ dàng bị lợi dụng vào mục đích thao túng thông tin hoặc thông tin sai.
Dự thảo quy định cũng xác định mức phạt tiền từ 10.000 - 100.000 Nhân dân tệ (1.600 - 16.000 USD) đối với người vi phạm lần đầu, và các mức độ vi phạm có thể dẫn đến khởi kiện dân sự và khởi tố hình sự.