Các ứng dụng yêu cầu người dùng tải ảnh cá nhân lên và sau đó sử dụng trí tuệ nhân tạo để tạo bản sao kỹ thuật số hiện bị cấm trong lực lượng vũ trang Philippines. Ảnh: AFP/TTXVN
Theo hãng tin RT, Bộ Quốc phòng Philippines cho biết các ứng dụng yêu cầu người dùng tải ảnh cá nhân của họ lên và sau đó sử dụng trí tuệ nhân tạo để tạo bản sao kỹ thuật số của người đó hiện bị cấm trong lực lượng vũ trang Philippines. Bộ trưởng Quốc phòng Gilberto Teodoro Jr. cảnh báo những ứng dụng như vậy có thể gây ra rủi ro về bảo mật.
Ngày 20/10, các quan chức quân sự Philippines đã xác nhận tính xác thực của một bản ghi nhớ do Bộ trưởng Teodoro đưa ra vào tuần trước. Tuy nhiên, bộ này không cung cấp thêm bất kỳ thông tin chi tiết nào liên quan đến lệnh cấm.
Trong bản ghi nhớ, người đứng đầu Bộ Quốc phòng Philippines đã đề cập đến một ứng dụng sử dụng AI để tạo ra “bảnsao kỹ thuật số bắt chước cách giọng nói và cử chỉ” của người dùng sau khi được cung cấp 10 bức ảnh cá nhân của họ.
Theo Bộ trưởng Teodoro, ứng dụng hỗ trợ AI tưởng chừng như vô hại và mang tính chất giải trí này có thể được sử dụng với mục đích xấu để tạo hồ sơ giả mạo, dẫn đến hành vi trộm danh tính, lừa đảo qua mạng, tấn công lừa đảo và các hoạt động độc hại khác.
Trong bản ghi nhớ, Bộ Quốc phòng cũng đề cập đến một mối lo ngại khác, cho rằng “các phương tiện truyền thông xã hội bị lợi dụng có thể gây ra tình trạng bất ổn trong công chúng thông qua việc truyền bá thông tin sai lệch về các vấn đề chính trị, xã hội, quân sự hoặc kinh tế”.
Vị quan chức cấp cao kêu gọi cấp dưới thận trọng khi chia sẻ thông tin trực tuyến nói chung.
Tháng trước, Cơ quan An ninh Quốc gia Mỹ (NSA) và Cục Điều tra Liên bang (FBI) đã đưa ra cảnh báo về mối đe dọa đối với công nghệ “deepfake” có khả năng được sử dụng để giúp xâm nhập hệ thống máy tính trong quân đội và các mục tiêu nhạy cảm khác.
“Các công cụ và kỹ thuật để thao túng đa phương tiện không phải là mới, nhưng mức độ dễ dàng và quy mô mà các yếutố mạng đang sử dụng những kỹ thuật này là mới”, nhà toán học Candice Rockwell Gerstner của NSA giải thích. Ngoài các doanh nghiệp, các cơ quan an ninh Mỹ cũng như Lầu Năm Góc và các nhà thầu quốc phòng cũng gặp rủi ro.