Rủi ro an toàn từ công nghệ AI tạo sinh

Đổi mới sáng tạo nhờ AI tạo sinh

Tạo ra văn bản, hình ảnh và âm thanh đến các hình thức sáng tạo khác, AI tạo sinh đã vượt qua các ranh giới truyền thống và mở rộng phạm vi khả năng sáng tạo của con người. Đó là nhờ AI tạo sinh có thể “học” từ các dữ liệu đầu vào để tạo ra những sản phẩm mới và có tính sáng tạo. Chính vì vậy, AI tạo sinh đã nhanh chóng trở thành một trong những xu hướng quan trọng trong lĩnh vực AI ngày nay, với khả năng tạo ra nội dung sáng tạo và đa dạng.

Cách hoạt động của AI tạo sinh tập trung vào việc tìm ra các mẫu và xu hướng từ dữ liệu đầu vào, sau đó sử dụng những thông tin này để tạo ra nội dung mới mà có thể hoặc không giống với dữ liệu gốc. Kiến trúc mô hình GAN (Generative Adversarial Network) là một phần quan trọng của AI tạo sinh, bao gồm hai mô hình cạnh tranh: Mô hình tạo sinh và mô hình phân biệt. Dựa trên dữ liệu đào tạo có sẵn, mô hình tạo sinh thực hiện việc tạo ra nội dung với mục tiêu chặt chẽ hóa thông tin để đạt được sự tương đồng cao với các ví dụ trong tập dữ liệu đó.

Tiếp đến, một mô hình phân biệt được áp dụng để đánh giá kết quả tạo ra bằng cách đo lường khả năng mẫu thử nghiệm thuộc về tập dữ liệu gốc, thay vì xuất phát từ mô hình tạo sinh. Từ những kết quả kiểm tra này, mô hình liên tục điều chỉnh và tối ưu hóa để nội dung tạo ra, có khả năng tương đương với dữ liệu đào tạo ban đầu của mô hình tạo sinh.

Với cách hoạt động trên, trong vòng một năm trở lại đây, AI tạo sinh đã trở thành một công cụ phổ biến trên Internet. Cụ thể, sự ra mắt của ChatGPT, một công cụ AI tạo sinh mạnh mẽ được OpenAI giới thiệu vào tháng 11/2022, đã gây ra sự chấn động trong cộng đồng công nghệ AI và học máy. Bên cạnh đó, sự tiến bộ nhanh chóng trong các công nghệ AI như xử lý ngôn ngữ tự nhiên đã làm cho AI tạo sinh trở nên dễ tiếp cận với người dùng và những người sáng tạo nội dung quy mô lớn.

Theo đó, các tập đoàn công nghệ lớn đã nhanh chóng tham gia vào cuộc chạy đua này. Cụ thể, Google, Microsoft, Amazon, Meta và nhiều tên tuổi khác đều ra mắt các công cụ AI tạo sinh riêng trong vài tháng ngắn ngủi. Một báo cáo mới từ công ty phần mềm đám mây Salesforce (Mỹ) đã tiết lộ rằng, có tới 67% các nhà quản lý cao cấp trong lĩnh vực công nghệ thông tin đang đặt AI tạo sinh vào danh sách ưu tiên cho phát triển doanh nghiệp của họ trong khoảng thời gian 18 tháng tới, trong đó 1/3 (33%) xem đây là mục tiêu quan trọng hàng đầu.

Có thể nói, sự phổ biến của AI tạo sinh trong thời gian gần đây đã mở ra cơ hội mới cho nhiều lĩnh vực, như sáng tạo nghệ thuật, tiếp thị và giáo dục. Khả năng tạo ra nội dung tự động, nhanh chóng và có tính sáng tạo đã giúp các ngành công nghiệp tận dụng hiệu quả hơn sự phát triển của công nghệ này. Thậm chí, ngay cả việc tạo ra nội dung quảng cáo hấp dẫn đến việc tạo ra hình ảnh thiết kế mới, AI tạo sinh đã góp phần thay đổi cách mọi người tương tác với các khía cạnh khác nhau của cuộc sống hàng ngày.

Mối đe dọa của AI tạo sinh

Mặc dù AI tạo sinh mang đến những tiềm năng vượt trội trong việc sáng tạo và tạo nội dung, nhưng đồng thời cũng mở ra những cơ hội mà tin tặc và các tác nhân đe dọa có thể lợi dụng để thực hiện các cuộc tấn công mạng độc hại. Những rủi ro phát sinh từ AI tạo sinh là tạo ra nội dung giả mạo, gây ảnh hưởng đến tính xác thực, sự tin cậy và quyền riêng tư của người dùng. Điều này đang trở thành một thách thức lớn đối với an toàn thông tin và quyền riêng tư.

Một trong những lợi dụng chính của công nghệ AI tạo sinh trong tấn công mạng là công nghệ Deepfake. Theo đó, AI tạo sinh tạo ra các video, hình ảnh và âm thanh giả mạo với độ chân thực đáng kể. Điều này có thể dẫn đến việc tạo ra thông tin sai lệch, xuyên tạc thông điệp và gây hiểu lầm đối với công chúng; thậm chí có thể ảnh hưởng đến danh tiếng, tạo ra sự hoang mang trong xã hội và gây ra hậu quả hết sức nghiêm trọng.

AI tạo sinh có thể tạo ra các tin nhắn, email, thậm chí cuộc trò chuyện tự động mô phỏng giọng điệu và ngôn ngữ của người mục tiêu. Điều này làm cho các cuộc tấn công lừa đảo trở nên khó nhận biết hơn, khiến người nhận dễ bị lừa và tiết lộ thông tin cá nhân quan trọng.

Công nghệ AI tạo sinh cũng có thể được sử dụng để tạo ra các loại mã độc, mã nguồn và chương trình độc hại. Kẻ tấn công có thể tạo ra các loại phần mềm độc hại mới tinh vi với các khả năng che dấu vết và tránh bị phát hiện bởi các công cụ bảo mật. Bên cạnh đó, việc tạo ra các email và trang web giả mạo bằng cách sử dụng AI tạo sinh có thể làm cho các cuộc tấn công lừa đảo trở nên phức tạp hơn và khó phân biệt.

Đối với ngành quảng cáo, AI tạo sinh đang góp phần cho tình trạng gian lận quảng cáo gia tăng. Báo cáo mới đây của DoubleVerify (DV - nền tảng phần mềm hàng đầu về đo lường, dữ liệu và phân tích truyền thông kỹ thuật số) đã đưa ra những phân tích toàn diện, dựa trên dữ liệu thu thập từ hơn 1 nghìn tỷ lượt hiển thị video và quảng cáo trên mạng xã hội và truyền hình kết nối (CTV) tại các khu vực trên toàn cầu cho thấy, số vụ gian lận và các biến thể gian lận mới trong năm qua đã tăng 23% so với năm trước; các nhà quảng cáo cũng đối mặt với tỷ lệ gian lận, vi phạm truy cập không hợp lệ lên tới 17%.

Đáng chú ý, 54% các bên mua quảng cáo tại APAC (khu vực châu Á - Thái Bình Dương) khẳng định, tình trạng gia tăng các nội dung chất lượng thấp và các trang dành riêng cho quảng cáo (Made-For-Advertising - MFA) đang đe dọa nghiêm trọng hệ sinh thái kỹ thuật số. MFA được thiết kế để tăng cường các tiêu chí đo lường đơn lẻ như số lượt click và mức độ hiển thị, do đó thường đem đến cảm giác rằng quảng cáo đạt hiệu quả cao. Tuy nhiên, DV chỉ ra rằng, các trang MFA làm giảm 7% mức độ thu hút tổng thể đối với các quảng cáo hiển thị và 28% đối với quảng cáo video, so với các kênh chạy quảng cáo khác.

Có thể thấy, mặc dù AI tạo sinh mang lại những tiềm năng to lớn nhưng nó cũng được ví như là "con dao hai lưỡi", mở ra cơ hội cho các tấn công mạng tinh vi và phức tạp hơn. Việc lợi dụng AI tạo sinh để tạo ra thông tin giả mạo, thực hiện các cuộc tấn công lừa đảo, xâm phạm quyền riêng tư, gia tăng tình trạng gian lận quảng cáo đã tạo ra mối đe dọa lớn đối với an ninh thông tin, sự riêng tư của mọi người và doanh nghiệp.

Theo đó, các chuyên gia an ninh mạng khuyến cáo người dùng và doanh nghiệp nên ý thức bảo vệ dữ liệu của mình; việc chia sẻ dữ liệu cần được thực hiện một cách cẩn trọng và thông minh, đảm bảo rằng các biện pháp bảo mật và quản lý đã được áp dụng. Sự phối hợp từ cá nhân đến doanh nghiệp và chính quyền sẽ đóng vai trò quan trọng trong việc định hình tương lai của công nghệ AI tạo sinh, đảm bảo sự phát triển mạnh mẽ và bền vững trong thời đại chuyển đổi số hiện nay.