Cập nhật: 08:31 17/12/2023

Generative AI khiến con người đối mặt với vấn nạn tin giả

Website kiểm chứng tin giả của Trung tâm xử lý tin giả, thông tin xấu độc Việt Nam trực thuộc Cục phát thanh, truyền hình và thông tin điện tử, Bộ Thông tin và truyền thông có địa chỉ: https://tingia.gov.vn; tham khảo thêm mục kiểm chứng thông tin của Báo Nhân Dân có địa chỉ: https://nhandan.vn/factcheck

Generative AI là một hệ thống tổng hợp thông tin chung, bao gồm cả tạo ra văn bản, hình ảnh, video và giọng nói... Thành tựu của nó đã làm cho các sản phẩm tạo sinh trở nên ngày càng giống với những gì con người có thể tạo ra. Từ việc viết bài, tạo hình ảnh đến việc tái tạo giọng nói của người nổi tiếng, Generative AI đã thách thức khả năng kiểm soát thông tin và phân biệt giữa sự thật và giả tạo.

Generative AI khiến con người đối mặt với vấn nạn tin giả

Nghiên cứu mới đã chỉ ra cách mà AI có thể tạo ra tin giả một cách dễ dàng. Việc sử dụng AI ChatGPT Plus và GPT-4 có thể sao chép văn bản của nhà báo uy tín và tạo ra bài viết mới theo phong cách khác nhau chỉ trong vài giây. Tương tự, việc làm giả hình ảnh, giọng nói và video cũng trở nên dễ dàng hơn với sự tiện lợi của các công nghệ Generative AI.

Những phương pháp này đặt ra một thách thức lớn trong công cuộc kiểm chứng thông tin. Trong quá trình kiểm tra, không chỉ cần xác định sự thật của thông tin mà còn phải đối mặt với khả năng tạo ra thông tin giả mạo một cách tinh vi từ các công nghệ AI.

Các chuyên gia cảnh báo rằng sự phổ biến của tin giả từ Generative AI đang làm thay đổi cách chúng ta nhìn nhận về sự thật và đặt ra nhiều thách thức trong công cuộc duy trì tính minh bạch và chân thực của thông tin truyền thông.

Ngoài ra, bài viết cũng đề cập đến khó khăn trong việc kiểm chứng thông tin khi sử dụng Generative AI. Các dấu vết kỹ thuật số có thể giúp, nhưng với sự phát triển nhanh chóng của công nghệ, các điểm yếu cũng được khắc phục một cách nhanh chóng.

Cuối cùng, bài viết đề xuất một số cách để đối phó với nguy cơ này, bao gồm nâng cao cảnh báo và đào tạo người tiêu thụ nội dung để nâng cao khả năng phân biệt thông tin thật và giả tạo. Hơn nữa, việc theo dõi và cập nhật các phương tiện AI đang phát triển sẽ là chìa khóa để đối phó với những thách thức ngày càng tăng về thông tin giả mạo từ Generative AI.

Cách làm tin giả từ AI tạo sinh:

- Có thể rất dễ dàng làm giả một bài viết của nhà báo uy tín bằng cách truy cập AI ChatGPT Plus, bật GPT-4, copy bài viết của nhà báo ấy, paste vào rồi bảo AI ChatGPT viết theo phong cách viết khác. Chỉ trong một tích tắc bạn sẽ có một bài viết y chang văn phong của nhà báo ấy. Làm tương tự như vậy đối với bài nghiên cứu đăng tạp chí khoa học.

- Cách làm giả một tấm ảnh có mặt một người nổi tiếng: Tải AI Stable Diffusion, lên YouTube xem hướng dẫn của mấy anh Ấn Độ cách dùng với plugin Control Net, lên facebook của người nổi tiếng ấy, kiếm vài tấm selfie rõ mặt của người ta, rồi đưa vào AI Stable Diffusion, xong viết cái hướng dẫn mô tả cho AI chế ra tấm ảnh người nổi tiếng ấy đang làm trò bậy bạ gì cũng được.

- Cách làm giả giọng nói của một người nổi tiếng: Sử dụng AI Coqui-TTS, kiếm bản ghi âm 5 phút giọng nói của người ấy để AI Coqui-TTS học sao chép giọng nói này.

Tiếp theo chúng ta có thể dùng ChatGPT-4 để ra lệnh nó viết một bài phát biểu theo phong cách của người này, rồi nhập cái bài phát biểu ấy cho CoquiTTS nó sẽ đọc y chang cái bài phát biểu đó ra.

- Cách làm giả một video về một người nổi tiếng: Sử dụng DeepFakeLive trên Github, rồi kiếm video nhiều góc mặt của nhân vật cần fake video để đưa vào huấn luyện. Tiếp theo bạn cần tải một video gốc vào để bot AI nó làm thao tác “thay mặt nhân vật” face-swap bằng Generative AI. Video Cristiano Ronaldo và Phương Mỹ Chi gần đây được tạo ra bằng cách này.

Khó khăn trong kiểm chứng thông tin

Kiểm chứng thông tin - một công việc mà người làm báo nào cũng phải làm, thường xuyên phải làm. Gần 20 năm nay, tôi vẫn luôn hỗ trợ anh chị em làm báo trong việc “pháp y kỹ thuật” (digital forensic) để xác định “văn bản”, “hình ảnh”, “video”, “ghi âm” là một bản ghi nguyên bản “original” hay một bản ghi đã bị chỉnh sửa “manipulated”.

Những dấu vết kỹ thuật số (digital fingerprints) giúp củng cố độ tin cậy cho những chứng cứ trong các bài báo, giúp đem lại niềm tin cho độc giả.

Thế nhưng đứng trước sự trỗi dậy của Generative AI câu hỏi quen thuộc trước nay của anh chị em khi “Kiểm tra dùm anh/chị cái video/cái hình/đoạn ghi âm này có phải thật không em?” lại khiến tôi khó khăn.

Trước đây tôi có thể chỉ mất vài phút chạy phân tích là có thể tự tin phán ngay “thật nhé anh ơi” hay “fake lòi” nhưng bây giờ, Generative AI hiện nay nó quá tốt, nó tạo ra nội dung quá thật, và quan trọng: AI hiện giờ quá dễ dùng quá dễ tiếp cận với người thường. Vì thế, việc xác định nội dung thật hay giả là điều rất khó khăn.

Làm thế nào để kiểm chứng thông tin?

Đầu tiên là chúng ta, những người tiêu thụ nội dung, những người đọc báo, những người coi ảnh, coi video cần mặc định “nghi ngờ tất cả” những thứ chúng ta xem. Bạn cần theo dõi các chuyên gia AI để biết được AI đang làm giả được tới mức độ nào, còn kém ở đâu. Dĩ nhiên các điểm yếu của AI chỉ mang tính thời điểm vì tốc độ cải thiện của AI là hàng tuần, những điểm tồn tại sẽ rất nhanh chóng được khắc phục. Phải cập nhật liên tục chứ định kiến là thứ không thể tồn tại và theo kịp với tốc độ phát triển AI.

AI tạo ảnh hiện đã tạo được hình ảnh rất chân thực, nhưng nếu tấm ảnh đó “quá nét”, làn da quá lì, quá mịn, không có mấy lỗ chân lông thì rất có thể đây là bức ảnh được tạo ra bởi AI. AI tạo ra một bài viết rất hay rất thuyết phục nhưng những nội dung chúng ta đang đọc rất khó tìm kiếm được trên Google/Bing thì khả năng cao là do AI bịa ra (hallucinations). AI có thể giả tạo giọng nói hoàn hảo, nhưng tông giọng sẽ hơi “đều đều”, AI vẫn còn kém trong việc lên xuống giọng ở những câu quá cao hoặc quá thấp. AI có thể deepfake gương mặt của bất kì ai hoàn hảo tới cảm xúc gương mặt khi nói, nhưng sẽ có những tích tắc mà khuôn miệng bị tách giữa “mặt fake” và “mặt thật”, miệng khi nói là một thứ rất khó sao chép hoàn hảo, AI vẫn còn yếu chỗ này.

Tin liên quan:
  • Generative AI khiến con người đối mặt với vấn nạn tin giả
    Thay đổi tên miền Website của Báo VTC News

    VTC News chuyển từ vtc.vn sang vtcnews.vn từ 25/2/2024 với mục đích cải thiện chất lượng thông tin và đáp ứng nhu cầu của độc giả hiện đại. Sự thay đổi này kỷ niệm 15 năm sứ mệnh “Dân sinh, nhân ái, đi đến cùng sự việc” của VTC News. Trang tin tức cam kết tiếp tục cung cấp nội dung mang tính độc đáo và công nghệ tiên tiến.

  • Generative AI khiến con người đối mặt với vấn nạn tin giả
    Trí tuệ nhân tạo trong hoạt động báo chí

    Những đột phá của trí tuệ nhân tạo (AI) đã đặt ra nhiều cơ hội và thách thức cho ngành báo chí và truyền thông. AI mang đến cơ hội cho các tổ chức truyền thông nhiều thông tin và định dạng cá nhân hơn, đồng thời giúp giải quyết tình trạng phân mảnh và quá tải thông tin.

  • Generative AI khiến con người đối mặt với vấn nạn tin giả
    Giải pháp ứng dụng trí tuệ nhân tạo trong lĩnh vực báo chí

    Trí tuệ nhân tạo (AI) đang dần trở thành một công cụ không thể thiếu trong lĩnh vực báo chí, giúp tự động hóa một số khâu trong quy trình sản xuất nội dung và tạo ra một kết nối chặt chẽ với độc giả.

Sưu tầm

Từ khóa:

CÁC BÀI VIẾT KHÁC:

© Công ty Phần mềm & Truyền thông VIỆT LONG
Địa chỉ:
Điện thoại:
Email:
Website: https://vietlong.org
Facebook: