Nhiều video, hình ảnh giả mạo lãnh đạo Đảng, Nhà nước, người nổi tiếng trên mạng xã hội, cho thấy nguy cơ từ việc AI bị lợi dụng để xuyên tạc và lừa đảo.
Ghi nhận của PV Lao Động cho thấy, trong thời gian gần đây, nhiều video và hình ảnh giả mạo lãnh đạo Đảng, Nhà nước, người nổi tiếng và cơ quan công an liên tiếp xuất hiện trên mạng xã hội TikTok.
Đáng chú ý, nhiều trang thông tin như "thoibao...", "AI vì dân...", "Chuyển luân thánh..."... sử dụng chiêu trò lồng ghép thông tin thật - giả, suy diễn thiếu căn cứ dưới dạng phân tích thời sự, tin nội bộ… để đánh lừa, tạo cảm giác là nguồn tin đáng tin cậy nhằm thu hút sự tương tác của người dùng mạng xã hội.
Những nội dung này thường được tạo ra bằng các công cụ trí tuệ nhân tạo (AI), cho phép chỉnh sửa gương mặt, giọng nói và biểu cảm, khiến hình ảnh giả mạo khó phân biệt với thực tế.
Những dấu hiệu nhận biết video giả mạo bằng AI được lợi dụng xuyên tạc như: Hình ảnh nhân vật giống với hình ảnh lãnh đạo Đảng, Nhà nước, người nổi tiếng nhưng chuyển động không tự nhiên, khuôn miệng nói không khớp lời; giọng nói pha trộn, cắt ghép như máy đọc, thiếu cảm xúc, nhấn sai ngữ điệu tiếng Việt...
Các tổ chức, cá nhân phản động tạo lập các video nêu trên nhằm mục đích phá hoại nền tảng tư tưởng của Đảng Cộng sản Việt Nam, gây chia rẽ nội bộ, làm suy giảm niềm tin của nhân dân với Đảng, Nhà nước.
Ngoài các chiêu trò tạo hình ảnh, video giả mạo lãnh đạo Đảng, Nhà nước và người nổi tiếng, các đối tượng còn giả mạo công an để lừa đảo người dân.
Vào tháng 8.2025, chị Nguyễn Thị Hương (tên nhân vật được thay đổi, 29 tuổi, trú tại TP Đà Nẵng) đã trở thành nạn nhân của một vụ lừa đảo qua điện thoại.
Một đối tượng tự xưng là cán bộ Công an TP Hà Nội gọi điện thông báo rằng chị có liên quan đến một chuyên án ma túy và yêu cầu cung cấp thông tin cá nhân. Đồng thời, đề nghị chị có mặt tại Cơ quan Cảnh sát điều tra Công an TP Hà Nội để phục vụ điều tra.
Đặc biệt, đối tượng yêu cầu chị giữ bí mật, không được nói cho ai nếu không sẽ bị phạt 10 năm tù đồng thời yêu cầu chị phải chuyển tiền để chứng minh mình không liên quan.
Do lo sợ, chị đã chuyển 10 triệu đồng vào tài khoản do đối tượng cung cấp. Sau đó, chị đã đến cơ quan công an trình báo và hiện vụ việc đang được điều tra làm rõ.
Trường hợp của chị Hương là một trong nhiều vụ lừa đảo giả danh công an đã và đang xảy ra trên địa bàn cả nước.
Công an TP Hải Phòng mới đây đã lên tiếng cảnh báo về sự phát triển nhanh chóng, đặc biệt với sự xuất hiện của AI, việc tạo ra những nội dung giả mạo ngày càng trở nên dễ dàng và tinh vi.
Cơ quan công an khuyến cáo, người dân cần hết sức tỉnh táo, cẩn thận khi xem các tin tức trên mạng xã hội, nhất là đối với các trang, tài khoản không chính thống. Trước một thông tin gây sốc, hãy tạm dừng, kiểm tra nguồn phát hành, đối chiếu với kênh chính thống và quan sát chi tiết kỹ thuật. Công cụ tìm kiếm ngược hình ảnh và video có thể giúp phát hiện nguồn gốc thật.
Khi phát hiện các nguồn thông tin sai sự thật, xuyên tạc, nhanh chóng sử dụng tính năng report (báo cáo vi phạm của tài khoản hoặc nội dung bài đăng) để báo cáo cho quản trị viên nền tảng mạng xã hội đó có hình thức xử lý phù hợp như: Xóa bỏ nội dung, khóa, hoặc thậm chí cấm vĩnh viễn đối với tài khoản vi phạm quy định cộng đồng; không chia sẻ, phát tán đối với những thông tin chưa được kiểm chứng.
Cơ quan công an khuyến cáo không sử dụng AI cho các mục đích vi phạm
Theo Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (Công an TP Hà Nội), sự bùng nổ của các công cụ AI giúp người dùng dễ dàng tạo ra hình ảnh, văn bản, video chỉ bằng vài dòng mô tả. Tuy nhiên, không ít người đã lạm dụng công nghệ này để tung tin giả, gây hoang mang dư luận.
Cơ quan công an khuyến cáo người dân tuân thủ quy định pháp luật khi sử dụng mạng xã hội, không sử dụng AI cho các mục đích vi phạm, làm ảnh hưởng đến an ninh, trật tự xã hội.
