Google Earth bổ sung AI tạo ảnh: Công cụ hữu ích hay "bom hẹn giờ" thông tin sai lệch?

Tính năng AI vừa ra mắt của Google khiến "bản đồ bị loạn"

Tuần vừa rồi, Google chính thức kích hoạt tính năng Nano Banana 2 trên toàn cầu cho phiên bản web của Google Earth. Công cụ này cho phép bất cứ ai chỉ cần nhập một câu mô tả văn bản để tạo ra các ảnh vệ tinh, ảnh trên không và hình ảnh 3D hoàn toàn do AI tạo ra. Google quảng bá Nano Banana 2 là công cụ để trực quan hóa các địa điểm lịch sử và dự án bất động sản, nhưng những gì xảy ra trong thực tế đã cho thấy một bức tranh phức tạp hơn nhiều. Công cụ này không chỉ giới hạn ở những ứng dụng vô hại mà còn mở ra những khả năng đáng lo ngại để tạo ra misinformation có sức thuyết phục cao.

Các lỗ hổng bảo mật được phát hiện cụ thể

Henk van Ess, nhà nghiên cứu ở Digital Digging, đã nhanh chóng chứng minh những rủi ro thực tế của tính năng này. Van Ess đã sử dụng Nano Banana 2 để tạo ra những ảnh vệ tinh giả mạo rất thuyết phục, bao gồm một ảnh thể hiện "những người tị nạn gần biên giới Mexico" và một ảnh khác hiển thị "một hố bom gần bệnh viện ở Gaza". Những hình ảnh này có khả năng lan truyền mà trông như thật, có thể được dùng để tạo hoặc củng cố các tuyên bố sai lệch về những sự kiện nhạy cảm. Google phản hồi bằng cách nhấn mạnh rằng tất cả ảnh được tạo với Nano Banana đều được gắn dấu hiệu SynthID — một hình thức chữ ký kỹ thuật số để xác định nội dung AI. Theo Google, "chúng tôi coi trọng misinformation — nếu ai đó không chắc chắn về một ảnh, họ có thể hỏi ứng dụng Gemini hoặc sử dụng công cụ Lens trong Search để kiểm tra xem ảnh đó có được tạo bởi AI hay không." Tuy nhiên, van Ess đã chỉ ra rằng các biện pháp này có những hạn chế thực tế. Không chỉ SynthID watermark có thể bị bỏ qua (mặc dù Google tuyên bố rất khó), mà Digital Digging còn thành công trong việc vượt qua Hive's AI detector — một công cụ được thiết kế để phát hiện nội dung tạo bởi AI — bằng cách sử dụng video đã được chỉnh sửa từ Google Earth. Van Ess cũng đề xuất những cách khác để xác minh ảnh: so sánh với các nền tảng vệ tinh khác như Sentinel-2 hoặc Landsat, và kiểm tra dữ liệu quỹ đạo như thời gian chụp được ghi lại và loại vệ tinh đã tạo ra ảnh đó.

Xu hướng ngành chạm ngưỡng nguy hiểm

Mặc dù một số ảnh tạo bởi Nano Banana 2 khá dễ phát hiện là giả — chẳng hạn như ảnh Sphinx kết hợp với Tượng Nữ thần Tự do — nhưng công cụ này hoàn toàn có khả năng tạo ra hình ảnh đủ thuyết phục để lan truyền misinformation. Sự kết hợp giữa độ chân thực của ảnh vệ tinh và khả năng tạo nhanh chóng này đặt ra câu hỏi về bản chất của thực tế trong kỷ nguyên AI. Google không phải là công ty duy nhất đối mặt với thách thức này — các công cụ tạo ảnh AI khác như DALL-E, Midjourney, và Stable Diffusion đều phải cân bằng giữa khả năng sáng tạo và nguy hiểm của thông tin sai lệch. Vấn đề của Google Earth cụ thể hơn vì nó lợi dụng sự tin tưởng sâu sắc của công chúng đối với ảnh vệ tinh — một loại dữ liệu mà hầu hết mọi người coi là "bằng chứng thực tế". Khi công cụ này cho phép bất cứ ai tạo ra ảnh giả mạo với vẻ ngoài của ảnh vệ tinh, nó không chỉ là công cụ tạo ảnh thông thường mà còn là một kênh tiềm ẩn để lan truyền thông tin sai lệch về những sự kiện nhạy cảm và có ảnh hưởng chính trị lớn.