Sau khi bổ sung tính năng chỉnh sửa hình ảnh bằng AI cho Google Earth, Google đã khẩn cấp gỡ bỏ tính năng này chưa đầy 24 giờ sau đó. Tính năng này sử dụng mô hình tạo ảnh Nano Banana 2 thuộc Gemini, cho phép người dùng chỉnh sửa hình ảnh địa điểm trên Google Earth chỉ bằng cách nhập câu lệnh văn bản.
Tính năng nhanh chóng bị lạm dụng sau khi ra mắt. Nhà nghiên cứu AI Henk van Ess đã tạo ra nhiều hình ảnh vệ tinh giả chân thực đến mức khó phân biệt, từ các trại tị nạn ở biên giới Mỹ - Mexico cho đến các nhà máy điện hạt nhân tại Iran.
Sau đó, người phát ngôn của Google đăng tuyên bố trên nền tảng X vào ngày 31: “Các chuyên gia trong lĩnh vực không gian địa lý đã sử dụng tính năng này để hoàn thành nhiều công việc hữu ích, nhưng cũng có người chia sẻ ảnh chụp màn hình của những hình ảnh được tạo, trong đó một số nội dung dường như vi phạm chính sách của chúng tôi. Vì vậy, trong thời gian xây dựng các biện pháp bảo vệ an toàn nghiêm ngặt hơn, chúng tôi sẽ gỡ tính năng này khỏi Google Earth.”
Google nhấn mạnh rằng mọi hình ảnh do AI tạo đều có hình mờ và không được đưa vào nội dung bản đồ Google Earth mà công chúng có thể xem.
Google không phải là doanh nghiệp duy nhất gần đây vội vàng ra mắt tính năng AI rồi nhanh chóng thu hồi. Theo IT之家, Meta đã ra mắt Muse Image vào ngày 7 tháng 7, cho phép người dùng sử dụng hình ảnh từ các tài khoản Instagram công khai của người dùng trưởng thành để tạo hình ảnh AI, trừ khi chủ tài khoản đã chủ động tắt quyền này. Chưa đầy một tuần sau khi ra mắt, Meta đã gỡ tính năng và thừa nhận rằng nỗ lực lần này “đã không cân nhắc đúng mức”.