Các bộ phát hiện hình ảnh AI có thể bị đánh lừa không?

Tại sao bất kỳ bộ phát hiện điểm ảnh nào cũng có thể bị đánh bại

Bộ phát hiện đọc kết cấu thống kê giữa các điểm ảnh lân cận. Kết cấu đó chính là bằng chứng. Bất cứ thứ gì viết lại nó đều loại bỏ bằng chứng, và có nhiều lý do thông thường để viết lại nó.

Đây là một đặc tính của phương pháp thay vì là một khiếm khuyết trong một sản phẩm duy nhất. Một công cụ tuyên bố rằng nó không thể bị đánh lừa hoặc là đang đo lường thứ gì đó khác ngoài điểm ảnh, hoặc là đang không thật lòng với bạn.

Các danh mục, được mô tả thay vì hướng dẫn

Những nội dung này được viết ở mức độ mà một bên phòng thủ cần. Biết rằng một danh mục tồn tại cho phép bạn nhận ra dấu hiệu của nó trong một kết quả. Đây không phải là một công thức nấu ăn, và không có nội dung nào trong số này là hướng dẫn từng bước.

Mục mục cuối cùng ở bên phía tay phải là yếu tố quan trọng nhất, bởi vì đây là điểm khó phát hiện nhất chỉ bằng một con số duy nhất. Một bức ảnh thật có một đối tượng do AI tạo ra được đặt vào bên trong vẫn giữ nguyên kết cấu chân thực ở phần lớn khung hình.

Bản đồ vùng xử lý vấn đề đó như thế nào

Chấm điểm khung hình theo từng ô là câu trả lời trực tiếp cho việc ghép ảnh. Giá trị trung bình của toàn bộ khung hình bị kéo xuống bởi các phần chân thực, nhưng ô chứa phần ghép vào không bị tính trung bình với bất kỳ thứ gì.

Cái giá của việc trốn tránh đối với người thực hiện

Mọi kỹ thuật che giấu tín hiệu đều làm hỏng bức ảnh. Sự đánh đổi đó là điều hữu ích nhất mà một người phòng thủ có thể biết.

Một hình ảnh đã được “tẩy rửa” đủ mạnh để vượt qua bộ phát hiện thường trông giống như đã qua tẩy rửa. Nếu một bức ảnh vừa có chất lượng thấp một cách đáng ngờ lại vừa được đưa ra làm bằng chứng cho điều gì đó, thì chính chất lượng đó đã là một phát hiện.

Những gì không thể làm giả dễ dàng

• Lịch sử xuất bản. Một bức ảnh được lập chỉ mục từ nhiều năm trước không phải do AI tạo ra vào tháng trước. Tìm kiếm ngược vẫn là phương pháp kiểm tra đơn lẻ mạnh mẽ nhất.
• Content Credential hợp lệ. Một tệp kê khai đã ký được liên kết với các pixel hiện tại mang tính mật mã. Nó có thể bị xóa, nhưng không thể bị làm giả.
• Một khung cảnh vật lý nhất quán. Bóng đổ, sự phản chiếu và tính liên tục giữa các đối tượng vẫn là điểm yếu của các công cụ tạo ảnh, và việc tẩy rửa không thể khắc phục được những điều đó.
• Một tệp mà người khác đã có sẵn. Hãy yêu cầu người gửi cung cấp tệp gốc từ thiết bị đã chụp nó, và xem điều gì sẽ xảy ra tiếp theo.

Điều này đưa bạn đến đâu

Một kẻ tấn công quyết tâm và có chuyên môn kỹ thuật có thể đánh bại bộ phát hiện pixel. Điều đó đúng và đó không phải là trường hợp phổ biến. Hầu hết các hình ảnh mà mọi người kiểm tra đều được tạo ra một cách bất cẩn, được chia sẻ ngẫu nhiên và mang theo bằng chứng của chúng một cách nguyên vẹn hoặc bị mất đi do ứng dụng trò chuyện thay vì do kẻ tấn công.

Hãy hiểu điểm số thấp trên một hình ảnh bị suy giảm chất lượng nặng nề là không có câu trả lời thay vì là một kết quả sạch. Sự phân biệt đó xử lý hầu như mọi hành vi trốn tránh mà bạn sẽ gặp phải mà không cần phải biết bất kỳ điều gì về kỹ thuật đằng sau nó.

Cuộc chạy đua vũ trang mang tính bất đối xứng

Việc tạo ảnh và phát hiện không cải thiện cùng một tốc độ, và sự mất cân bằng này chỉ nghiêng về một hướng. Một trình tạo ảnh mới xuất hiện dưới dạng dữ liệu chưa từng thấy đối với mọi bộ phát hiện đang tồn tại. Việc đào tạo lại diễn ra sau khi phát hành chứ không phải trước đó, vì vậy luôn có khoảng thời gian mà các đầu ra mới nhất không thể bị phát hiện.

Khoảng thời gian đó không hề ngắn. Việc thu thập đủ đầu ra từ một mô hình mới, dán nhãn, đào tạo lại và phát hành mất ít nhất là vài tuần. Trong thời gian đó, bộ phát hiện sẽ chấm điểm các sản phẩm tạo ra mới là thật, vì chúng không giống với bất kỳ thứ gì mà nó từng được dạy để gắn cờ.

Đây là lập luận thực tế mạnh mẽ nhất cho việc không bao giờ được phụ thuộc vào một tín hiệu duy nhất. Dữ liệu nguồn gốc và lịch sử xuất bản không quan tâm đến mô hình nào đã tạo ra hình ảnh, vì vậy chúng tiếp tục hoạt động trong khoảng thời gian mà việc phân tích pixel không thể bao phủ.