Họ một: hình ảnh bị suy giảm
Danh mục lớn nhất với khoảng cách lớn. Tín hiệu mà bộ phát hiện đọc nằm ở chi tiết bề mặt tinh tế, và bề mặt đó là thứ đầu tiên mà mọi quá trình nén, thay đổi kích thước và ảnh chụp màn hình loại bỏ.
- Lưu tệp JPEG lặp đi lặp lại. Độ chính xác giảm từ 91.3 phần trăm trên bản gốc sạch xuống 84.6 phần trăm ở chất lượng 40 trên điểm chuẩn đã công bố, và giảm hơn nữa trong thực tế.
- Ảnh chụp màn hình. Quá trình hiển thị lại ở độ phân giải màn hình với tệp gốc bị loại bỏ hoàn toàn.
- Giảm độ phân giải (Downscaling). Ít điểm ảnh hơn, ít bề mặt hơn, và dưới khoảng 576 điểm ảnh ở cạnh ngắn hơn, hoàn toàn không có bản đồ vùng nào.
- Mã hóa lại trên nền tảng. Mỗi lần tải lên là ít nhất một lần mã hóa lại, và hầu hết các hình ảnh đã trải qua một số lần.
- Cắt xén mạnh tay. Một phần cắt xén nhỏ của một hình ảnh lớn làm mất đi bối cảnh mà mô hình đã được hiệu chỉnh.
Sự suy giảm đẩy điểm số về phía giữa theo cả hai hướng: các bức ảnh chân thực lên trên, hình ảnh được tạo ra xuống dưới. Một kết quả trung bình trên một tệp đã di chuyển rõ ràng thường có nghĩa là tệp đó, chứ không phải bức tranh.
Họ hai: trình tạo chưa từng thấy
Một bộ phát hiện nhận ra những gì nó đã được huấn luyện. Một mô hình được phát hành sau khi quá trình huấn luyện kết thúc là lãnh thổ quen thuộc, và đầu ra không quen thuộc có xu hướng đạt điểm thấp thay vì không chắc chắn.
- 1 Trình tạo đã được phát hành Chưa có gì nhìn thấy đầu ra của nó
- 2 Khoảng thời gian mù Đầu ra mới đạt điểm là thật
- 3 Các mẫu được thu thập Nhiều tuần thu thập và dán nhãn
- 4 Bộ phát hiện được cập nhật Cho đến đợt phát hành tiếp theo
Điều này tạo ra các kết quả âm tính giả đầy tự tin, đây là loại nguy hiểm nhất. Công cụ không báo hiệu sự không chắc chắn; nó báo cáo rằng hình ảnh trông ổn vì nó không giống bất cứ thứ gì nó được dạy để gắn cờ.
Họ ba: nội dung giống bề mặt tổng hợp
Một số hình ảnh chân thực đơn giản là rất khó. Không phải vì có bất kỳ hành động nào nhằm đánh lừa, mà vì bề mặt chúng chứa trông giống như bề mặt do quá trình tạo ra.
- Chế độ ban đêm của điện thoại và nhiếp ảnh điện toán. Nhiều khung hình được hợp nhất và khử nhiễu bằng phần mềm, viết lại chi tiết tinh tế trên toàn bộ hình ảnh.
- Chỉnh sửa nặng. Làm mịn da và tách tần số xây dựng lại bề mặt trên khuôn mặt.
- Hình ảnh được nâng cấp độ phân giải. Phóng to tạo ra các điểm ảnh mới, và các điểm ảnh mới tạo ra là các điểm ảnh được tạo ra.
- Hình minh họa, kết xuất 3D và CGI. Không bao giờ được chụp bằng máy ảnh, vì vậy không có gì về chúng giống với ảnh chụp bằng máy ảnh.
- Nhiếp ảnh thương mại với tính năng giảm nhiễu mạnh. Được xử lý thương mại để trông sạch sẽ, được đọc là tổng hợp.
- Hình ảnh rất phẳng. Tường trống, bầu trời trong xanh và nền trơn mang lại ít tín hiệu theo cả hai hướng.
So sánh với một khung hình được tạo trong thập niên chín mươi và một chỉnh sửa cục bộ với một ô gạch nóng. Mẫu này không phải là cái nào cả.
Nhóm thứ tư: né tránh có chủ ý
Đây là danh mục nhỏ nhất và là điều mọi người lo lắng nhất. Bất kỳ kỹ thuật nào viết lại mối quan hệ điểm ảnh đều làm giảm điểm số, và hầu hết các kỹ thuật này đều làm tổn hại trực tiếp đến hình ảnh trong quá trình đó.
Ngoại lệ là việc ghép ảnh. Một đối tượng do AI tạo ra được đặt vào một bức ảnh thật sẽ giữ được kết cấu thực ở phần lớn khung hình, đó là lý do tại sao bản đồ vùng tồn tại và tại sao chỉ số điểm toàn khung hình là chưa đủ đối với bất kỳ trường hợp đối kháng nào.
Mỗi lỗi trông như thế nào khi xuất hiện
| Những gì bạn nhìn thấy | Nguyên nhân có khả năng cao nhất | Phải làm gì |
|---|---|---|
| Ảnh thật đạt điểm cao, bản đồ ấm đều | Đang xử lý hoặc nén | Kiểm tra lại tệp gốc |
| Ảnh thật đạt điểm cao, một ô màu nóng | Một chỉnh sửa hợp pháp hoặc một vùng phẳng | Xem xét nội dung nằm trong ô đó |
| Ảnh AI tạo đạt điểm thấp, tệp bị suy giảm chất lượng | Nén hoặc ảnh chụp màn hình | Coi như không có câu trả lời, không phải kết quả rõ ràng |
| Ảnh AI tạo đạt điểm thấp, tệp sạch | Một mô hình tạo chưa từng thấy | Dựa vào nguồn gốc và thông tin nguồn |
| Điểm nằm ở mức trung bình | Không đủ tín hiệu theo cả hai hướng | Tìm một bản sao tốt hơn |
| Không có bản đồ vùng nào được tạo | Ảnh quá nhỏ để chia ô | Tìm một bản sao lớn hơn |
Đây không phải là gì
Nên tách biệt các giới hạn với những điều mà trình phát hiện chưa từng cố gắng thực hiện. Một công cụ không thể coi là sai khi không làm được điều gì nằm ngoài phạm vi của nó.
- Công cụ không thể cho biết ai đã tạo ra hình ảnh. Không có yếu tố nào trong điểm ảnh gắn kết một tệp với một cá nhân.
- Công cụ không thể cho biết nội dung có thật hay không. Một bức ảnh chân thực có thể đi kèm một chú thích sai sự thật, và đó mới là hành vi lừa đảo phổ biến hơn.
- Công cụ không thể nêu tên mô hình tạo. Chỉ có thông tin xác thực hoặc dấu hiệu trong tệp mới làm được điều đó.
- Công cụ không thể phác thảo ranh giới chỉnh sửa. Bản đồ vùng cho thấy nơi tín hiệu tập trung, chứ không phải ranh giới của một thao tác chỉnh sửa.
Cách xây dựng quy trình dung nạp điều này
Các lỗi trên là đặc điểm cố hữu chứ không phải lỗi kỹ thuật chờ được sửa, vì vậy câu hỏi hữu ích là làm thế nào để thiết kế để thích ứng với chúng thay vì tìm cách né tránh.
Sử dụng nhiều hơn một loại tín hiệu. Điểm ảnh, nguồn gốc và lịch sử xuất bản có điểm yếu ở các khía cạnh khác nhau, và một hình ảnh trông có vẻ bất thường đối với cả ba là một phát hiện mạnh mẽ hơn nhiều so với việc chỉ bất thường đối với riêng lẻ từng yếu tố.
Chuyển tiếp các cờ cảnh báo đến con người thay vì thực hiện hành động tự động. Mọi lỗi nghiêm trọng nêu trên đều có thể chấp nhận được nếu hậu quả của việc phán đoán sai là có người xem xét kỹ hơn, và trở nên không thể chấp nhận nếu hậu quả là một lệnh từ chối tự động.
Yêu cầu tệp gốc trước khi đưa ra bất kỳ kết luận nào. Một tỷ lệ đáng kể các kết quả sai được giải quyết chỉ bằng một bước duy nhất này, bởi vì tệp bạn nhận được hầu như không bao giờ là bản sao tốt nhất hiện có.