Một câu trả lời đáng tin cậy cho một vấn đề khó.

Lý do chúng tôi tạo ra công cụ này

Các trình tạo hình ảnh AI đã đi từ sự mới lạ đến mức xuất hiện ở khắp mọi nơi chỉ trong không gian của vài năm. Điều đó thực sự hữu ích, nhưng nó lại âm thầm phá vỡ một giả định mà hầu hết chúng ta vẫn mang theo: rằng một bức ảnh là bằng chứng về một sự việc đã xảy ra. Hiện nay, một bức ảnh giả mạo đầy thuyết phục chỉ mất vài giây để tạo ra và không tốn kém gì.

Các công cụ được cho là sẽ giúp ích hầu như lại mang đến cảm giác ngược lại với sự an tâm. Nhiều công cụ yêu cầu phải có tài khoản, tải những hình ảnh riêng tư của bạn lên một máy chủ mà bạn không biết gì, sau đó trả lại một tỷ lệ phần trăm duy nhất mà không có lời giải thích. Bạn bị yêu cầu phải tin tưởng vào một hộp đen về việc liệu bạn có thể tin tưởng một hình ảnh hay không. Chúng tôi muốn điều ngược lại: một kết quả mà bạn thực sự có thể lập luận, được tạo ra mà không bao giờ giữ các tệp của bạn.

Cách công cụ phát hiện hoạt động

Cốt lõi là một vision transformer, __x Pixel Forensics · FT1, được huấn luyện để nhận dạng các dấu vân tay thống kê mà quá trình tạo và chỉnh sửa để lại trong các pixel. Hình ảnh được phân tích tổng thể, sau đó lại được phân tích dưới dạng lưới các vùng chồng lên nhau, do đó một chỉnh sửa nhỏ của AI ẩn bên trong một bức ảnh thực tế vẫn sẽ bị phát hiện. Điểm số của các vùng đó tạo ra bản đồ nhiệt mà bạn thấy trong báo cáo.

Kết quả đầu ra là một điểm số hiệu chuẩn duy nhất từ 0 đến 100, được ánh xạ vào năm mức cố định với một ngưỡng quyết định tại 65. Vì ánh xạ này cố định và được công bố công khai, mức 72 hôm nay có ý nghĩa chính xác như mức 72 của tuần trước, và bạn có thể thấy lý luận, bằng chứng vùng và các tín hiệu tệp đằng sau mọi phán quyết.

Riêng tư từ trong thiết kế

Mô hình, môi trường chạy và toàn bộ quá trình phân tích được tải xuống trình duyệt của bạn và chạy tại đó. Hình ảnh bạn chọn từ thiết bị của mình không bao giờ bị tải lên, lưu trữ, đưa vào hàng đợi hay ghi nhật ký. Ngoại lệ duy nhất là minh bạch: nếu bạn dán một liên kết đến hình ảnh mà một trang web từ chối chia sẻ trực tiếp, chúng tôi sẽ tải nó qua một proxy công cộng để có thể chạy kiểm tra. Quá trình đó liên quan đến URL, không bao giờ là tệp từ máy tính của bạn và điều đó được giải thích rõ trong chính sách bảo mật của chúng tôi.

Cách chúng tôi kiểm tra để đảm bảo công cụ vẫn hoạt động

Mỗi bản phát hành đều được chạy trên một tập đánh giá cố định trước khi xuất bản: ảnh chụp chân thực từ một số thế hệ máy ảnh, đầu ra từ các mô hình diffusion và transformer có sẵn tại thời điểm đó, và, phần thực sự quan trọng, là ranh giới ở giữa. Ảnh chụp màn hình của các bức ảnh thực. Ảnh chụp bằng điện thoại được xử lý bởi chế độ ban đêm. Ảnh sản phẩm studio đã được làm mịn nhiễu. Những bức ảnh thực tế bị xóa một đối tượng.

Hai con số được theo dõi thay vì một. Độ chính xác tổng thể dễ dàng thay đổi bằng cách dịch chuyển ngưỡng quyết định, vì vậy tỷ lệ dương tính giả trên ảnh chân thực được theo dõi riêng biệt và được coi là một ràng buộc khó hơn. Một bản dựng đạt thêm một điểm chính xác bằng cách gắn cờ nhiều ảnh thực hơn không phải là một sự cải tiến, vì cái giá của việc gọi nhầm một bức ảnh chân thực là giả mạo sẽ đổ lên đầu một con người.

Trung thực về các hạn chế

Không có công cụ phát hiện nào đúng trên mọi hình ảnh, và bất cứ ai tuyên bố ngược lại đều đang cố bán một thứ gì đó. Việc nén nặng, chụp màn hình, phóng to ảnh và các bộ lọc mạnh đều có thể đẩy một bức ảnh thực về phía giữa của thang đo, và một kẻ giả mạo quyết tâm có thể tìm cách đánh bại bất kỳ mô hình đơn lẻ nào. Đó là lý do tại sao điểm số được trình bày dưới dạng mức độ khả thi bên cạnh bằng chứng của nó: một đầu vào mạnh mẽ cho quyết định của con người, không bao giờ là một phán quyết để trích dẫn độc lập.

Các phương thức thất bại cụ thể được viết rõ chứ không bị làm ngơ, và một kết quả không bao giờ được sử dụng riêng lẻ trong quyết định pháp lý, việc làm hoặc kỷ luật. Hãy đọc độ chính xác và hạn chế trước khi bạn hành động dựa trên một điểm số có ảnh hưởng đến ai đó.

Ba điều chúng tôi sẽ không làm

Chúng tôi sẽ không bắt đầu tải lên hình ảnh của bạn. Phân tích cục bộ là kiến trúc, không phải là một tính năng có thể tắt bật. Nếu một khả năng trong tương lai chỉ có thể hoạt động phía máy chủ, nó sẽ không được phát hành.

Chúng tôi sẽ không đặt việc phát hiện sau tường phí. Điểm số, bản đồ vùng và các bản xuất vẫn miễn phí. Mọi thứ công cụ này thực hiện đều có trên trang bảng giá và nó không tốn chi phí nào.

Chúng tôi sẽ không trích dẫn một con số chính xác mà chúng tôi không thể chứng minh. Điểm số kiểm chuẩn trên trang web này lấy từ một tập nghiên cứu được giữ lại trong các điều kiện có kiểm soát, và nó được dán nhãn như vậy ở mọi nơi nó xuất hiện, vì hiệu suất trong thế giới thực thấp hơn.