ما هي البنية الفعلية
محول رؤية (vision transformer)، تم تحويله إلى ONNX وضغطه إلى حوالي 40 MB، ومقسم إلى جزئين بحيث يظل كل منهما تحت حد حجم الملف لمنصة الاستضافة. يُعاد تجميعه في المتصفح ويتم التحقق من مجموع اختباره (checksum) قبل تشغيل أي شيء.
يحدث الاستنتاج من خلال WebAssembly، مما يسمح لوقت تشغيل مترجم بالتنفيذ بسرعة قريبة من السرعة الأصلية داخل علامة تبويب المتصفح. وقت التشغيل نفسه عبارة عن ملف WASM ثنائي مضغوط يتم تحميله إلى جانب الأوزان.
لم يعد أي شيء في هذا غريباً بعد الآن. ما كان عرضاً بحثياً في عام 2021 أصبح الآن طريقة طبيعية لنقل النموذج، وقد قامت المتصفحات بمعظم العمل.
ما الذي تشتريه
| عقار | في المتصفح | على خادم |
|---|---|---|
| الصورة تغادر جهازك | No مستحيل | Yes مطلوب |
| التكلفة لكل فحص | Yes صفر | No حوسبة فعلية |
| اتفاقية معالجة البيانات مطلوبة | No | Yes |
| يعمل بدون شبكة بعد التحميل | Yes | No |
| يمكن الحفاظ على خصوصية النموذج | No يتم تنزيله | Yes |
| الفحص الأول لحظي | No يتم تنزيل النموذج مرة واحدة | Yes |
الصف الأول هو سبب وجود البقية. نظراً لعدم وجود نقطة تحميل، لا توجد مجموعة صور خاصة بأشخاص آخرين، ولا توجد سياسة احتفاظ للكتابة، ولا خرق للإفصاح عنه، ولا شيء لتسليمه عند الطلب.
الصف الثاني هو سبب إمكانية كونه مجانياً بدون عداد استخدام. الفحص لا يكلف شيئاً للتقديم، لذا لا توجد تكلفة لكل صورة لاستردادها، مما يغير شكل التسعير.
ما هي التكلفة
ثلاث مقايضات حقيقية، مذكورة بوضوح، لأن الصفحة التي تسرد المزايا فقط هي إعلانية.
- الفحص الأول بطيء. يجب أن تصل أربعون ميغابايت قبل حدوث أي شيء. على اتصال سريع يستغرق الأمر بضع ثوانٍ؛ وعلى اتصال ضعيف يستغرق وقتاً أطول. تعيد الفحوصات اللاحقة استخدام النموذج المخزن مؤقتاً وتبدأ على الفور.
- الأجهزة القديمة تعاني. يحتاج الاستنتاج إلى ذاكرة ومعالجة قد لا تتوفر بسهولة في هاتف عمره خمس سنوات. الخادم لن يهتم بالجهاز الذي تحمله.
- النموذج عام. أي شيء يتم تنزيله إلى متصفح يمكن الاحتفاظ به. النموذج من جانب الخادم يمكن أن يكون مملوكاً؛ هذا النموذج لا يمكن أن يكون كذلك، والأوزان هي نقطة تفتيش بحثية مفتوحة على أي حال.
النقطة الثالثة تستحق أن نكون مباشرين بشأنها. شحن نموذج إلى العميل يعني منحه. هذه مقايضة مقبولة هنا لأن الأوزان منشورة بالفعل، والعمل الذي يجعل الأداة مفيدة هو المعايرة، والتقسيم، والتفسير المبني حولها.
المشاكل الهندسية التي تستحق المعرفة
تقسيم ملف كبير
تضع منصات الاستضافة الثابتة حداً لأحجام الملفات الفردية. تجاوز النموذج بحجم 40 MB الحد، لذا يتم شحنه كجزئين حتميين يُعاد تجميعهما في المتصفح ويتم التحقق منهما مقابل تجزئة البيان (manifest hash) قبل الاستخدام. الجزء التالف أو المستبدل يفشل بوضوح بدلاً من إنتاج درجات خاطئة بصمت.
عدم تحميل أي شيء حتى الحاجة إليه
لا يتم جلب النموذج ووقت التشغيل وقارئ الاعتمادات عند تحميل الصفحة. إنها تصل عند المشاركة الأولى، لذا فإن أي شخص يقرأ مقالاً لا يقوم بتنزيل أي منها. وهذا يحافظ على سرعة الصفحات للغالبية العظمى من الزوار الذين لا يقومون بإجراء فحص.
فك تشفير التنسيقات الغريبة
تحتاج HEIC من هواتف iPhone، وAVIF، وTIFF، وJPEG XL جميعها إلى فك التشفير قبل التسجيل. تتعامل المتصفحات الآن مع معظم هذه التنسيقات محلياً، مما يزيل ما كان أكبر جزء من عمل جانب العميل في أداة مثل هذه.
متى تكون هذه البنية هي الخيار الخاطئ
هي ليست أفضل عالمياً. يكون الخادم أكثر منطقية عندما يكون النموذج مملوكاً ويستحق الحماية، أو عندما يكون كبيراً جداً بحيث لا يمكن شحنه، أو عندما تحتاج إلى نتائج في خط أنابيب خلفي بدلاً من أمام شخص، أو عندما تحتاج إلى وقت استجابة مضمون بغض النظر عن الجهاز.
بالنسبة لأداة يفتحها شخص ما لفحص صورة مشبوهة واحدة، لا ينطبق أي من ذلك، وتكون خاصية الخصوصية ذات قيمة أكبر من كل ما قد يضيفه الخادم.
ما يستبعده هذا
اختيار العميل له عواقب تتجاوز الخصوصية، وبعضها قيود تستحق التسمية بدلاً من اعتبارها ميزات.
لا يوجد سجل. توجد النتيجة فقط في علامة التبويب التي أنتجتها، لذا لا يمكن البحث عنها لاحقاً ما لم يتم تصديرها. هذه هي التكلفة المباشرة لعدم وجود حساب، وهي الشيء الوحيد الأكثر طلباً الذي تجعله البنية محرجة.
لا توجد حالة مشتركة. لا يمكن لشخصين رؤية نفس قائمة الانتظار، ولا يمكن للفريق مراجعة فحوصات بعضهم البعض. الرابط المشترك يحمل نتيجة واحدة، والتي تغطي محادثة وليس سير عمل.
لا يوجد API. لا يمكن استدعاء أي شيء يعمل في علامة تبويب المتصفح من خط أنابيب خلفي، مما يستبعد الاستخدامات ذات الحجم الأعلى تماماً. هذه فجوات حقيقية، والموقف الصادق هو أنها ثمن الخاصية التي تهم أكثر.