نقدم لكم مجهر OpenAI، مجموعة من التصورات لكل طبقة وعصبون مهم من ثمانية "كائنات نموذجية" للرؤية والتي غالبًا ما تتم دراستها في التفسير. يسهل الميكروسكوب تحليل الميزات التي تتكون داخل هذه الشبكات العصبية ، ونأمل أن يساعد مجتمع البحث بينما نتحرك نحو فهم هذه الأنظمة المعقدة.
إن قدرات الشبكات العصبية الحديثة هي نتيجة تفاعلات آلاف الخلايا العصبية (أحيانًا عشرات الآلاف أو أكثر!). من أجل فهم سلوكهم ، نود أن نكون قادرين على التحقيق بسرعة وسهولة في تفاعلات الخلايا العصبية هذه بالتفصيل ومشاركة تلك الملاحظات. هذا صحيح بشكل خاص في البيئات التعاونية. على سبيل المثال ، قد يتكهن أحد الباحثين بما يلي:
البداية V1 4 ج: 447 كاشف سيارة مبني من كاشف عجلة (4 ب: 373) وكاشف النافذة (4 ب: 237).
عندما يقوم شخص ما بادعاء مثل هذا ، من المفيد أن يتمكن الآخرون من استكشاف تلك الخلايا العصبية بسرعة ، وتقييم المطالبة واكتشاف أشياء جديدة. هذا هو هدف مجهر OpenAI.
يصور الميكروسكوب كل عصبون بشكل منهجي في العديد من نماذج الرؤية التي تمت دراستها بشكل شائع ، ويجعل كل هذه الخلايا العصبية قابلة للربط. نأمل أن يدعم هذا مجتمع قابلية التفسير بعدة طرق:
- على الرغم من أن هذه النماذج والمرئيات مفتوحة المصدر بالفعل (نحن نساعد في الحفاظ على مكتبة واضحة، الذي يستخدم لتوليد جميع التصورات في المجهر) تصور الخلايا العصبية أمر شاق. يغير المجهر حلقة التغذية الراجعة لاستكشاف الخلايا العصبية من دقائق إلى ثوان. لقد كانت حلقة الملاحظات السريعة هذه ضرورية بالنسبة لنا في اكتشاف الميزات غير المتوقعة مثل كاشفات الترددات العالية والمنخفضة في الوقت الحالي مشروع الدوائر.
- يسمح ربط النماذج والخلايا العصبية بالتدقيق الفوري والمزيد من استكشاف الأبحاث التي تدعي تلك الخلايا العصبية. كما أنه يزيل الالتباس المحتمل حول النموذج والخلايا العصبية التي تتم مناقشتها (أي من الإصدارات الخمسة لـ InceptionV1 التي نتحدث عنها مرة أخرى؟). هذا مفيد حقًا للتعاون ، خاصة عندما يكون الباحثون في مؤسسات مختلفة.
- أحد الأشياء الرائعة حول إمكانية التفسير كمساحة ل ML هو مدى سهولة الوصول إليها. مقارنة بالعديد من المجالات الأخرى ، يتطلب الوصول القليل نسبيا للحوسبة. لكن التصور المنهجي للشبكات العصبية يمكن أن يستغرق مئات ساعات GPU. نأمل من خلال مشاركة تصوراتنا ، أن نساعد في الحفاظ على إمكانية الوصول إلى التفسير بسهولة.
مثلما يركز علماء الأحياء غالبًا على دراسة بعض "الكائنات النموذجية" ، يركز ميكروسكوب على استكشاف عدد صغير من النماذج بالتفصيل. يتضمن إصدارنا الأولي تسعة نماذج رؤية تمت دراستها بشكل متكرر ، إلى جانب العديد من تقنيات التصور التي وجدناها مفيدة بشكل خاص في دراستها. نخطط للتوسع في النماذج والتقنيات الأخرى في الأشهر القادمة.
يسعدنا أن نرى كيف سيستخدم المجتمع الميكروسكوب ، ونحن نشجعك على إعادة استخدام هذه الأصول. على وجه الخصوص ، نعتقد أن لديها الكثير من الإمكانات في دعم تعاون الدوائر- مشروع لعكس هندسة الشبكات العصبية من خلال تحليل الخلايا العصبية الفردية واتصالاتها - أو عمل مماثل.
