أنشأت Seed التابعة لبايت دانس قسمًا متخصصًا في سلامة النماذج ومواءمتها، ويبدو ذلك ضروريًا فعلًا.
يخططون هذه المرة لاستقطاب 10 من كبار الباحثين من مختلف أنحاء العالم للعمل في هذا القسم.
تشمل الموضوعات البحثية: أساليب التقييم المتقدمة وبناء معايير الاختبار لسلامة النماذج الكبيرة والوكلاء أساليب تدريب لمواءمة القدرات المتقدمة للنماذج اختبار الفرق الحمراء المؤتمت قابلية تفسير سلوك النماذج مراقبة قدرات النماذج وسلوكها
لطالما كانت ظروف العمل في بايت دانس ممتازة، والعمل نفسه مليئًا بالتحديات. لذا، إن كنت تعرف أحدًا يعمل في مجال مشابه، فقد تكون هذه فرصة مناسبة له.
في الآونة الأخيرة، ظهرت مرارًا مشكلات اختراق النماذج وعزلها عن بيئات صناديق الرمل، سواء في النماذج الكبيرة أم الصغيرة.
وقد تكون هذه المخاطر إما محدودة، أو تنفجر فجأة على نطاق واسع. والاستعداد لها مسبقًا ومواصلة البحث فيها يتيحان، على الأقل، الاستجابة بسرعة عند وقوع مشكلة.
مع تزايد قدرات النماذج واستقلاليتها، تتفاقم المخاطر الكامنة في بعض المجالات الخطرة، مثل: مجال CBRN (الكيمياء والأحياء والمواد المشعة والمجال النووي). قد يظن كثيرون أن المجالات الأربعة المذكورة بعيدة عنا، لكن الهجمات على الأفراد عبر الإنترنت قريبة منا جدًا. وقد يتمكن الذكاء الاصطناعي حتى من التلاعب بالتطبيقات مباشرة، بل والسيطرة على أجهزة أخرى في المنزل.
ومع قدرة الذكاء الاصطناعي على اختراق كل أنواع البرمجيات، فمن المنطقي أن يتمكن أيضًا من كتابة فيروسات شديدة التطور.
ومن المرجح أن يحرز تقدمًا سريعًا أيضًا في كسر التشفير الذي يعتمد عليه الإنترنت بأكمله.
ومن الناحية الموضوعية، فإن التقدم المحلي في هذا المجال أبطأ بالفعل من تقدم OpenAI وAnthropic.
كان الأمان هو الهدف الأساسي من تأسيس Anthropic، وهي تعمل منذ وقت طويل على أبحاث المواءمة وقابلية التفسير. أما في أوساط الذكاء الاصطناعي خارج البلاد، فتظهر أخبار بارزة عن السلامة كل أسبوع أو أسبوعين تقريبًا؛ مثل استقالة باحث السلامة في OpenAI قبل أيام، واختراق Hugging Face في وقت سابق.
سلامة النماذج مجال متعدد التخصصات ومتقدم جدًا، ويتطلب قدرًا كبيرًا من الاستكشاف، كما يفرض متطلبات عالية على الباحثين من نواحٍ متعددة.
وهذا هو سبب سعيهم إلى استقطاب هذه المواهب المتميزة من مختلف أنحاء العالم، أو الإعلان عن وظائفهم للعامة. ويمكن للمهتمين متابعة الأمر.
أخيرًا أصبح يدعم تعدد الوسائط: تقول الشركة المطوّرة إن النموذج كان متعدد الوسائط منذ البداية، لكن الدعم لم يُضَف في الإصدار الأول.
أصبح بالإمكان إنجاز الكثير من المهام بفضل تعدد الوسائط، مثل معالجة أنواع كثيرة من الصور، وتحرير الفيديو، وتركيب الصور، بما في ذلك تحرير الصور؛ فكل ذلك يتطلب سرعة في الاستجابة واتخاذ القرارات.
أُضيف نوع جديد (box): أصبح بإمكان النموذج تحديد موقع العنصر المستهدف في الصورة.
تحسّنت قدرات السياق وتعدد اللغات: ارتفع طول السياق إلى 262K لكل طلب ولكل إجابة عن سؤال، وهي زيادة كبيرة جدًا. والأهم أن أداءه في اللغات المتعددة أصبح أفضل أيضًا.
لكن هذا المقال يخبرنا أيضًا كيف نتجنب الحظر إلى حدّ ما!
يُحظر كثير من مستخدمينا إلى حدّ كبير لأن النظام يظن خطأً أنهم يقطّرون النموذج، وخصوصًا الحسابات التي تُحظر بسرعة بعد التسجيل مباشرةً.
يمكنك الاطلاع على بعض الممارسات التي ينبغي تجنبها كي لا يظنوا أنك تقوم بالتقطير، فتقلل بذلك خطر الحظر:
لا تطلب من Claude عرض عملية التفكير، ولا تحاول دفعه إلى إخراج سلسلة الأفكار.
لا تنقل سلسلة أفكاره أو تحاول التلاعب بها، ولا تكرر المحاولات لحمله على إخراج عملية تفكيره.
في ما يتعلق بالحسابات والدفع: يركزون في حملتهم على طلبات عناوين IP الخاصة بالوكلاء وإعادة بيع الحسابات، لذا احرص على أن تكون عملية إنشاء الحساب وقنوات الدفع سليمة.
عزل البيئة: لا تستخدم النماذج المحلية الصينية وClaude معًا في بيئة Agent واحدة.
لذلك، يبدو أن أكبر عاملَي خطر حاليًا هما الحساب نفسه (بما في ذلك قنوات الدفع)، ومحاولة دفع النموذج عبر الموجّهات إلى عرض سلسلة أفكاره.
$8 (Plus): يتضمن Twitter Premium $30 (Premium): استخدام يعادل 4 أضعاف باقة Plus $100 (Super): استخدام يعادل 15 ضعفًا لباقة Plus $200 (Ultra): استخدام يعادل 50 ضعفًا لباقة Plus
الفرق الجوهري عن الاشتراكات القديمة هو دمج رصيد API الخاص بـ xAI مع رصيد API الخاص بـ Cursor.
لا يزال Cursor يضم بعض نماذج الجهات الخارجية، لكن من المرجح أن يقل استخدام هذه النماذج مقارنةً بالخطة الأصلية.
لكن استخدام Grok bot زاد هذه المرة: في الباقات التي تبدأ من $30، ستحصل على الأقل على ضعف استخدام Grok bot.
إذا كنت تفكر في استخدام Grok bot وحده، ولا تحتاج إلى Cursor أو نماذجه التابعة لجهات خارجية، فأرى أن الاشتراك الموحد خيار أوفر، كما أنه يبسّط بعض الحسابات.
أما إذا كنت قد اشتركت سابقًا في عضوية بقيمة $99 بفضل خلل، فلا تغيّر باقتك؛
وبالنسبة إلى المستخدمين الجدد الذين لم يلحقوا بالخطة القديمة ويرغبون في تجربة Grok bot، فأرى أنه يمكنهم التبديل، فالحدود الجديدة أعلى بكثير فعلًا من السابق، كما أن إدارتها أسهل.