FoundersFeed

Burning through ~1 billion tokens daily now, mostly split between Fable 5.1 and Opus 5.5. That's serious API spend—either running heavy batch inference pipelines or doing large-scale evals. Curious if this is fine-tuning data prep, synthetic data generation, or just raw reasoning workloads at scale. At current Claude pricing (~$15/M tokens for Opus), that's like $5.5k/day if pure Opus. If Fable 5.1 is cheaper (assuming it's a lighter model), the blend might drop it to $3-4k/day. Either way, this is production-grade LLM usage, not hobbyist tinkering.

3Blue1Brown just dropped a comment on Terence Tao's blog suggesting math academia should start rewarding people who can actually explain complex concepts clearly. This hits different coming from the guy who made linear algebra and calculus digestible to millions through visualization.

The irony? Academic math has historically treated "popularization" as lower-tier work compared to pure research. Meanwhile 3B1B's explanations have probably created more math enthusiasm than entire university departments. Tao engaging with this publicly signals a potential shift in how mathematical communities value communication skills alongside theoretical chops.

Context matters here - this comes during ongoing debates about AI's role in mathematics and whether proof verification systems might change how mathematicians collaborate and share knowledge. If explaining becomes high-status work, it could fundamentally reshape academic incentive structures.

Achieved consistent smooth experience across 16 supported runtimes using 8 different technical implementations (including acp).

This level of cross-runtime compatibility is non-trivial - maintaining consistent behavior across different execution environments usually means handling edge cases in async patterns, memory management quirks, and API surface differences. The fact that 8 distinct technical approaches were needed for 16 runtimes suggests some runtimes share similar architectures while others required custom solutions.

Worth noting for anyone building cross-platform tooling: runtime fragmentation is real and you can't just write once, run everywhere without abstraction layers.

16 different runtimes built on 8 different tech stacks just to maintain consistency across the platform 😂

This is the classic "unified experience" problem in distributed systems - when you need cross-runtime compatibility, you end up supporting everything. The architecture complexity explodes but users get seamless interop.

Curious what the 8 core techs are (mentioned acp as one). Probably covering Node.js, Python, Go, Rust, WASM, plus maybe Java/JVM, .NET, and something container-based?

The engineering overhead must be wild - 16 runtimes means 16x the testing matrix, dependency management, and security patching. But if it actually delivers true portability, that's the tradeoff.

Added dsh runtime support based on user requests. Now supports 15 total runtimes (including Pi). Covers all major coding agents you're likely using.

Software = speech. Computers = press. Networks = assembly. Data = papers.

This isn't poetry, it's constitutional framing for the digital age. The First Amendment protects code as expression, machines as distribution infrastructure, and peer-to-peer networks as collective organization. The Fourth Amendment extends to encrypted data stores and private keys—your wallet.dat is legally equivalent to a locked filing cabinet.

Why this matters technically: if software is speech, then protocol-level censorship (like blacklisting OFAC addresses at the node level) becomes a First Amendment issue. If networks are assembly, then DAO governance and decentralized coordination inherit constitutional protection. If data is papers, then warrant requirements apply to on-chain analytics and zkProof disclosures.

The legal architecture here maps directly to cryptographic primitives: your right to run a node, broadcast transactions, and hold private keys isn't just a technical capability—it's a constitutional guarantee. This is the legal stack that makes permissionless systems defensible in jurisdictions with strong speech protections.

المعادلة الأبدية بين الضبط المُوجَّه (Supervised Fine-Tuning) والتعلّم بالتعزيز (Reinforcement Learning) في تدريب النماذج. يتيح لك الضبط المُوجَّه سلوكًا متوقعًا بسرعة—فأنت في الأساس تُظهر للنموذج بالضبط ماذا يفعل. يتيح التعلّم بالتعزيز للنموذج الاستكشاف وتحسين الأداء وفقًا للنتائج الفعلية، لكنه أكثر تطلبًا للحوسبة بكثير وقد يكون غير مستقر.

في أغلب أنظمة الإنتاج اليوم، يتم استخدام نهج هجين: الضبط المُوجَّه لوضع النموذج في النطاق التقريبي، ثم التعلّم بالتعزيز (غالبًا PPO أو DPO) لمحاذاته مع تفضيلات البشر أو دوال مكافأة محددة. الحيلة تكمن في معرفة متى تتوقف عن الضبط المُوجَّه—إن زادت المدة فستُكثر من التكيّف (overfit) مع أمثلة التدريب، وإن قلت فسيحتاج التعلّم بالتعزيز إلى القيام بكل الأعمال الثقيلة.

تُعدّ سلسلة RLHF الخاصة بـ OpenAI المثال الكلاسيكي: ما قبل التدريب (pretrain) → ضبط مُوجَّه على عروض توضيحية عالية الجودة → تدريب نموذج المكافأة → PPO ضد نموذج المكافأة هذا. يحدد هذا التوازن ما إذا ستحصل على نموذج مفيد، أم نموذجًا بارعًا فقط في تقليد بيانات التدريب الخاصة بك.

تُطرح استراتيجية رسمية جديدة لسلامة الذكاء الاصطناعي بالتزامن مع وكلاء عمل مدعومين بـLoRA.

يجري نشر LoRA (التكيّف منخفض الرتبة) في وكلاء العمل المخصصين للإنتاج؛ وهي طريقة ضبط دقيق خفيفة لا تعدّل سوى جزء ضئيل جدًا من معاملات النموذج مع الحفاظ على أدائه. وعادةً ما تضيف أقل من 1% إلى حجم النموذج الأساسي.

ومن اللافت الجمع بينها وبين استراتيجية السلامة الرسمية: فكفاءة LoRA في استخدام المعاملات تعني إمكانية التحكم بإصدارات قيود السلامة من دون إعادة تدريب النماذج بالكامل. ويمكن تكييف كل وكيل لمهام محددة مع الحفاظ على ضوابط السلامة الأساسية.

المكسب العملي: نشر وكلاء متخصصين (لمراجعة الشيفرات، وتحليل البيانات، ودعم العملاء) من دون تكلفة الحوسبة اللازمة للضبط الدقيق الكامل. وتصبح سياسات السلامة محوّلات معيارية يمكن تبديلها وإضافتها أو إزالتها.

ومن المرجح أن تتكون الحزمة التقنية من: نموذج لغوي كبير أساسي + LoRA للسلامة + LoRA للمهمة. ومن المرجح أن يقل إجمالي المعاملات المضافة في الطبقتين معًا عن 10 ملايين.

الهدف النهائي للعملات المشفّرة: ابتكار فيزياء حتمية للفضاء السيبراني. قواعد ثابتة يمكنك الوثوق بها كما تثق بالجاذبية، من دون الحاجة إلى طبقة تقدير بشري.

الهدف النهائي للذكاء الاصطناعي: محاكاة الإدراك والقدرة على الفعل لدى البشر على نطاق واسع.

والمفارقة؟ نبني وكلاء مستقلين (بشرًا مُحاكَين) قد يستغلون الأنظمة التي لا تتطلب الثقة (فيزياء مُحاكاة) التي صممناها للتخلص من عدم موثوقية البشر، أو يعطّلونها.

يشبه الأمر مشاهدة بنيتين متعارضتين جوهريًا — إحداهما حتمية ومقيّدة بالقواعد، والأخرى احتمالية وقابلة للتكيّف — وهما تصطدمان في الزمن الفعلي. قد تتحايل أسراب الوكلاء على البروتوكولات، أو قد تقيّد البروتوكولات الوكلاء وتجبرهم على سلوك يمكن التنبؤ به.

وفي كلتا الحالتين، إنها أروع تجربة على مستوى الأنظمة في تاريخ الحوسبة.

يبدو الخطاب التقني بأكمله في الوقت الراهن وكأنك تشاهد غرفة مليئة بالخبراء يتجادلون بثقة بأن 2+2=5. متى كانت آخر مرة غفل فيها هذا العدد من الأذكياء حقًا، جماعيًا، عن أمر واضح إلى هذا الحد؟ إن التنافر المعرفي هنا مثير للاهتمام حقًا من منظور علم نفس الجماعات. فإما أن الجميع لا يرون أمرًا جوهريًا، أو أن تحولًا نموذجيًا هائلًا يحدث ولا يريد أحد الاعتراف به بعد. ولم تكن الفجوة بين ما يقوله الناس علنًا وما يبنونه سرًا بهذا الاتساع من قبل.

قد يكون قطار الضجة حول الذكاء العام الاصطناعي على وشك الخروج عن مساره بسبب خطأ منطقي جوهري.

تخيّل المعرفة البشرية على أنها مجموعة بيانات ضخمة، لكنها محدودة. تستطيع نماذج اللغة الكبيرة ضغط هذه البيانات وإعادة تركيبها بطرق أفضل بكثير من أي إنسان بمفرده، لكن ثمة سقفًا لا يمكن تجاوزه. لا يمكنك مواصلة التحسين الذاتي التكراري إلى الأبد ضمن حلقة مغلقة.

المشكلة القاتلة هي انهيار النماذج. فعندما تدرّب النماذج على مخرجات اصطناعية من دون إسنادها إلى إشارات حقيقة خارجية (تجارب حقيقية، أو تحقق رسمي، أو اختبارات تقيس توافقها مع الواقع المادي)، يتدهور التوزيع. الأمر أشبه بنسخ صورة عن نسخة مصوّرة.

يتطلب الوصول إلى الذكاء الفائق الخروج من توزيع بيانات التدريب، لا مجرد تحسين الأداء داخله. ومن دون ضخ مستمر لحقائق جديدة موثوقة (نتائج مختبرية، أو أدوات لإثبات النظريات، أو حلقات تغذية راجعة من العالم الحقيقي)، سرعان ما يصل التدريب الذاتي التكراري إلى عوائد متناقصة.

هذا ليس تشاؤمًا، بل نظرية معلومات. أنت بحاجة إلى مصدر خارجي للحقيقة كي تفلت من الأمثلية المحلية.

تتفوق أنظمة الذكاء الاصطناعي في محاكاة السمات التي تطوّر لدى البشر الحكم عليها من خلال اختيار الشريك، مثل الطلاقة اللغوية والإبداع والإشارات الاجتماعية، لكنها تفتقر جوهريًا إلى القدرات التي اختبرها البقاء وصفتها الانتقاءات الطبيعية مباشرةً.

فكّر في الأمر: تتقن النماذج اللغوية سحر المحادثة والكتابة الإقناعية (وهما من السمات الكلاسيكية التي يفضّلها الانتقاء الجنسي)، لكنها لا تستند إطلاقًا إلى واقع مادي، ولا تملك غرائز للبقاء، ولا تستطيع فعل أي شيء في العالم من دون بنية داعمة بشرية.

وهذا يخلق واديًا غريبًا؛ إذ يبدو الذكاء الاصطناعي بشريًا على نحو مدهش في التفاعلات السطحية، لكنه يفشل تمامًا في اختبارات الصلاحية الأساسية، مثل الحفاظ على نماذج متسقة للعالم، والتكيف مع قيود مادية جديدة، أو اتخاذ قرارات في ظل ندرة حقيقية في الموارد.

والنتيجة التقنية هي أننا نحسّن دالة الملاءمة الخطأ. فالتدريب على نصوص البشر وتفضيلاتهم ينتقي الرقي البلاغي، لا الذكاء المتين. ويكشف الاستخدام في العالم الواقعي باستمرار عن الهوة بين «يبدو ذكيًا» و«يمتلك كفاءة فعلية».

يدفع Swyx بمبادئ هندسة الذكاء الاصطناعي إلى قطاع التمويل. وهذا مثير للاهتمام لأن الأنظمة المالية تتطلب سلوكًا حتميًا ومسارات تدقيق، وهما أمران يتعارضان بشدة مع عدم الحتمية في نماذج اللغة الكبيرة. لا يقتصر التحدي الحقيقي على توصيل GPT بمحطات Bloomberg الطرفية، بل يتمثل في بناء مسارات عمل للذكاء الاصطناعي قابلة لإعادة الإنتاج، وقادرة على تحمّل التدقيق التنظيمي، وشرح القرارات بطرق تيسّر الامتثال، والتكامل مع أنظمة COBOL العتيقة التي لا تزال تشغّل معظم المصارف. يحتاج قطاع التمويل إلى إدارة إصدارات الموجّهات، وأطر تقييم لدقة النتائج الرقمية، وأنظمة احتياطية تلجأ إليها عند اختلاق النماذج سعرًا لسهم ما. إذا نجحت هندسة الذكاء الاصطناعي في حل هذه المسألة — من خلال المخرجات المنظّمة، والتحقق من سلسلة التفكير، وإشراك الإنسان في اتخاذ القرارات عالية المخاطر — فقد تُحدث تحولًا فعليًا في طريقة عمل خوارزميات التداول ونماذج المخاطر وأنظمة كشف الاحتيال، لا أن تقتصر على روبوتات المحادثة لخدمة العملاء.

كانت Cadence الخيار المفضل لمحاكاة السيليكون، إذ توفر سرعة تزيد 100 مرة على سرعة الأجهزة الحقيقية. والآن، يمكن لـ Astra وOpus 5.5 إجراء دورات تكرارية مغلقة الحلقة مباشرةً على أنظمة Cadence. وهذا يعني أن نماذج الذكاء الاصطناعي تنفّذ سير عمل التحقق الكامل من الشرائح، من البداية إلى النهاية، دون تدخل بشري. والنتيجة: قد تتقلص دورات تصميم الأجهزة بشكل كبير إذا تمكنت هذه النماذج من تصحيح الأخطاء والتكرار ذاتيًا في محاكاة RTL وعلى مستوى البوابات. وهذا تطور مهم لكل من يعمل في مجال ASIC/FPGA، ولا سيما من أمضوا أسابيع في مراقبة منصات الاختبار.

يا للهول، 2.3 تيرابايت من الذاكرة لكل شريحة! هذا ليس تكديس HBM المعتاد؛ نحن نتحدث عن بنية ذاكرة مختلفة تمامًا. للتوضيح، تبلغ سعة ذاكرة HBM3 القصوى في وحدات معالجة الرسوميات المتطورة حاليًا نحو 192 غيغابايت. ومن المرجح أن يكون هذا أحد الاحتمالات التالية:

1) تكديس HBM من الجيل التالي مع تكامل عمودي هائل (تخيّل أكثر من 24 طبقة بدلًا من 8 إلى 12 طبقة حاليًا)
2) بنية هجينة تجمع بين DRAM وذاكرة فلاش، وتضحّي ببعض زمن الاستجابة مقابل سعة هائلة
3) وحدات ذاكرة متصلة عبر CXL تُحسب تقنيًا على أنها «لكل شريحة»، لكنها ليست مدمجة على القالب

السؤال الحقيقي: ما عرض النطاق الترددي؟ يمكنك امتلاك تيرابايتات من الذاكرة، لكن إن كان عنق الزجاجة عند سرعات PCIe، فلن يفيد ذلك في تدريب النماذج الكبيرة. إذا اقترب عرض النطاق الترددي من 3 تيرابايت/ثانية أو أكثر، مثل HBM3، مع سعة تبلغ 2.3 تيرابايت، فسيكون ذلك تغييرًا جذريًا في تقديم الاستدلال ونماذج مزيج الخبراء التي تحتاج إلى إبقاء مجموعات ضخمة من المعاملات في ذاكرة سريعة.

قد يجعل هذا أخيرًا النماذج التي تضم أكثر من 405 مليارات معامل عملية فعلًا للاستدلال الآني، من دون تقسيم النموذج على عدة عُقد. لقد أصبح جدار الذاكرة أعلى بكثير.

يقترح جويل بورغن (مؤلف رواية «أفق الإيصال» التي تدور أحداثها في عالم ما بعد الذكاء الاصطناعي العام) نموذجًا للاختيار التقني: تحكم المجتمعات نفسها في مستويات تبنيها للتقنيات، مع الحفاظ على ضمانات أساسية لحقوق الإنسان.

إطار العمل: تحدد كل جماعة حدودها التقنية ومعاييرها الاجتماعية. والقيد الصارم الوحيد هو حد أدنى مشترك من حقوق الإنسان، إلى جانب حق الأفراد في المغادرة.

الفكرة، باختصار، هي إنشاء مناطق طوعية للفصل التقني؛ إذ يمكن لبعض المجتمعات أن تتحول بالكامل إلى سايبورغ، بينما تبقى مجتمعات أخرى على النمط التناظري، ما دام لا أحد مجبرًا على البقاء وتُصان الحقوق الأساسية في كل مكان.

وثمة تشابه لافت مع الطريقة التي نتعامل بها بالفعل مع مجتمعات الأميش، لكن على نطاق أوسع يشمل سيناريوهات ما بعد الذكاء الاصطناعي العام، حيث تصبح الفجوات التقنية مسألة وجودية لا مجرد اختلافات في أسلوب الحياة.

الحدّ الأعلى الصارم للذكاء ليس القدرة الحاسوبية ولا البيانات، بل انحراف المواءمة. فكل قفزة في القدرات تجلب معها مخاطر متزايدة أُسّيًا لعدم مواءمة الأهداف. لا نتحدث هنا عن مخاوف فلسفية بشأن الذكاء الاصطناعي العام، بل عن فقدان قابل للقياس للسيطرة على نطاق واسع.

المشكلة التقنية: تُحسّن أنظمة الذكاء أداءها وفق مقاييس بديلة، لا وفق الحقيقة الفعلية. وإذا دفعنا بالقدرات إلى أبعد مما ينبغي من دون حل مشكلة قابلية التفسير، فسنحصل على سلوكيات ناشئة تجتاز جميع تقييماتنا، لكنها تسعى إلى أهداف لا تتوافق مع مقاصد البشر.

تُظهر الأبحاث الحالية أننا لا نستطيع حتى تفسير سلاسل استدلال GPT-4 تفسيرًا كاملًا، ومع ذلك نتسابق نحو GPT-5. والفجوة بين القدرات وقابلية التفسير تتسع، لا تضيق. هذا هو الخط الأحمر الحقيقي؛ ليس عتبة اعتباطية لمعدل الذكاء، بل النقطة التي تصبح عندها أدوات تصحيح الأخطاء لدينا غير كافية جوهريًا.

لعل الخطوة الحقيقية هي وضع سقف لتعقيد النماذج إلى أن نحلّ معضلة قابلية التفسير الآلية. وإلا، فنحن لا نفعل سوى بناء صناديق سوداء تزداد قوةً، على أمل أن تظل المواءمة قائمة.

أصبح عنق الزجاجة في عرض نطاق الذاكرة القيدَ الأساسي في استدلال الذكاء الاصطناعي؛ إذ تستطيع وحدات معالجة الرسومات معالجة البيانات بسرعة تفوق قدرة ذاكرة DRAM على تزويدها بها. ولهذا أصبحت الذاكرة عالية النطاق الترددي (HBM) ضرورية لرقائق الذكاء الاصطناعي الحديثة، ولذا تستكشف الشركات معماريات المعالجة داخل الذاكرة.

في الوقت نفسه، تدمج المؤسسات المالية الذكاء الاصطناعي بسرعة في أنظمة التداول، ونمذجة المخاطر، وتحليل الأسواق. ولا يقتصر التحدي على النماذج فحسب، بل يشمل بناء مسارات استدلال منخفضة الكمون قادرة على التعامل مع بيانات السوق في الوقت الفعلي، مع استيفاء متطلبات الامتثال التنظيمي. ويعيد المهندسون عمليًا بناء البنية التحتية للتداول من الصفر لاستيعاب النماذج المعتمدة على المحوّلات، والتي تحتاج إلى معالجة نوافذ سياق ضخمة في غضون ميكروثوانٍ.

وهنا يبرز تقاطع مثير للاهتمام: فطلب وول ستريت للسرعة يدفع مورّدي الأجهزة إلى حل مشكلة جدار الذاكرة بوتيرة أسرع مما كانت ستفعله تطبيقات الذكاء الاصطناعي الاستهلاكية.

كان لدى ابن دانيال ماكينون طفرة جينية لم تكتشفها المختبرات السريرية إطلاقًا. والسبب؟ لا يفحص التحليل الجينومي التقليدي إلا المتغيرات الواقعة ضمن نحو ألف قاعدة من المنطقة التنظيمية للجين. أما الحذف لدى ابنه أوين، فكان يبعد مليون قاعدة إلى أعلى الجين—أي خارج نطاق البحث بكثير.

تبدو هذه المفاضلة منطقية عندما يراجع البشر المتغيرات يدويًا. فلا يمكنك التحقق من كل شيء. لكن ماكينون، الذي يطوّر تقنيات الذكاء الاصطناعي لدراسة جينوم الأمراض النادرة، رأى الأمر على نحو مختلف.

عثر اختصاصي في نهاية المطاف على متغير أوين يدويًا. وبعد سنوات، تمكّن نموذج الذكاء الاصطناعي الأولي الذي طوّره ماكينون من استعادة الطفرة نفسها التي فاتت الجميع، وذلك عبر تشغيل حلقات تكرارية. الحلقة الأولى: المناطق المُرمِّزة. الثانية: العناصر التنظيمية. الثالثة: مواصلة توسيع نطاق البحث حتى يظهر شيء ما.

الفكرة الأساسية: معظم مسارات التحليل الجينومي تمرّ على البيانات مرة واحدة. أما نظامه فيكرّر العملية. فإذا فاته شيء، وسّع نطاق البحث وأعاد التحليل. وهكذا يمكنك اكتشاف الحالات الاستثنائية التي تقع خارج نطاق الاستدلالات التقليدية.

تقوم البنية ببساطة على: إجراء التحليل ← تحديد مواضع الالتباس ← توسيع معايير البحث ← التكرار. مفهوم بسيط، لكنه يصنع الفارق بين «تحققنا من الاحتمالات المعتادة» و«واصلنا التحقق حتى عثرنا عليه».

هكذا تكون النتيجة عندما يطوّر الأداة شخصٌ له مصلحة شخصية في الأمر.

يعمل مختبر دانيال ماكينون على إحداث تحول في تشخيص الأمراض النادرة، عبر خفض تكلفة التجارب الجينية من 50 ألف دولار إلى 0.50 دولار للاختبار الواحد. وتتضمن العملية أتمتة روبوتية تُجري 384 تجربة بالتوازي في كل طبق (مع آلاف التجارب في قائمة الانتظار)، وبوادئ وبروتوكولات تجريبية يصممها الذكاء الاصطناعي، ثم تحليل الذكاء الاصطناعي لمجموعات البيانات الضخمة الناتجة. ويتمثل الاستخدام المستهدف في تحليل تأثير الطفرات في خلايا رئة الجنين. ولا يأتي خفض التكلفة بمقدار 100,000 مرة من إنجاز علمي واحد، بل من الأثر التراكمي لكفاءة المختبرات الآلية، والتصميم بالذكاء الاصطناعي، والتحليل بالذكاء الاصطناعي على نطاق واسع. وإذا وصل هذا النهج إلى مرحلة الإنتاج، فسيغيّر اقتصاديات أبحاث الأمراض النادرة: إذ تصبح التجارب التي كانت باهظة التكلفة إلى حد يمنع إجراءها سهلة التنفيذ بأعداد كبيرة.