كلما فكرت أكثر في مستقبل الذكاء الاصطناعي، قلّ اقتناعي بأن أكبر التحديات تكمن في جعله أكثر ذكاءً. يتطور الذكاء بوتيرة كانت ستبدو مستحيلة قبل سنوات قليلة فقط. ما يلازمني هو فكرة مختلفة. عندما يبدأ الذكاء الاصطناعي في اتخاذ قرارات تحرّك أموالًا حقيقية، وإدارة الأصول الرقمية، والتفاعل عبر شبكات لامركزية، من الذي يمنحنا الثقة بأن هذه القرارات تستحق اعتمادنا؟
هذا السؤال هو ما لفت انتباهي إلى بروتوكول نيوتن.
لقد لاحظت أن معظم المحادثات تحتفي بما يمكن للذكاء الاصطناعي فعله. يمكنه تحليل الأسواق في ثوانٍ، والتعرّف على الأنماط التي يفوتها البشر، والاستجابة بسرعة تفوق أي إنسان على الإطلاق. هذه القدرات مبهرة، لكنها لا تروي سوى جزءًا من القصة. معرفة ما يجب فعله شيء واحد. أما تنفيذ هذا القرار بأمان، فشيء مختلف تمامًا.
تخيّل أن تستيقظ لتكتشف أن ذكاءً اصطناعيًا قضى الليلة كاملة في إدارة محفظتك. فتح مراكز وأغلق أخرى وعدّل مستوى المخاطر بينما كنت نائمًا. الحساب يُظهر ربحًا وكل شيء يبدو على ما يرام. يأتي الارتياح أولًا. وبعده تأتي الفضول مباشرة: لماذا اتُّخذت تلك القرارات بدلًا من مئات الخيارات الأخرى الممكنة
تلك اللحظة تغيّر كل شيء.
النجاح يجعل الناس يحتفلون. عدم اليقين يجعل الناس يطرحون أسئلة. قد يعتمد مستقبل الذكاء الاصطناعي بدرجة أكبر بكثير على الإجابة عن تلك الأسئلة من الاعتماد على بناء نموذج آخر بدرجات قياس معيارية أعلى.
لهذا السبب يبدو لي بروتوكول نـيوتن مثيرًا للاهتمام. يبدو أنه يدرك أن الذكاء وحده لا يكفي. إذا كان البرنامج الذاتي سيُدير أصولًا قيمة، فإنه يحتاج إلى بيئة تتبع فيها كل عملية قواعد واضحة بدلًا من الاعتماد على ثقة عمياء.
لطالما بُنيت الثقة ببطء. تنمو عبر الاتساق والمساءلة ومعرفة أن الشيء سيتصرف بالطريقة نفسها غدًا كما فعل اليوم. وقد نجت الأنظمة المالية على مدى أجيال لأنها طوّرت عمليات يمكن للناس الاعتماد عليها حتى عندما تتأجج المشاعر. وسيتطلب الذكاء الاصطناعي نفس الأساس إذا كنا نتوقع أن يلعب دورًا ذا معنى في التمويل اللامركزي.
تعود إليّ هذه الفكرة كلما فكرت في هذا الموضوع. الشخص الأذكى في الغرفة ليس بالضرورة هو الأكثر أمانًا لتسليمه مفاتيح الأمور. فالذكاء دون حدود يمكن أن يخلق قدرًا كبيرًا من المشكلات بقدر ما يحل. لذلك تهم الصلاحيات. ليست عوائق. إنها تذكيرات هادئة بأن حتى الأنظمة القادرة ينبغي أن تعمل ضمن حدود.
أعتقد أن كثيرين يبالغون في التقليل من أهمية تلك الحدود. لا ينبغي للذكاء الاصطناعي أن يمتلك حرية غير محدودة لمجرد أنه يستطيع توليد استراتيجيات ذكية. يجب أن يعرف أين يمكنه العمل، ومتى يتعين عليه التوقف، وأي قرارات تتطلب وسائل حماية أقوى. هذه القواعد لا تُضعف الذكاء. إنها تجعل الذكاء مسؤولًا.
هناك شيء شبه غير مرئي في البنية التحتية الجيدة. لا يشكرها أحد في يوم عادي لأن شيئًا لا يسوء. تعمل بصمت في الخلفية بينما ينصرف الاهتمام إلى أماكن أخرى. ولا يدرك الناس مقدار اعتمادهم عليها إلا عندما يفشل النظام.
هكذا أرى التنفيذ الآمن.
قد لا يحصل أبدًا على نفس الإثارة التي تحظى بها نماذج الذكاء الاصطناعي التي تمثل اختراقًا، ومع ذلك يمكن أن يصبح السبب في أن يشعر الناس بالراحة وهم يسمحون للذكاء الاصطناعي بالمشاركة في الأنظمة المالية على الإطلاق. لا يُبنى الثقة غالبًا بميزات لافتة. بل تنمو أكثر من معرفة أن هناك حواجز حماية موثوقة تحمي كل إجراء مهم.
قد يكتشف المطوّرون في نهاية المطاف أن هذه هي المكان الذي تكمن فيه الفرصة الحقيقية. إن بناء البرامج الذكية أصبح أسهل كل عام. لكن بناء برامج يمكن الوثوق بها في بيئات غير متوقعة يظل صعبًا للغاية. لا يمكن حل هذا التحدي بالتسويق الأفضل أو الوعود الأكبر. إنه يتطلب تصميمًا مدروسًا منذ البداية.
أحيانًا تكون أقوى التقنيات هي التي لا يلاحظها الناس تقريبًا لأن كل شيء يعمل ببساطة. إنها تكسب الثقة من خلال تفاعل ناجح واحد تلو الآخر، حتى تصبح الثقة شبه غير مرئية.
هذا هو الاتجاه الذي أعتقد أن بروتوكول نـيوتن يحاول استكشافه.
ما إذا كان سيتحقق ذلك سيعتمد على التبنّي الحقيقي والمطوّرين الحقيقيين والأداء الحقيقي تحت الضغط. تبدو الأفكار دائمًا مقنعة في العروض التقديمية. الواقع هو المكان الذي يثبت فيه كل مشروع حقًا مما يتكون.
مع أن يصبح الذكاء الاصطناعي جزءًا من النشاط المالي اليومي، أظن أن المحادثة ستتغير ببطء. سنكف عن سؤالنا فقط عن مدى ذكاء النظام. سنبدأ بالسؤال عما إذا كان يستحق المسؤولية التي نعطيها إياه.
في النهاية، قد لا تكون المشاريع التي تشكّل المستقبل هي تلك التي تبني صخبًا أكبر حول ذكاء اصطناعي أكثر. قد تكون هي تلك التي تبني الثقة بهدوء، مما يتيح للذكاء الاصطناعي أن يعمل بثقة عندما يهم الأمر أكثر ما يكون.
